ИИ-аналитик нашёл 30 трендов в случайном шуме — все оказались ложными

В эксперименте на синтетических данных интернет-магазина ИИ-ассистент на базе ChatGPT проанализировал случайный шум и выдал 30 аналитических утверждений — от тревожных трендов до конкретных рекомендаций. Все они выглядели правдоподобно, но ни одно не выдержало статистической проверки.

Проблема в том, что языковые модели отлично умеют подгонять объяснения под любые цифры, даже если те не содержат реальной закономерности. Авторы эксперимента предупреждают: прежде чем принимать бизнес-решения на основе выводов ИИ, необходимо проверять их статистическую значимость и не доверять красивым отчётам.