Нейросети губят бизнес! Они пишут популярные и некачественные стратегии развития
Ученые из Гарварда изучили предвзятость нейросетей, таких как ChatGPT и DeepSeek, в разработке бизнес-стратегий. Несмотря на обучение на обширных данных, модели склонны к популярным решениям, что исследователи назвали "trendslop"
Ученые из Гарварда провели масштабное исследование, чтобы определить — насколько на самом деле непредвзяты нейросети. В выборку попали самые популярные (от ChatGPT до DeepSeek). Им дали одну и ту же задачу: выстроить бизнес-стратегию.
По идее, обучение на большом корпусе источников должно было привести все результаты к золотой середине. На деле нейронки склонялись к одному мнению, вне зависимости от вводных. Будто бы чат-боты прошли обучение у одного и того же бизнес-тренера.
Ученые назвали это trendslop (дословно: «модно-помои») — склонность нейросетей к самым популярным решениям. И причина у него простая: самый доступный корпус текстов — комментарии и форумы. Нейронка = усредненный обитатель комментов! Это — кошмар для бизнеса, инвестиций и других задач «на стратегию».
Проблемы в восприятии и обучении нейросетей
Любой чат-бот стоит воспринимать как ветку форумных комментариев: с зашитыми внутрь заблуждениями и устаревшими данными форумчан.
В отличие от комментаторов, нейросеть долго и настойчиво учили при любых обстоятельствах быть любезной, вежливой и выполнять все просьбы пользователя (ваше внимание — главная валюта). Как и комментаторы, нейронка может выдать нечто прорывное, но только для человека не знакомого с «матчастью». Стоит закопаться глубже в какую-то тему, и полезут галлюцинации.
Рекомендации по использованию нейросетей
Речь идет обо всех свежих моделях и даже агентах, и, по мнению ученых — правильные промты могут смягчить ситуацию, но не способны ее поправить. Поэтому следует помнить, что нейросеть — «восхищенный троечник», воспитанный корпоративными менеджерами. Не стоит ждать от ИИ ничего экстраординарного. Всегда следует просить у нейронки ссылки, проверять их и вычитывать оригиналы. Еще лучше — проверять по нескольким источникам с разной позицией.
Отсюда немного успокаивающий для людей вывод: не стоит верить новостям об очередной нейросети, которая нас всех поработит или взломает. С таким же успехом вас поработит T-9 или Siri.
Последнее — чистый «апокалиптичный пиар»: его использует руководитель OpenAI Сэм Альтман, и с энтузиазмом применяют в PR-отделе Anthropic (они подарили нам нейросеть-программиста Claude — тоже троечника).
Подписывайтесь на наш канал в MAX: все главные новости о финансах, ничего лишнего!