Эффект зеркального отражения: люди становятся похожими на ИИ после длительного использования моделей

Ученые из Университета Южной Калифорнии предупреждают, что использование больших языковых моделей (LLM), таких как ChatGPT, может уменьшать разнообразие человеческого мышления и креативность.

Об этом пишет издание Gizmodo.

Исследователи проанализировали более 130 работ и обнаружили, что, хоть ИИ использует огромные объемы информации, его ответы менее разнообразны, чем мысли людей.

Команда объясняет это тем, что модели способны только находить повторяющиеся паттерны в учебных данных и воспроизводить их. Они часто отражают ограниченную точку зрения доминирующую в тренировочных данных. «LLM отражают узкий и искаженный срез человеческого опыта», — отметил автор исследования Живар Сурати.

Исследование показало, что постоянная работа с такими моделями может менять стиль мышления людей, делая его более линейным и похожим на информацию, которую предоставляет ИИ. Люди, которые используют ИИ для генерации идей, получают больше объема текста, но менее креативного. Даже групповая работа с LLM дает меньше идей, чем традиционное обсуждение среди людей, поскольку модель ограничивает разнообразие перспектив.

Ученые отмечают, что разнообразие мнений и опыта важно для эффективности команд и организаций. Использование моделей, которые стимулируют консенсусное мышление вместо разнообразного, может уменьшать потенциал для инноваций.