Ефект віддзеркалення: люди стають схожими на ШІ після тривалого використання моделей

Вчені з Університету Південної Каліфорнії попереджають, що використання великих мовних моделей (LLM), таких як ChatGPT, може зменшувати різноманітність людського мислення та креативність.

Про це пише видання Gizmodo.

Дослідники проаналізували понад 130 робіт і виявили, що, хоч ШІ використовує величезні обсяги інформації, його відповіді менш різноманітні, ніж думки людей.

Команда пояснює це тим, що моделі здатні лише знаходити повторювані патерни у навчальних даних і відтворювати їх. Вони часто відображають обмежену точку зору домінуючу в тренувальних даних. «LLM відображають вузький і спотворений зріз людського досвіду», — зазначив автор дослідження Жівар Сураті.

Дослідження показало, що постійна робота з такими моделями може змінювати стиль мислення людей, роблячи його більш лінійним та схожим на інформацію, яку надає ШІ. Люди, які використовують ШІ для генерації ідей, отримують більше обсягу тексту, але менш креативного. Навіть групова робота з LLM дає менше ідей, ніж традиційне обговорення серед людей, оскільки модель обмежує різноманітність перспектив.

Вчені наголошують, що різноманітність думок і досвіду важлива для ефективності команд та організацій. Використання моделей, які стимулюють консенсусне мислення замість різноманітного, може зменшувати потенціал для інновацій.