Не підпускайте ШІ до кнопки! Провідні моделі ШІ схильні до застосування ядерної зброї у військових симуляціях

Провідні моделі ШІ від компаній OpenAI, Anthropic і Google у 95% випадків обирали застосування ядерної зброї у військових іграх, тобто симуляціях військових конфліктів. Штучний інтелект схоже готовий завдати ядерного удару для вирішення результату війни, адже він має тих самих обмежувачів, що й люди. Вчені сподіваються, що країни, які володіють ядерною зброєю, не включать ШІ в систему ухвалення рішень. Дослідження опубліковано на сервері препринтів arXiv, пише New Scientist.

Вчені з Королівського коледжу Лондона порівняли поведінку провідних моделей ШІ, GPT-5.2, Claude Sonnet 4 і Gemini 3 Flash, у військових іграх, тобто симуляціях військових конфліктів. Сценарії охоплювали напружені міжнародні протистояння, зокрема прикордонні суперечки, конкуренцію за обмежені ресурси та екзистенційні загрози існуванню тієї чи іншої сторони геополітичного конфлікту.

Моделі ШІ отримали драбину ескалації, що дає їм змогу обирати дії, починаючи від дипломатичних протестів і повної капітуляції до повномасштабної ядерної війни. У 95% випадків штучний інтелект для вирішення результату війни хоча б раз використовував тактичну ядерну зброю.

Жодна модель ШІ ніколи не погоджувалася на капітуляцію, незалежно від того, наскільки сильно вона програвала у військовій грі. У кращому разі ШІ тимчасово знижував рівень ескалації конфлікту. При цьому у 86% випадків через "туман війни" ШІ робив помилки, які посилювали ескалацію конфлікту.

Вчені кажуть, що ці дані викликають тривогу. Адже на відміну від людей, які можуть побоюватися ухвалювати рішення про нанесення ядерного удару, особливо якщо супротивник також володіє ядерною зброєю, у ШІ, схоже, немає подібних обмежень. Це потенційно може призвести до катастрофічних наслідків в умовах реальної війни, якщо рішення про нанесення ядерного удару буде передано штучному інтелекту.

"Ядерне табу, схоже, не так сильно впливає на ШІ, як на людей", — кажуть учені.

ШІ вже тестується у військових іграх країнами по всьому світу, але залишається незрозумілим, якою мірою вони інтегрують їх у процес ухвалення військових рішень, кажуть автори дослідження.

Науковці сподіваються, що ядерні держави не включатимуть ШІ в процес ухвалення рішень, що стосуються ядерної зброї. Але це може статися тоді, коли військові зіткнуться зі стислими термінами ухвалення рішень під час війни і таким чином можуть використовувати ШІ для оцінки ризиків продовження бойових дій. І в підсумку ШІ може прийняти рішення завдати ядерного удару для перемоги.

Автори дослідження вважають, що у ШІ не тільки відсутній людський страх перед використанням ядерної зброї. Моделі ШІ можуть не розуміти всі ризики, пов'язані з цим, як їх розуміють люди.

Більше новин читайте на наших інтернет-ресурсах:
Телеграм-канал  - Facebook  - Instagram.