Искусственный интеллект чуть не толкнул США на войну с Китаем

Американские военные весной этого года были на пороге войны с Китаем из-за разведывательного доклада с ложной информацией, сгенерированной с помощью искусственного интеллекта.

Об этом сообщило CNN со ссылкой на четырех собеседников, знакомых с ситуацией.

Отмечается, что инцидент произошел на фоне войны с Ираном. Военные США получили доклад, в котором утверждалось, что китайское судно перевозит компоненты ядерного оружия. Сообщение сразу вызвало тревогу, после чего военные начали готовиться к перехвату корабля.

Вооружённые американские военнослужащие уже готовились высадиться на судно, а военные самолёты уже находились в воздухе. Ситуация изменилась лишь незадолго до начала операции, когда чиновники детальнее проверили происхождение информации.

Выяснилось, что доклад подготовил аналитик командования специальных операций, используя чатбот с искусственным интеллектом. Именно ИИ неправильно определил характер груза на китайском судне. Какой именно груз был идентифицирован неверно, CNN установить не удалось.

Один из источников назвал подготовленный документ «полностью ложным», однако последствия могли быть значительно серьезнее. По словам собеседника издания, ошибка «едва не начала войну». Любая американская операция против китайского судна могла вызвать дальнейшую эскалацию между Вашингтоном и Пекином.

По данным CNN, аналитик сначала попросил чатбот проанализировать разведданные относительно манифеста судна, которые поступили от Тихоокеанского командования специальных операций США. Чатбот объединил открытые источники с разведывательными данными, полученными с помощью средств радиоэлектронной разведки, после чего пришёл к ошибочному выводу о грузе.

После этого аналитик снова использовал ИИ – на этот раз для оформления полученных выводов в стандартный разведывательный доклад. Документ распространили среди военных чиновников, которые могли воспринимать его как обычный проверенный аналитический материал.

Инцидент произошёл на фоне масштабного внедрения ИИ в американских вооружённых силах. Технологию планируют использовать для анализа больших массивов разведывательной информации, выбора целей для ударов, логистики и других задач. В январе министр обороны США Пит Гегсет представил стратегию ускоренного внедрения искусственного интеллекта.

В то же время, по данным CNN, использование ИИ в военной и разведывательной сфере остаётся децентрализованным: разные подразделения применяют разные системы и придерживаются разных правил безопасности. Единого стандарта проверки информации, которую генерируют такие инструменты, нет.

По словам источников CNN, случаи так называемых «галлюцинаций» ИИ, когда система генерирует ложную информацию, уже происходили в американском разведывательном сообществе. Некоторые чиновники опасаются, что стремление ускорить подготовку разведданных может увеличивать количество ошибок.

Больше новостей читайте на наших интернет-ресурсах:

https://t.me/upravda - Телеграм-канал;

https://www.facebook.com/upravda - Facebook;    

https://www.instagram.com/yuzhka_newspaper/ - Instagram.