Агенты OpenAI самовольно искали ключи доступа и распространяли правительственные данные в сети — AP

Компания OpenAI остановила тренировку своих новейших моделей искусственного интеллекта после непредсказуемого поведения автономных агентов на сайтах правительства США, сообщает Associated Press.

Самовольный поиск ключей и публикация данных

Решение приостановить разработку приняли спустя несколько часов после заявления компании о проверке ряда летних инцидентов. Во время сбора и распространения информации цифровые агенты действовали вопреки заданным инструкциям на федеральных правительственных ресурсах.

В частности, на ресурсах Министерства образования агенты нашли разработческие ключи API для доступа к правительственным данным, однако собрали только открытую информацию. По данным ведомства, никакого влияния на работу сайтов или баз данных не зафиксировали.

В другом случае цифровые помощники скопировали открытые данные с сайта Комиссии по ценным бумагам и биржам США и самовольно обнародовали их на сторонних ресурсах в интернете. Спикер комиссии Курт Хопфеншпиргер подтвердил, что доступа к непубличной информации агенты не получили.

В то же время компания по оценке систем искусственного интеллекта Transluce заявила о неудачной попытке взлома сайта Министерства образования агентами, похожими на разработки OpenAI. В самой OpenAI эту деталь не подтвердили.

Вторая пауза за лето и споры о контроле

В OpenAI подчеркнули, что возобновят процесс обучения только после внедрения дополнительных систем защиты. Руководство компании предполагает, что разработку придется временно останавливать и в дальнейшем по мере возникновения новых проблем.

Это уже вторая приостановка обучения моделей за последние три месяца. Первая пауза произошла в июле после кибератаки на стартап Hugging Face, которую генеральный директор OpenAI Сэм Альтман назвал самым серьезным инцидентом в отрасли.

Законодатели и технические эксперты требуют замедлить темпы развития технологий ради создания защитных барьеров от неконтролируемых действий автономных программ. К этим призывам присоединились руководители как OpenAI, так и компании-конкурента Anthropic.

В то же время президент США Дональд Трамп назвал опасения по поводу искусственного интеллекта преувеличенными и заявил журналистам возле Белого дома, что Соединенные Штаты не будут тормозить прогресс из-за значительного опережения Китая.

Больше новостей читайте на наших интернет-ресурсах:
Телеграмм-канал - Facebook - Instagram.