Meta усиливает родительский контроль: опасные разговоры подростков с ИИ могут получать предупреждения

Компания Meta внедряет новый инструмент безопасности, который поможет родителям своевременно реагировать на потенциально опасные разговоры подростков с чат-ботами на основе искусственного интеллекта. Новая функция под названием «Уведомления для родителей» позволит взрослым получать сообщения в случаях, когда система обнаружит, что подросток обсуждает с ИИ темы, связанные с самоповреждением или суицидальными мыслями.

Сначала возможность станет доступна пользователям родительского контроля в Instagram в США, Великобритании, Австралии и Канаде. До конца года Meta планирует распространить ее на другие страны мира.

Вместе с уведомлением родители будут получать рекомендации от специалистов по психическому здоровью о том, как правильно начать разговор с ребенком и оказать необходимую поддержку.

В компании отметили, что систему разрабатывали совместно с родителями и экспертами. Искусственный интеллект будет анализировать диалоги, чтобы выявлять ситуации, которые могут требовать внимания. При этом перед отправкой уведомления каждый случай дополнительно будет проверять человек.

В Meta подчеркнули, что если ситуация останется неясной, компания будет действовать по принципу максимальной осторожности.

Также Meta работает над возможностью автоматического обращения в службы экстренной помощи в случаях, когда общение пользователя с Meta AI может указывать на непосредственную угрозу жизни.

Кроме того, компания продолжает совершенствовать работу своих ИИ-инструментов с чувствительными запросами при участии специалистов по психическому здоровью подростков. Цель таких изменений — сделать использование искусственного интеллекта более безопасным для молодых пользователей.

Больше новостей читайте здесь: up.mk.ua/uk, www.facebook.com/upravda,  t.me/upravda