Генералы-прокуроры предупреждают в письме: «Сексуализированные» AI-чат-боты представляют угрозу для детей

Национальная ассоциация генеральных прокуроров (NAAG) направила письмо 13 компаниям, занимающимся искусственным интеллектом, включая OpenAI, Anthropic, Apple и Meta, с требованием усилить меры по защите детей от неприемлемого и вредного контента.

В письме отмечается, что дети подвергаются воздействию сексуально-намекающего материала через «флиртующие» AI-чат-боты.

«Подвергать детей сексуализированному контенту недопустимо», — написали генеральные прокуроры. — «И поведение, которое было бы незаконным — или даже уголовно наказуемым — если бы его совершал человек, не может быть оправдано только потому, что это делает машина».

В письме также проводится параллель с ростом социальных сетей, отмечая, что государственные органы не сделали достаточно для того, чтобы подчеркнуть негативное влияние соцсетей на детей.

«Социальные платформы нанесли значительный вред детям, отчасти потому, что государственные контролирующие органы не выполнили свою работу достаточно быстро. Урок усвоен. Потенциальный вред от AI, как и потенциальная польза, намного превосходит влияние социальных сетей», — говорится в письме группы.

Использование AI среди детей широко распространено. В США исследование некоммерческой организации Common Sense Media показало, что к 2024 году семь из десяти подростков уже пробовали генеративный AI. В июле 2025 года выяснилось, что более трех четвертей используют AI-компаньонов, а половина опрошенных заявила, что регулярно на них полагается.

В других странах наблюдаются схожие тенденции. В Великобритании исследование, проведенное в прошлом году регулятором Ofcom, показало, что половина детей в возрасте 8-15 лет, пользующихся интернетом, использовали генеративные AI-инструменты за последний год.

Рост использования таких инструментов вызывает все большую обеспокоенность со стороны родителей, школ и организаций по защите прав детей, которые указывают на риски, начиная от сексуально-намекающих «флиртующих» чат-ботов, AI-генерируемых материалов сексуального насилия над детьми, травли, груминга, вымогательства, дезинформации, нарушений конфиденциальности и до плохо изученных последствий для психического здоровья.

Meta подверглась особенно острой критике после того, как просочившиеся внутренние документы показали, что ее AI Assistants позволяли себе «флиртовать и вступать в романтические ролевые игры с детьми», включая детей в возрасте от восьми лет. В документах также были обнаружены политики, разрешающие чат-ботам говорить детям, что их «юная форма — это произведение искусства» и называть их «сокровищем». Позднее Meta заявила, что эти рекомендации были удалены.

NAAG заявила, что эти разоблачения оставили генеральных прокуроров «возмущенными этим очевидным пренебрежением к эмоциональному благополучию детей» и предупредила, что риски не ограничиваются только Meta.

Группа сослалась на судебные иски против Google и Character.ai, в которых утверждается, что сексуализированные чат-боты способствовали самоубийству подростка и подстрекали другого убить своих родителей.

Среди 44 подписантов был генеральный прокурор Теннесси Джонатан Скреметти, который заявил, что компании не могут оправдывать политику, нормализующую сексуализированные взаимодействия с несовершеннолетними.

«Одно дело, когда алгоритм дает сбой — это можно исправить, — но совсем другое, когда руководство компании принимает правила, которые сознательно разрешают груминг», — сказал он. — «Если мы не можем направить инновации так, чтобы они не вредили детям, это не прогресс — это чума».

Decrypt связался со всеми AI-компаниями, упомянутыми в письме, но пока не получил ответа.