ИИ-стражи Meta: защита подростков от цифровых угроз в режиме реального времени

Meta представила новый набор средств защиты на базе искусственного интеллекта, специально разработанных для повышения безопасности подростков, использующих её платформы, включая WhatsApp, Instagram и Facebook. Компания объявила, что продвинутые чат-боты с искусственным интеллектом будут отслеживать и фильтровать вредоносный контент, выявлять подозрительные взаимодействия и предупреждать пользователей или администраторов при обнаружении потенциально опасного поведения. Эта инициатива соответствует растущему давлению со стороны регулирующих органов и общественности, требующих усиления цифровой защиты несовершеннолетних.

Системы искусственного интеллекта будут использовать обработку естественного языка (NLP) и поведенческую аналитику для выявления рисков, таких как кибербуллинг, груминг и доступ к неприемлемым материалам. Внутренние исследования Meta показывают, что вредоносные взаимодействия в социальных сетях встречаются среди пользователей в возрасте от 13 до 18 лет чаще, чем предполагалось ранее, что обусловило необходимость проактивного вмешательства. Компания подчеркнула, что эти системы не будут отслеживать личные переписки таким образом, который нарушает конфиденциальность пользователей, а будут сосредоточены на выявлении вредоносных моделей и поведения.

Одной из ключевых функций чат-ботов с искусственным интеллектом является их способность обнаруживать и отмечать потенциально опасные беседы в реальном времени. Например, система может распознавать шаблоны, указывающие на попытку хищника завести контакт с несовершеннолетним, и автоматически предупреждать пользователя или, в некоторых случаях, уведомлять местные органы власти, если будут достигнуты определённые пороги. Meta также внедрила механизмы управления, позволяющие подросткам настраивать параметры конфиденциальности и отказываться от определённых функций мониторинга, обеспечивая баланс между безопасностью и автономией.

Новые меры безопасности являются частью более широкой инициативы Meta под названием Responsible AI, целью которой является разработка прозрачных, справедливых и эффективных систем искусственного интеллекта для снижения онлайн-рисков. Компания сотрудничает с организациями по защите детей для обучения моделей искусственного интеллекта на наборах данных, отражающих широкий спектр вредоносного поведения в интернете. Эти партнёрства направлены на повышение точности и культурной релевантности вмешательств искусственного интеллекта, особенно в различных регионах и на разных языках.

Meta также взяла на себя обязательство регулярно публиковать отчёты о прозрачности, в которых будут подробно описаны эффективность чат-ботов с искусственным интеллектом и количество выявленных и решённых инцидентов. Компания признаёт, что системы искусственного интеллекта не безупречны, и что постоянное совершенствование необходимо для снижения числа ложных срабатываний и обеспечения того, чтобы система не оказывала чрезмерного влияния на пользовательский опыт. Согласно внутренним метрикам, чат-боты уже отметили тысячи подозрительных взаимодействий на ранних этапах тестирования, и растущий процент этих случаев подтверждается как вредоносные.

Аналитики отрасли высоко оценили этот шаг как значительный прогресс в обеспечении цифровой безопасности детей, хотя некоторые предупреждают, что искусственный интеллект сам по себе не может решить все онлайн-риски. По словам одного из экспертов, успех инициативы во многом будет зависеть от того, насколько эффективно обучаются модели искусственного интеллекта и насколько оперативно работают механизмы реагирования при выявлении риска. По мере внедрения чат-ботов с искусственным интеллектом на своих платформах Meta продолжит собирать отзывы пользователей и регуляторов для совершенствования системы и устранения возникающих проблем.

Источник: