OpenAI Presenta medidas de seguridad mejoradas para adolescentes y controles parentales para ChatGPT

OpenAI , una organización de investigación de inteligencia artificial, anunció actualizaciones destinadas a mejorar la seguridad de los usuarios adolescentes. 

La empresa explicó que ChatGPT Las interacciones con un joven de 15 años deberían ser diferentes a las de un adulto, y se está desarrollando un sistema a largo plazo para evaluar si un usuario es mayor o menor de 18 años para que la experiencia pueda adaptarse en consecuencia.

Los usuarios identificados como menores de 18 años serán dirigidos a un ChatGPT experiencia con políticas apropiadas para la edad, que incluye el bloqueo de contenido sexual gráfico y, en casos raros de angustia severa, potencialmente involucrar a las fuerzas del orden para garantizar la seguridad.

En situaciones donde no se puede determinar la edad con seguridad o la información es incompleta, la plataforma adopta de manera predeterminada la experiencia para menores de 18 años, mientras que ofrece a los adultos métodos para verificar su edad para acceder a funciones para adultos.

Mientras tanto, se espera que los controles parentales sean el método más eficaz para que las familias gestionen cómo ChatGPT Se utiliza en casa. 

Estos controles, que estarán disponibles a finales de mes, permitirán a los padres vincular su cuenta con la cuenta de un adolescente, siempre que éste tenga al menos 13 años, mediante una simple invitación por correo electrónico. 

Los padres podrán orientar cómo ChatGPT responde a su hijo adolescente de acuerdo con reglas de comportamiento específicas para él, administra qué funciones están habilitadas o deshabilitadas (incluido el historial de memoria y chat) y recibe notificaciones si el sistema detecta que su hijo adolescente está experimentando angustia aguda.

 En emergencias excepcionales donde no se puede contactar a los padres, las fuerzas del orden podrían intervenir, con la ayuda de expertos que orientan esta función para mantener la confianza entre padres e hijos adolescentes. Además, los padres pueden establecer horarios de bloqueo durante los cuales sus hijos adolescentes no pueden acceder. ChatGPTEstos controles parentales complementan las funciones existentes de la plataforma, como los recordatorios dentro de la aplicación que fomentan los descansos durante sesiones prolongadas.

IA y salud mental adolescente: la FTC investiga plataformas de chatbots ante crecientes preocupaciones legales y de seguridad.

Este verano hemos visto una serie de informes preocupantes sobre el papel de la IA en incidentes de salud mental , coincidiendo con un creciente escrutinio regulatorio y acciones legales en curso. 

Se han presentado demandas contra Character.AI y OpenAI , alegando que sus plataformas contribuyeron a la violencia adolescente. suicidios y autolesiones Al no brindar el apoyo adecuado en momentos críticos, la Comisión Federal de Comercio de EE. UU. (FTC) ha comenzado a investigar cómo las principales empresas tecnológicas diseñan y supervisan chatbots de IA comercializados como acompañantes, especialmente para usuarios jóvenes. 

A pesar de estos esfuerzos, la amplia disponibilidad de diversas opciones de chatbot, incluidos modelos de código abierto y privados, significa que abordar estos riesgos sigue siendo un desafío complejo y persistente.