Character.AI restringe el chat abierto a usuarios menores de 18 años e introduce medidas de seguridad.

Plataforma de chatbot impulsada por IA, Carácter.AI Anunció que los usuarios menores de 18 años ya no podrán entablar conversaciones abiertas con sus chatbots de IA, tras las preocupaciones de legisladores y familias sobre los riesgos potenciales de la plataforma para los adolescentes.

El cambio entrará en vigor el 25 de noviembre. Mientras tanto, la plataforma planea implementar una experiencia modificada para usuarios menores de 18 años que les permitirá continuar con actividades creativas como la producción de videos, historias y transmisiones interactivas con los Personajes. Durante esta transición, las sesiones de chat para usuarios menores de 18 años estarán limitadas a dos horas diarias, y se prevén reducciones adicionales en las semanas previas a la implementación completa.

Además, Character.AI implementará nuevas medidas de verificación de edad para garantizar que los usuarios vean funciones adecuadas a su edad. La empresa ha desarrollado un sistema interno de verificación de edad y lo integrará con herramientas de terceros, como Persona, para mejorar la precisión y la fiabilidad.

La plataforma también anunció la creación y financiación del Laboratorio de Seguridad de IA, una organización independiente sin ánimo de lucro dedicada a promover la integración de la seguridad en el entretenimiento con IA. El laboratorio se centrará en desarrollar enfoques de seguridad innovadores, colaborar con expertos externos y compartir los resultados de sus investigaciones. Character.AI pretende que el laboratorio brinde al entretenimiento con IA el mismo nivel de atención a la seguridad que se aplica a otras aplicaciones de IA, y planea involucrar a empresas tecnológicas, académicos, investigadores y legisladores en esta iniciativa.

Character.AI actualiza su plataforma para menores de 18 años para mejorar la seguridad de los adolescentes ante las preocupaciones regulatorias.

Character.AI ha anunciado cambios en su plataforma para usuarios menores de 18 años en respuesta a la creciente preocupación por las interacciones de la IA con adolescentes. Informes recientes e investigaciones de los organismos reguladores han destacado los riesgos potenciales asociados a las conversaciones abiertas con IA, incluso con controles de contenido. Tras revisar las opiniones de los organismos reguladores, especialistas en seguridad y padres, la empresa determinó que es necesario modificar la experiencia para menores de 18 años con el fin de proteger mejor a los usuarios jóvenes.

Estos ajustes representan pasos importantes para la plataforma y, en general, son más cautelosos que las medidas adoptadas por servicios similares. El objetivo es priorizar la seguridad de los usuarios adolescentes, al tiempo que se les brindan oportunidades para la creatividad, la exploración y la participación. Character.AI tiene la intención de seguir colaborando con expertos en seguridad, organismos reguladores y otras partes interesadas para garantizar que la protección del usuario siga siendo fundamental a medida que la plataforma desarrolla nuevas funciones que fomentan la expresión creativa y la interacción comunitaria.

Character.AI es una plataforma de IA conversacional que permite a los usuarios interactuar y crear personajes impulsados ​​por IA, o personas bot, basados ​​en grandes modelos de lenguaje.