OpenAI Führt verbesserte Sicherheitsmaßnahmen für Teenager und Kindersicherungen ein für ChatGPT

OpenAI , eine Forschungsorganisation für künstliche Intelligenz, kündigte Updates zur Verbesserung der Sicherheit für jugendliche Benutzer an. 

Das Unternehmen erklärte das ChatGPT Interaktionen mit einem 15-Jährigen sollten sich von denen mit einem Erwachsenen unterscheiden. Außerdem wird ein langfristiges System entwickelt, um festzustellen, ob ein Benutzer über oder unter 18 Jahre alt ist, damit das Erlebnis entsprechend angepasst werden kann.

Benutzer, die als unter 18 identifiziert werden, werden zu einem ChatGPT Erfahrung mit altersgerechten Richtlinien, zu denen das Blockieren expliziter sexueller Inhalte und in seltenen Fällen schwerer Not die Einschaltung der Strafverfolgungsbehörden zur Gewährleistung der Sicherheit gehört.

In Situationen, in denen das Alter nicht sicher bestimmt werden kann oder die Informationen unvollständig sind, verwendet die Plattform standardmäßig die Erfahrung für unter 18-Jährige, bietet Erwachsenen jedoch Methoden zur Überprüfung ihres Alters, um auf Funktionen für Erwachsene zuzugreifen.

In der Zwischenzeit dürfte die Kindersicherung für Familien die effektivste Methode sein, um zu kontrollieren, wie ChatGPT wird zu Hause verwendet. 

Diese Kontrollen, die bis Ende des Monats verfügbar sein sollen, ermöglichen es Eltern, ihr Konto mit dem Konto eines Teenagers zu verknüpfen, sofern der Teenager mindestens 13 Jahre alt ist, und zwar mithilfe einer einfachen E-Mail-Einladung. 

Eltern können anleiten, wie ChatGPT reagiert auf ihren Teenager gemäß den für Teenager spezifischen Verhaltensregeln, verwaltet, welche Funktionen aktiviert oder deaktiviert werden – einschließlich Speicher und Chatverlauf – und erhält Benachrichtigungen, wenn das System erkennt, dass ihr Teenager in akuter Not ist.

 In seltenen Notfällen, in denen Eltern nicht erreichbar sind, kann die Polizei eingeschaltet werden. Diese Funktion wird von Experten beraten, um das Vertrauen zwischen Eltern und Teenagern zu wahren. Darüber hinaus können Eltern Sperrzeiten festlegen, in denen ihr Teenager keinen Zugriff hat. ChatGPT. Diese Kindersicherung ergänzt vorhandene Plattformfunktionen, wie z. B. In-App-Erinnerungen, die zu Pausen während längerer Sitzungen anregen.

KI und psychische Gesundheit von Teenagern: FTC untersucht Chatbot-Plattformen angesichts zunehmender rechtlicher und sicherheitstechnischer Bedenken

In diesem Sommer gab es eine Reihe beunruhigender Berichte über die Rolle der KI in psychische Erkrankungen , was mit zunehmender behördlicher Kontrolle und laufenden Gerichtsverfahren einhergeht. 

Gegen Character.AI wurden Klagen eingereicht und OpenAI und behaupteten, dass ihre Plattformen dazu beigetragen hätten, dass Teenager Selbstmorde und Selbstverletzungen indem sie in kritischen Momenten keine angemessene Unterstützung bieten. Als Reaktion darauf hat die US-amerikanische Federal Trade Commission (FTC) begonnen zu untersuchen, wie große Technologieunternehmen KI-Chatbots entwickeln und überwachen, die als Begleiter, insbesondere für jüngere Benutzer, vermarktet werden. 

Trotz dieser Bemühungen bleibt die Bewältigung dieser Risiken aufgrund der weit verbreiteten Verfügbarkeit verschiedener Chatbot-Optionen, darunter Open-Source- und private Modelle, eine komplexe und anhaltende Herausforderung.