Character.AI、18歳未満のユーザーによるオープンエンドチャットを制限し、安全対策を導入

AI搭載チャットボットプラットフォーム キャラクター.AI 同社は、議員や家族からプラットフォームが10代の若者に与える潜在的なリスクについての懸念が寄せられたことを受け、18歳未満のユーザーは同社のAIチャットボットと自由形式の会話ができなくなると発表した。

この変更は11月25日までに発効予定です。その間、プラットフォームは18歳未満のユーザー向けに、動画やストーリーの制作、キャラクターとのインタラクティブな配信など、クリエイティブな活動を継続できるよう、変更されたエクスペリエンスを導入する予定です。この移行期間中、18歳未満のユーザーのチャットセッションは1日2時間に制限され、完全導入までの数週間でさらに短縮される予定です。

さらに、Character.AIは、ユーザーに年齢に適した機能を提供するため、新たな年齢確認対策を導入します。同社は社内に年齢確認システムを開発し、Personaを含むサードパーティツールと統合することで、精度と信頼性の向上を目指します。

同プラットフォームは、AIエンターテインメントにおける安全性の向上を目的とした独立した非営利団体であるAI Safety Labの設立と資金提供も発表しました。このラボは、革新的な安全対策の開発、外部専門家との連携、研究成果の共有に注力します。Character.AIは、このラボが他のAIアプリケーションと同様にAIエンターテインメントにも安全性を重視した取り組みを提供することを目指しており、テクノロジー企業、学術界、研究者、政策立案者をこの取り組みに巻き込む予定です。

Character.AI、規制上の懸念の中、18歳未満の若者の安全強化のため18歳未満向けプラットフォームをアップデート

Character.AIは、10代の若者とAIのインタラクションに関する懸念の高まりを受け、18歳未満のユーザー向けプラットフォームの変更を発表しました。最近の報告書や規制当局からの問い合わせでは、コンテンツ制限が設けられていても、AIとのオープンエンドの会話に伴う潜在的なリスクが指摘されています。規制当局、安全専門家、保護者からのフィードバックを検討した結果、同社は18歳未満のユーザーをより適切に保護するために、18歳未満のユーザー向けエクスペリエンスの修正が必要であると判断しました。

これらの調整はプラットフォームにとって重要な一歩であり、類似のサービスが講じている措置よりも概して慎重なものです。目標は、10代のユーザーの安全を最優先にしつつ、創造性、探求心、そしてエンゲージメントの機会を提供することです。Character.AIは、プラットフォームが創造的な表現とコミュニティの交流を促進する新機能を開発する中で、ユーザー保護を最優先に据えるよう、安全性の専門家、規制当局、その他の関係者と引き続き協力していく所存です。

Character.AI は、大規模な言語モデルを活用した AI 駆動型キャラクター (ボット ペルソナ) とユーザーが対話したり作成したりできる会話型 AI プラットフォームです。