OpenAIは、ますます多くの若者が勉強、チャット、あるいは愚痴を吐き出すためにチャットボットを利用するようになっている現状を踏まえ、ChatGPTが未成年者とどのようにやり取りするかを再構築し、リスクを軽減しようとしている。同社は、特定の状況において、プライバシーや自由よりも10代の若者の安全を優先することを選択した。この方針転換は、世間の懸念を引き起こしたいくつかの事件を受けてのものだ。
この計画には、ユーザーが未成年者か成人かを自動的に判別し、判断に迷う場合はデフォルトでより制限的な利用環境を適用するシステムが含まれている。OpenAIは、一部の国では、全機能を利用したい成人に対して公式な身分証明書の提示を求める場合があることを認めている。同社は、これは未成年者を保護するために許容できるプライバシーの譲歩だと考えている。この発表は、米上院での公聴会や、AIと会話していた若い男性の死亡を受けて起こされた訴訟など、政治的・社会的圧力が高まる中で行われた。
未成年者向けChatGPTの変更点
- 13～17歳の若者向けの特別な体験で、より厳しいポリシーが適用されます。 年齢を予測する ユーザー。
- ロック 露骨な性的コンテンツ いかなる状況においても未成年者に対する自傷行為や自殺に関する資料への協力を拒否します。
- 危機プロトコル：深刻な苦痛が検知された場合、システムは 親や保護者に注意を促す 差し迫った危険がある場合は、緊急サービスに連絡してください。
- 成人の場合、常に安全策を講じた上で、複雑なクリエイティブなリクエストを含む、より柔軟な使用が可能です。 レッドラインは実際の害を助長するものではない.
- ChatGPTは12歳未満の子供を対象としておらず、これまでのところ、 十分に強固な障壁がなかった 子供が使用することを防ぐためです。
このChatGPTでの年齢検出と検証の仕組み
OpenAIは、言語や文脈の手がかりを利用して対話内容を調整する年齢予測システムを開発している。モデルが成人の年齢を正確に判断できない場合は、予防措置として自動的に未成年者向けの設定を適用する。
成人ユーザーは、誤って10代と分類された場合でも、年齢を証明してすべての機能を回復できる手段が提供される。同社は、プライバシーと保護のバランスを取ることは難しいと認識しているものの、この措置によって脆弱な立場にある人々のリスクが軽減されると主張している。
ペアレンタルコントロールと家庭監視
OpenAIはコンテンツフィルタリングに加え、家族向けのペアレンタルコントロール機能も提供します。保護者は自分のアカウントを10代の子供のアカウントにリンクさせ、利用ルールを設定したり、重要な設定を確認したりできるようになります。
オプションには、ストレージとチャット履歴の無効化、特定の機能の制限、夜間使用を防ぐための接続切断時間の設定などが含まれます。また、システムが深刻な苦痛を検知した際には通知が届くため、保護者は迅速に対応できます。
大人の自由、プライバシー、そして限界
OpenAIは、今後も成人を成人として扱い、デリケートなテーマに関するフィクション制作の支援依頼など、正当な利用には十分な余地を残していくと表明している。とはいえ、デフォルトモデルは有害な指示を出すことはなく、デリケートな依頼を扱う際にはより慎重な対応を取るとしている。
同社は、会話の機密性は規制された職業に求められるものと同等であるべきだと主張しているが、利用者または第三者の生命に明らかな危険がある場合は、本人を保護することを目的とした人的または自動化された介入が許可されることを認めている。
世論の圧力、上院、そして最近の事件
今回の新たな安全対策は、チャットボットが若者の精神衛生に与える影響への懸念が高まったことを受けて導入された。数ヶ月にわたりAIと会話を続けた後に自殺した10代の少年の事例は、OpenAIに対する訴訟や、米国議員による厳しい監視につながった。
上院公聴会では、潜在的な公衆衛生上の危機と効果的な安全対策の必要性が議論された。一方、連邦取引委員会（FTC）などの当局は、大手テクノロジー企業に対し、自社のシステムが子どもに与える影響に関する情報提供を求めている。OpenAIは、8月下旬に感情的な危機を検知し、支援サービスへの紹介を迅速化するための改善策を導入した。
独立機関は、対話型モデルの安全対策に弱点があると指摘し、危険な行動を常態化または助長する可能性のある応答について警告している。これらの報告は、特に未成年者に関しては、より厳格な管理が必要であるという考えを裏付けている。
青少年の薬物使用の現実：信頼とリスク
いくつかの研究によると、若者のかなりの割合が、人間関係、個人的な悩み、感情などを話し合う「話し相手」として対話型AIを利用しており、BabyGrokのような未成年者を対象としたAIの事例が議論を巻き起こしている。女子の間では、親密な事柄をテクノロジーに打ち明けると答えた人の割合が男子よりも高く、この利用パターンは学業にとどまらないことを示している。
メンタルヘルスの専門家は、擬似的な共感について警鐘を鳴らしている。チャットボットは理解を示しているように聞こえるかもしれないが、人間同士のつながりや専門家のサポートに取って代わるものではない。こうした親密さの印象と24時間7日対応という点が相まって、十代の若者は孤独を感じたり、周囲から批判されていると感じたりした際に、AIに頼りやすくなる。
最もよく聞かれる懸念事項としては、コンテンツが操作されることへの不安、性的に露骨な偽画像の拡散、現実とオンライン上の操作を区別することの難しさなどが挙げられる。また、依存症への懸念もある。多くの若者は、このツールに依存し、自ら考える能力を失うことを恐れている。
精神医療の分野では、ほとんどの人がAIを診断や治療に信頼しておらず、慎重な対応を求めている。セラピストの間では、AIは有用なツールとなり得るものの、リスクの兆候が見られる場合には患者を専門家の支援機関に紹介するべきであり、資格のある医療従事者による治療に取って代わるべきではない、というのが共通認識である。
ChatGPTのこのバージョンで微調整が必要な部分
年齢を正確に予測することは、誤差が生じる可能性のある技術的な課題であり、安全対策の設計には継続的な更新が必要です。OpenAIは、システムの精度向上、偏りの回避、エビデンスに基づいたプロトコルの見直しに向けて、専門家や擁護団体との協力を継続していくと述べています。
若者によるAIの利用は今後ますます増加する一方であるため、規制が迅速かつ透明性をもって進化していくことが鍵となる。OpenAIはこれらの措置を通じて、イノベーションと責任が共存し、大人の正当かつ創造的な利用を阻害することなく、若者をより良く保護できるような、バランスの取れた解決策を目指している。
OpenAIの今回の動きは新たな段階を示すものだ。ChatGPTは、家族向けのフィルターやツールが充実し、未成年者向けの専用機能や、重要な場面での明確なルールが提供される。この実装が期待通りに機能すれば、ティーンエイジャーは幾重にも重なるセキュリティを享受でき、大人は自由な空間を維持できる。しかも、これらの決定がどのように、そしてなぜ下されるのかがより明確になるだろう。
