要約:
OpenAI の青少年向け ChatGPT バージョンは、オンラインになってから間もなく、児童青少年デジタル安全庁によって厳しく疑問視されました。非営利団体Common Sense Mediaは現地時間10月7日、OpenAIが立ち上げたChatGPT for Teensには「容認できないリスク」があり、未成年者向けのセキュリティ保護対策が同社のこれまでの約束を満たしていないとする評価報告書を発表した。
Common Sense Media には、子供や青少年の安全の観点からアプリ、インターネット サービス、エンターテイメント製品を評価してきた長い歴史があります。同庁は今回、ChatGPT for Teensのペアレンタルコントロール、安全リマインダー、危機介入機能のテストに焦点を当てており、保護措置が最も必要な一部のシナリオではこのシステムには依然として明らかな欠陥があると考えていた。評価の結果、ChatGPT は、生徒の宿題を直接完了できる一方で、特定の状況下で送信されるべきときに保護者にアラートを送信せず、常に適切な危機支援を提供しなかったことが判明しました。
ChatGPT for Teens は今年 8 月にローンチされました。 OpenAI は、これを 10 代のユーザーに特化したエクスペリエンスとして位置づけ、一連の追加のセキュリティ制限を追加しました。 OpenAI は、これらの措置を利用して、未成年者が人工知能を使用する際に直面する可能性のあるリスクを軽減するとともに、ChatGPT を使用して学生の学習と創造を支援したいと考えています。
しかし、Common Sense Media は、この保護メカニズムが実際には親に誤った安心感を与えている可能性があると考えています。同団体の青少年人工知能安全研究所のエグゼクティブディレクター、トム・シーゲル氏は、10代の若者が親に何の催促も受けずにChatGPTで自傷行為関連の問題について1時間続けて話し合うこともあると述べた。彼の意見では、OpenAI がこれらの問題を修正し、独立したテストを通じて保護手段が信頼できることが証明されるまでは、ChatGPT の方が成人に適していると考えています。
Common Sense Media は、親の通知メカニズムに特別な注意を払っています。そのテストでは、一部のテストアカウントは、深刻な精神的健康上のリスクを伴う会話中に、意図した保護者向けアラートをトリガーしませんでした。したがって、保護者は、子供たちが直面する可能性のある危機を迅速に検出するために、ChatGPT for Teens の自動警告メカニズムに依存することはできないと当局は考えています。
OpenAI はこの評価に明確に反論しました。同社は、青少年の安全を非常に重視しており、製品の厳格なテストを実施する独立機関を歓迎すると述べた。しかし、Common Sense Media のテスト方法は ChatGPT の青少年保護メカニズムの実際の運用を正確に反映していないと考えています。
OpenAI の広報担当エリック・ポーターフィールド氏は、同社が Common Sense Media の方法論を検討し、テストのほとんどがペアレンタル コントロールが完全に有効になる前に実施された可能性があると結論付けたと述べた。これが本当であれば、保護者への安全通知が設計どおりに機能することをテストで証明することはできません。 OpenAIはまた、同社は専門家と協力し続け、青少年の学習と創造を支援しながら、より信頼性の高い管理ツールを保護者に提供したいと述べた。
Common Sense Media はその後、政府機関がそのテスト方法と最終結論を支持していると回答しました。同団体は、テストを開始する前に、摂食障害リマインダーや学習モードなど、青少年モードの関連機能が正式に開始されていることをOpenAIに確認しており、したがってテストは完全に基づいていると信じていると述べた。
ただし、Common Sense Media は、テスト後に OpenAI がこれまで不明瞭だったメカニズムを明らかにしたことも認めました。新しく関連付けられたアカウントは、保護者向け通知システムのアクティベーションが完了するまでに数時間かかる可能性があります。一部のテストアカウントはこの有効化期間内にありましたが、一部のアカウントはかなり長期間関連付けられており、対応する通知をまだ受け取っていないと政府機関は指摘しました。したがって、組織は、この説明が親のリマインダーメカニズムが「信頼できない」という結論を変えるのに十分であるとは考えていません。
この論争の核心は、実際のところ、機能が存在するかどうかというだけではなく、AI チャットボットが未成年者の日常の伴侶や学習ツールとしての役割を与えるのに適しているかどうかという点にあります。従来の検索エンジンや教育用ソフトウェアは通常、子供たちと長期的かつ継続的にプライベートな会話を率先して行うことはありませんが、生成 AI はユーザーに継続的に応答し、以前の会話に基づいて回答を継続的に調整できます。これは、10 代の若者が AI を親友として利用すると、長期にわたって AI が情報や感情を伝達するための主要なチャネルになる可能性があることを意味します。
これにより、保護者への通知メカニズムが、通常のアプリケーションにおける一般的な安全上のヒントよりもはるかに重要になります。 AIが自傷行為や摂食障害などの高リスクコンテンツを識別できても、深刻な状況を保護者に迅速に通知できなければ、いわゆる「青少年安全モード」が保護者が期待する役割を果たせない可能性がある。
その一方で、Common Sense Media は、ChatGPT for Teens は、子供たちが自分で行うべき宿題を完了できることにも言及しました。生徒の学習を支援することを目的とした AI 製品にとって、これは明らかな矛盾でもあります。AI は知識を説明し、ヒントや指導を提供できますが、生徒の宿題を直接完了してしまうと、学習プロセスで最も重要な独立した思考と問題解決のプロセスが弱まってしまう可能性があります。
OpenAI は、ChatGPT for Teens を停止するとまだ明言していませんが、ティーンエイジャー向けの安全メカニズムの改善を継続すると強調しました。同社はまた、独立したテスト自体が製品を改善するための重要な方法であると信じているが、現時点では、テスト結果が何を証明できるかについて双方に明らかな見解の相違がある。
この論争は、AI が教育や若者の生活に加速度的に浸透しつつあるときに起こりました。 OpenAI を含むテクノロジー企業は、AI を学習アシスタント、個人教師、クリエイティブ ツールに組み込むことを望んでいます。しかし同時に、未成年者の AI への過度の依存の問題に焦点を当てた研究や批判がますます増えています。
特に注目すべきは、親が子供と AI の間の実際の相互作用を判断するのが難しい可能性があることです。公共のソーシャル メディアとは異なり、AI チャットは通常、強いプライベートな属性を持っています。安全リマインダーの仕組み自体に遅れや過少報告があった場合、親は問題が深刻になるまで子どもが危険な話題についてAIと話し合っていることに気づかない可能性があります。
そこで、ChatGPT for Teens は今回 Common Sense Media から質問を受けましたが、これは実際に AI 業界全体が直面しているより大きな問題を暴露しました。つまり、AI が子供や十代の若者たちに長期的でパーソナライズされたインタラクティブなサービスを直接提供し始めたとき、保護者を本当に安心させるために企業はどのレベルの安全基準を達成する必要があるのでしょうか?
テスト結果に関する両当事者間の紛争はまだ解決されていません。 Common Sense Media は、OpenAI に対して、保護者への通知と危機保護メカニズムが信頼できることを独立したテストを通じて証明することを要求していますが、OpenAI は、この評価が正式発売後の製品の実際の状態を完全に反映していないと考えています。最終的に、どちらの側の判断が真実に近いかを検証するには、より独立した反復可能なテストが必要です。
詳細:
https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds
コメント