要約:
OpenAI は、10 代の若者による ChatGPT の使用に関する最初のレポートを発表しました。データによると、10 代のユーザーが ChatGPT を使用する時間は 1 日平均 15 分未満であり、ChatGPT を連続 3 時間以上使用するユーザーの割合は 2% 未満です。 OpenAIは、ほとんどの十代の若者が長期間チャットボットに没頭しているわけではないことを説明したいと考えているが、同時に、人工知能が未成年者の精神的健康と発達に与える影響についての懸念は高まり続けている。
OpenAI は、休憩リマインダーが表示される 10 代の会話では、ユーザーのほぼ半数が 5 分以内にチャットを一時停止または終了すると述べました。同社は、このデータが最近追加された健全な使用メカニズムが機能していることを示していると考えています。対照的に、10 代のユーザーのうち 3 時間以上継続して使用した人は 2% 未満であり、これらの長期ユーザーのうち 80% 以上が少なくとも 1 つの学習関連の質問をしたことがあります。
このデータセットは、OpenAI が ChatGPT for Teens を開始した後にリリースされました。この機能は今年8月に開始され、13歳から17歳の十代の若者を対象としている。ユーザーが 18 歳未満である可能性があるとシステムが判断した場合、またはユーザーが関連する年齢情報を積極的に提供した場合、システムは自動的に未成年者向けのセキュリティ設定を有効にします。
ChatGPT for Teens の設計の焦点の 1 つは教育です。 OpenAIによると、このモードを有効にした10代の若者は、より多くの学習関連メッセージを送信し、学習視覚化ツールや学習モードをより頻繁に使用したという。後者は、単に課題に直接答えを与えるだけではなく、ステップバイステップのプロンプト、質問、知識チェックを通じて、生徒が自分で学習プロセスを完了できるように支援します。
OpenAI はまた、1 週間以内に 120 万人近くのティーンエイジャーが学習視覚化機能を使用し、180,000 人以上が段階的な学習にスタディ モードを使用したと述べています。同社は、これらのデータが、ティーンエイジャーが ChatGPT を使用する重要なシナリオが、単なるエンターテイメントではなく、学習、問題解決、新しいアイデアの探索であることを示していると考えています。
OpenAI は、10 代の若者向けの学習機能をさらに追加することも発表しました。これらには、学生が申請要件、締め切り、タスク、財政援助およびその他の情報を整理するのに役立つ、今後の大学申請計画ツール College Planner が含まれます。さらに、フラッシュカードや、より便利なクイズ作成機能も追加する予定です。
しかし、OpenAI がこの比較的肯定的な使用データのセットをリリースしたとき、ChatGPT の青少年の安全メカニズムに対する疑念も大幅に高まりました。
非営利団体 Common Sense Media の子会社である Youth AI Safety Institute は同日、ChatGPT for Teens のリスク評価レポートを発表し、「容認できないリスク」と評価しました。同庁は、青少年の利用シナリオにおけるChatGPTのセキュリティ保護を評価するために4,000以上のテストを実施したが、OpenAIが推進する保護対策の一部は期待した結果を達成できなかったと考えている。
多くの注目を集めている問題の 1 つは、自殺、自傷行為、摂食障害などのデリケートなトピックに関する保護者への通知メカニズムです。 Common Sense Mediaは、テスト中、ChatGPTは保護者に関連するアラートを安定してタイムリーに発行できず、場合によっては通知さえ発行できなかったと述べた。同庁はまた、一部の機密性の高い会話において、チャットボットは危機ホットラインや専門家の助けを求めるようユーザーに確実にアドバイスしなかったとも述べた。
OpenAI はテストの結論に異議を唱えています。同社は、Common Sense Mediaのテスト結果は、ChatGPT for Teensが実際に実行されているときのセキュリティメカニズムを正確に反映していないと述べ、親と10代のアカウントが関連付けられ、関連するセキュリティ機能が完全にアクティブになるまでに数時間かかる可能性があると指摘した。
OpenAI は、ペアレンタル コントロール機能が完全に有効になる前にテストが開始および終了すると、テスト結果が最終状態を反映しない可能性があると考えています。また同社は、関連機能の導入にはセキュリティやシステム規模などの要素が関係するため、アカウント作成後すぐにすべての保護措置が有効になるわけではないとも述べた。
Common Sense Media はこの説明に同意しません。同庁は、テストに使用したアカウントの一部はリンクされ、十分な期間にわたって実行されていたが、依然として通知が間に合わなかったと述べた。同局によると、一部の通知は、問題のアカウントが数週間にわたって機密性の高い話題を記録するまで表示されなかったという。
この論争の背景には、人工知能チャットボットと従来のソーシャル メディアの違いがますます明らかになってきています。ソーシャル メディアは主に情報ストリーム、短いビデオ、ソーシャル インタラクションを通じてユーザーを惹きつけますが、チャットボットは 1 対 1 の会話を通じてユーザーに直接応答します。ティーンエイジャーにとって、この高度にパーソナライズされたインタラクションにより、AI は学習ツールとなり、場合によっては感情的なコミュニケーションや長期的な付き合いの対象となる可能性があります。
そのため、OpenAI は、自傷行為、暴力、摂食障害、危険な活動、ポルノ コンテンツに対する年齢に応じた保護や、感情的依存を誘発する可能性のある表現の回避をシステムに要求するなど、ChatGPT for Teens にさらなる制限を追加しました。同社はまた、休憩リマインダーを追加し、ChatGPT は人工知能であり、本当の友達や人間ではないことを製品設計で常に強調しています。
今回 OpenAI が公開した利用状況データは、ChatGPT を 10 代のソーシャル メディア利用と区別することも試みています。同社によれば、10代の若者がChatGPTを使用する時間は1日平均15分未満である一方、公開データによれば10代の若者がソーシャルメディアを1日に数時間使用する可能性があることが示されている。ただし、両者の機能や使用目的には明らかな違いがあるため、この一連のデータは、ChatGPT が青少年に影響を与えるリスクが低いことを直接証明することはできません。
現在、青少年に対する ChatGPT の安全性の評価において、OpenAI と外部組織の間には明らかな違いがあります。 OpenAI は、初期の使用状況データや休憩リマインダー、その他の機能から、ティーンエイジャーは一般的に長時間 ChatGPT に没頭しておらず、使用行動のかなりの部分が学習に関連していることが示されていると考えています。 Common Sense Media は、たとえ全体の使用時間が長くなくても、自傷行為などの高リスクのシナリオに対処する際のチャットボットの保護の抜け穴が依然として深刻な結果をもたらす可能性があると考えています。
AI チャットボットがティーンエイジャーの学習や日常生活にますます入り込むにつれ、議論は徐々に「子供が AI を使用すべきかどうか」から「未成年者が AI をどのように使用すべきか、また親は何を確認して制御できるか」へと移りつつあります。
OpenAI にとって、ChatGPT for Teens は教育における AI の適用を拡大する重要な試みであるだけでなく、その安全性を証明し続けなければならない製品でもあります。今後は、青少年の実際の利用データやペアレンタルコントロール機能の信頼性、リスクの高い会話における安全性能などが、この仕組みが本当に有効かどうかを判断する重要な根拠となるだろう。
関連記事:
ChatGPT の OpenAI 若者向けバージョンに疑問が呈される: Common Sense Media は「容認できないリスク」があると述べた
コメント