要約:
ロイター通信によると、Googleの信頼・安全性チームの創設者であるトム・シーゲル氏は今週、AI開発の減速を呼び掛け、テクノロジー業界はソーシャルメディア時代の過ちを繰り返しており、子供たちにより大きな害を及ぼす可能性があると警告した。
シーガル
ソーシャル メディア企業は現在、若者ユーザーに危害を加えたとして巨額の賠償金を支払い、数千件の訴訟に直面しています。一方、世界中の政府は、未成年者のソーシャルメディアプラットフォームへのアクセスを制限しようと取り組んでいます。
ロイターは昨年、メタ社の内部方針文書について独占的に報道した。文書には、同社のチャットボットが「子供たちとロマンチックな会話や性的な会話をする」可能性があると記載されており、議会の調査が求められている。それでも、AIの急速な発展に規制措置が追いついていない。
Google の信頼と安全性担当副社長を務めたシーガル氏はロイターに対し、「AI が子供たちに与える影響という点で、私たちは現在非常に悪い状況にあります。外部の助けなしに業界が自力で問題を解決できるという考えは非現実的です。」
彼の懸念は、テクノロジー業界や学術研究者の一部の間で高まっている懸念を反映しています。AI は子供たちにとってソーシャル メディアよりも深刻な脅威です。現在、業界はチャットボットにますます高度な機能を追加することに競い合っており、すでに何百万人もの若者がこれらのボットを日常的に使用しています。
シーガルは火曜日、子供向けのオンライン安全擁護団体である Common Sense Media に参加したと発表しました。 2003 年に設立されたこの非営利団体は、子供向けのさまざまなメディアの適切性を調査および評価しています。同団体は5月に、子どものAI利用を評価することを目的とした研究組織「青少年AI安全研究所」を設立しており、シーゲル氏は同研究所の初代事務局長となる。 Anthropic と OpenAI を管理する非営利組織 OpenAI Foundation はこの研究所の支援者です。
シーガル氏は、AI 企業に責任を問うための基準を開発する計画であり、この目標を達成するためにこれらの企業やサードパーティ組織と協力したいと述べた。
彼は 2004 年から 2019 年まで Google に勤務していましたが、その後、消費者にとって安全なオンライン スペースを作成するテクノロジー業界の能力が「ボトルネックに達した」と考えて Google を退職しました。その後、企業がセキュリティ上の脅威を特定できるように支援するツールを開発する新興企業、TrustLab を共同設立しました。今月初め、同氏は新たな役割に就くためCEOを辞任した。
シーゲル氏は、現在、大手 AI 企業は適切な安全保護措置を確立しないまま、子供向けのさまざまな機能を立ち上げていると述べました。
「私たちは、非常に深刻な危害の危険に直面していると思います」と彼は言いました。シーゲル氏は、自殺や精神異常から「認知オフロード」に至るまでのリスクを挙げ、AI企業が若者の保護を強化するために直ちに講じられる措置があると述べた。いわゆるコグニティブオフロードとは、質問への回答を AI に依存することによって引き起こされる批判的思考スキルの低下を指します。
Anthropic と OpenAI は、未成年者によるチャットボットの使用を防ぐために、より厳格な年齢確認措置を導入する可能性があると同氏は述べました。同氏はまた、元雇用主であるGoogleが現在ユーザーにポルノコンテンツをフィルタリングできるようにするスイッチを提供しているのと同様に、検索エンジンのAI概要とAIモードをオフにするオプションを追加する可能性があるとも述べた。
シーガル氏は、これらの措置は短期的には使用量や利益に影響を与える可能性があるものの、行動を起こさないAI企業は訴訟や規制のリスクに直面し、ビジネスにさらに深刻な打撃を与える可能性があると付け加えた。
シーゲル氏の発言に応じて、Google の広報担当者は、親は関連する制御機能を通じて、子供の検索エンジンへのアクセスを完全にオフにすることができると述べた。広報担当者は、「当社の AI 検索機能は、子供や青少年が情報や世界を学び、探索し、理解するための強力な方法です。」
OpenAI の広報担当者は、ユーザーの自己申告年齢に加えて、同社は未成年ユーザーを特定するために「アカウントと行動のシグナル」も使用していると述べました。 「完璧な年齢確認方法は一つもありませんが、当社はセキュリティ保護を回避する試みの防止を含め、これらのシステムのテストと改善を続けています」と広報担当者は述べた。
コメント