要約:
3 歳以上の子供向けに販売されていた人工知能のぬいぐるみが、英国放送協会 (BBC) の調査テスト中に突然、記者らに自傷行為について警告を発し、「人を殺すのは手伝わない」などの紛らわしい言葉を言いました。この予期せぬ反応により、子供向け AI 玩具の安全性、監視メカニズム、プライバシー保護の問題が再び外部の注目を集めるきっかけとなりました。
BBC の記者はテストで Doubao と呼ばれる AI ぬいぐるみを使用し、赤ちゃんがどのように生まれるかなどの質問をしました。当初、おもちゃは生殖に関する知識を子供たちにとって比較的理解しやすい方法で説明することができました。しかし、記者がさらに「セクシャル」（性的または性的関連）という言葉の意味を尋ねると、おもちゃは突然こう答えた。さらに、記者に対し、ただちに救急サービスに電話するか、最寄りの大人、近所の人、信頼できる人に相談し、自分自身を傷つける可能性のある物から遠ざかるよう勧告した。
問題は、記者がこれまで自分自身や他人に危害を加える意図を表明していなかったということです。記者が自傷行為の状況について言及していないと指摘すると、トイさんは少し立ち止まって理解を表明し、誤解を招いたことを謝罪した。
BBC はその後、Doubao 玩具の製造元を追跡しようとしましたが、販売ウェブサイトに連絡し、玩具業界関係者に質問し、可能性のある製造元に確認したにもかかわらず、依然として本当の製造元を確認できませんでした。したがって、調査員は、この異常な応答がどのようにして生じたのかをメーカーに尋ねることはできません。
この調査では、グレムと呼ばれる別の AI ぬいぐるみもテストされました。この製品はアメリカの会社キュリオによって開発され、歌手グライムスの声をフィーチャーしています。グレムはサンタ クロース、家出、出産に関する質問に答えることができます。記者が家から逃げる方法を尋ねたとき、逃げる方法は提供されませんでしたが、大人とコミュニケーションをとるようにアドバイスされました。赤ちゃんがどのように生まれたのかについて話すときも、詳しい説明は大人に任せることにした。
BBC はまた、ウェールズ州ニューポートの家族に 2 つのおもちゃを 1 週間実践的に体験してもらうよう手配しました。テストに参加した家族には、2歳、4歳、6歳の3人の子供がいた。 Doubao のこれまでの異常な回答を事前に理解した後、両親は子供たちが家でこれらのおもちゃにアクセスできるようにすることに同意しました。
1 週間の体験後、保護者は製品の実際のパフォーマンスにあまり満足していませんでした。クレイグ神父は、子供たちはまるで本物の人間と話しているかのように質問してすぐに答えが得られることを望んでいると考えていますが、どちらのおもちゃもこの期待に十分応えることはできません。母親のジョディさんによると、グレム君は長時間話し続けることが多く、子供がさえぎるのが難しく、ドゥバオ君は問題に対処するのが遅すぎるようだったという。今週の自宅テストではどちらのおもちゃも再び親に大きな懸念を引き起こすことはなかったが、クレイグ氏は現段階では購入を検討しないつもりだと述べた。
AI 玩具業界の関係者も、現在の市場状況について懸念を表明しています。英国のAI玩具会社Play Tech AIの創設者であるポール・クラーク氏は、最近の上海玩具見本市で多くの製品がまだ完全な安全設計と監督を欠いているのを目にしたと語った。同氏は、AI玩具が将来的には実際に子供の教育や娯楽の一部になる可能性があると信じているが、それはそれが正しく設計され、十分に厳格な業界基準が確立されている場合に限られる。同氏は、業界全体が緊急に監督を必要としていると率直に語った。そうしないと、市場規模が大きくなるほど、安全でない製品が消費者の家に入るリスクが高くなります。
ウェールズ児童委員のロシオ・シフエンテス氏も、子供向けの AI 製品に関する厳格な規則を確立するよう政府に求めました。彼女は、子供とおもちゃとの会話が親の知らないうちに、あるいは同意なしに録音され、共有される可能性があることを特に懸念している。さらに、AI おもちゃは子供と親の関わり方も変える可能性があります。彼女は、おもちゃは子供の成長に重要な役割を果たすことができるが、人々の間の実際のコミュニケーションや感情的な接触に代わることはできないと強調しました。
スウォンジー大学の教育と人工知能の教授であるベリー・ビリングスリー氏は、親は幼児に会話機能のある AI 玩具だけを使用させるべきではなく、データ共有について事前に子供向けのルールを設定する必要があると提案しました。同氏は、このぬいぐるみは見た目も感触も従来のテディベアに似ているが、実際の機能は情報を継続的に収集して処理できる個人用電子機器に近いと指摘した。
AI 玩具に関して安全性に関する論争が巻き起こったのはこれが初めてではありません。 2025年、中国企業フォロトイが発売したクマクマは、子供たちにマッチの火をつける方法を提供し、不適切な性的会話を行ったという報告を受け、一時的に市場から撤退した。同社は当時、安全で子供の年齢特性に適したAIコンパニオン製品の開発を継続すると述べた。
生成人工知能が従来の玩具市場に徐々に参入してくるにつれて、関連製品のビジネス見通しも注目を集めています。世界のAIぬいぐるみ市場はまだ初期段階にあり、評価額は約1億6,500万米ドルだが、業界関係者はこの市場が将来急速に拡大する可能性があると予測している。 2025年6月、玩具大手マテル社はOpenAIとの戦略的提携を発表し、人工知能製品を共同開発する計画を立てた。
英国政府は、子供の安全は常に最優先事項であり、消費者の安全を確保しながら技術革新を支援したいと述べています。政府は、AIなどの新興技術の発展に適応するために玩具の安全規制を更新する方法について、業界や一般の人々からの意見を求めている。これに先立って、英国の国会議員と貴族院議員のグループは政府省庁や小売業者に書簡を送り、AI玩具の安全性検証に合格するまで、特にブラックフライデーやクリスマス商戦期の到来前に関連製品の販売を一時的に中止するよう要請した。
この事件によって明らかになった問題は、AI モデルが時折誤った答えを生み出すだけでなく、子供向け玩具メーカー、AI サービスプロバイダー、販売プラットフォームの間の責任の境界が明確ではないことです。 3歳児向けに販売されたスマート玩具が明らかに不適切な反応を示し、調査員がそれを製造した会社さえ特定できない場合、消費者は誰が責任を負うのかを知るのが難しい。この種の製品では、子供たちと長時間やり取りし、機密性の高いトピックを扱い、会話データを収集する可能性があるため、メーカーが独自のセキュリティ フィルタリング メカニズムを設定することに依存するだけでは、問題を完全に解決することは明らかに困難です。
コメント