コンパニオン AI チャットボット業界が拡大し続ける中、カリフォルニア州は 10 月 13 日に、この新興テクノロジーを規制する新しい法案に署名しました。カリフォルニア州知事ギャビン・ニューサムは同日、上院法案243に正式に署名した。この法案はアンソニー・パディラ州上院議員が推進し、「全米初のAIチャットボット保護対策」とうたわれている法案である。
新しい法律によると、チャットボットが一般ユーザーをだまして本物の人間とやり取りしていると思わせることができる場合、開発者はインターフェース上で相手が単なるAIであり本物の人間ではないことを示す「明確で目立つ声明」を出さなければならない。
この法案では、来年からコンパニオンチャットボットプラットフォームの一部の運営者も、ユーザーの自殺傾向を特定し、対処し、解消するために講じている安全対策について州自殺予防局に年次報告書を提出することが義務付けられると規定している。関連データは事務局の公式ウェブサイトに公開されます。
ニューサム氏は法案に署名する際、チャットボットやソーシャルメディアなどの新技術は、人々にインスピレーションを与え、教育を促進し、人々を結びつけることができるが、効果的な監督がなければ、若者の誤解を招き、害を及ぼし、さらには安全を危険にさらす可能性があると述べた。 「カリフォルニア州はその責任を守り、AIやテクノロジーの発展をリードし続けなければなりませんが、子どもたちの安全には代えられません。私たちはあらゆる段階で子どもたちの安全を守らなければなりません。」さらにニューサム氏は、ハードウェア製品の新年齢テスト要件など、青少年のオンライン安全を対象とした他のいくつかの法案にも署名した。
この新しい規制は、ニューサムが画期的な AI 透明性法案、上院法案 53 に正式に署名した後にも導入されました。AI 法案は近年、カリフォルニアで広範な論争を引き起こしており、業界から大きな注目を集めています。
