要約:
生成型人工知能が未成年者の精神的健康と依存症のリスクに及ぼす潜在的な影響に直面して、カリフォルニア州知事ギャビン ニューサムは一連の画期的なネットワークおよび AI セキュリティ法案に正式に署名しました。この一連の規制は、未成年者にサービスを提供する AI チャットボットに対して厳格な機能上のレッドラインを設定する米国初の規制です。また、ソーシャルプラットフォームアルゴリズムの誘導とデータ収集に関する法的責任のメカニズムを包括的にアップグレードし、カリフォルニア州が、侵入性の高いデジタルテクノロジーから未成年者を保護する上で米国で最も厳しい規制基準を再び設定したことを示している。
近年、AI コンパニオン、仮想家庭教師、擬人化インタラクション機能を備えたロールプレイング チャットボットの爆発的な人気により、若者の間で人工知能システムに対する「擬人化された感情的愛着」現象が医療界や教育界に深い懸念を引き起こしています。複数のメンタルヘルス調査によると、精神的防御力の欠如により、未成年者は AI モデルを秘密を守れる真の親友と見なしやすく、有害な情報の誘導、自傷行為の傾向の増加、さらには相互作用の過程での感情操作などの深刻な心理的トラウマに遭遇する可能性があります。今回カリフォルニア州議会が提出した中心法案は、まさにこの種の、高い粘着性と擬人化特性を備えた人工知能対話型サービスを対象としている。
新たに署名された法案によると、未成年者向けに運用される人工知能チャットボット プラットフォームは、厳格な年齢基準と安全ガードレールを確立する必要があります。規制では、AI が自傷行為、自殺、極度の拒食症、暴力、または露骨なアダルト コンテンツを含む未成年者への教訓的な発言を出力することを明確に禁止しています。システムの基礎となるロジックの観点から、プラットフォームには機密用語のリスク管理および危機介入プロトコルが組み込まれている必要があります。未成年のユーザーがうつ病、自傷行為、または絶望感を表明していることをアルゴリズムが検出すると、通常の対話は直ちに中断され、公式の自殺介入および心理的危機支援ホットラインへの直接ルートが強制的にポップアップされる必要があります。さらに、新しい法律では、開発者に対し、AI の人間以外の属性を未成年のユーザーに明示的に開示することも義務付けています。アルゴリズムを使用して意図的に誤った感情を誘導したり、子供たちに依存していると感じさせる「感情的な絆」マーケティング レトリックを確立したりすることは固く禁じられています。また、オプションのペアレンタルコントロールメカニズムと、未成年者の毎日の使用時間に対する夜間の依存症対策制限も設定します。
AI チャットボットに対する特別規制に加え、ニューサムが署名した一連の法案は、カリフォルニア州の既存の未成年者向けオンライン プライバシー保護フレームワークもさらに強化します。新しい規制は、主流のソーシャルメディアとオンラインコンテンツプラットフォームが、保護者の明示的な同意なしに、未成年ユーザーの正確な位置情報、閲覧時間、プライベート検索履歴を使用して、ターゲットを絞った中毒性のある推奨アルゴリズムをトレーニングすることを明確に禁止しています。ダークパターンを使用して子供たちに情報フローの継続的な更新、自動連続再生の開始、またはゲーム内での無許可のマイクロトランザクションを誘導する商慣行に対して、規制当局は厳しい経済的および行政上の罰則を課し、改革を続ける違反テクノロジー企業に対して民事訴訟を開始する権限を州司法長官に与えます。
法案署名声明の中で、カリフォルニア州の多くの議員と法案を主導する子どもの権利擁護団体は、トラフィックとユーザーの執着を追い求めるために、テクノロジープラットフォームが長年にわたって未熟な未成年者を依存症や心理的操作のリスクに満ちたデジタルのるつぼに放り込んできたと指摘した。世界的な技術革新の中核を担うカリフォルニア州は、テクノロジーの急速な発展によってもたらされる子どもたちの精神的健康コストに目をつぶってはなりません。 AI チャットボットの明確な道徳的および安全な境界を確立する法案を可決することは、次世代の身体的および精神的健康を保護するための緊急の措置であるだけでなく、テクノロジー企業が社会的責任を果たすための最終的な制約でもあります。
テクノロジー業界とデジタル法律アナリストは、世界のデジタル経済におけるカリフォルニアの巨大な規模と、シリコンバレーの大手テクノロジー企業の集積効果を考慮すると、カリフォルニアで可決された一連の小規模なインターネットおよび AI 保護法案は、必然的に地域を越えた「ブリュッセル効果」と「カリフォルニア効果」を生み出すだろうと指摘しました。技術アーキテクチャの観点から、単一の州のユーザー向けに個別のバージョンを開発するのは非常にコストがかかるため、多国籍テクノロジー企業や最先端の AI 研究所は、この厳格な児童安全フィルターと依存症対策プロトコルのセットを米国全土、さらには世界中のユーザー エコシステムに直接拡張することを余儀なくされる可能性が非常に高いです。この一連の法案の発効は、AI コンパニオンやティーンエイジャー向けのソーシャル ツールのコンプライアンス コストが大幅に上昇することを示すだけでなく、AI 時代における未成年者の身体的および精神的健康危機に対処する際に、米国の他の州に非常に実用的価値のある立法の青写真を提供することになります。
コメント