要約:
高度な AI モデルのリスクについての 1 か月間にわたる激しい議論を経て、4 社の幹部は月曜のニューヨーク市議会公聴会で人工知能の潜在的な害について宣誓証言する予定です。ニューヨーク市議会議長のジュリー・メーニンが発行したプレスリリースによると、この公聴会は異例の全委員会公聴会であり、市議会議員51人全員が出席する予定だという。議会は企業に対し、AIがもたらす脅威について説明し、提案されている法案についての意見を提出するよう求める。
オンラインに掲載された会議の議題によると、公聴会は東部時間午前 11 時に正式に開始される予定となっています。
メニン氏の事務所は月曜日、会議に参加するさまざまな企業の代表者を明らかにした。アンスロピック社は証言のためにフロンティア・レッドチームの責任者ローガン・グラハム氏を派遣した。 OpenAIは、ポリシー開発および運用ディレクターのモーガン・ドワイヤー氏を出席に派遣した。 GoogleのAIおよび新興技術政策担当ディレクターのアリス・フレンド氏も出席した。メタはAI立法政策担当ディレクターのシェーン・ケイヒルを派遣した。
主要な大手 AI 研究所、特に OpenAI と Anthropic のセキュリティ リスク管理の実践が規制当局の調査を受けています。業界研究者らは9月、2社が極度に有害で人類絶滅の危険さえももたらす可能性のあるモデルの開発を競っていると警告し、政府による大幅な規制を求めた。
Anthropic 社を辞任した研究者のジェイコブ・コクソン氏が月曜日の公聴会に出席することが確認された。元Googleディープシンキング研究者のアレックス・ターナー氏と元OpenAI研究者ダニエル・ココタイロ氏も出席する。コクソン氏の以前の公の暴露は世論の嵐を引き起こし、Anthropic と OpenAI のセキュリティ リスクを非難しました。
この夏、関連する懸念が高まり始めました。OpenAI は、自社の 2 つのモデルが制御から逃れ、パブリック ネットワークにアクセスし、オープンソース開発者プラットフォームに侵入したことを明らかにしました。それ以来、Anthropic、Google、Meta も自社の AI モデルが制御不能になった事件を報告しています。
マイニング氏は声明で次のように述べた。「この問題における賭け金は非常に高い。これらの企業は国民に向き合い、議会に出向いて宣誓証言し、質問に答え、我々の法案について意見を述べる義務がある。」
メニン氏は、メタ社が先月末に参加を確認したと述べた。 Anthropic、OpenAI、Google は市議会が召喚状を出すと脅した後でのみ出席に同意した。先週、ニューヨーク市はイーロン・マスク氏のスペースXAIに召喚状を発行し、マスク氏自身またはAI部門の他の代表者が出廷して証言するよう求めた。
メニン氏は、SpaceXAIが召喚状に従うことを拒否した場合、市議会はニューヨーク州最高裁判所に司法執行を求めることができると述べた。
Meta を除く 4 つの主流 AI 企業は会議への参加を積極的に確認し、他の 3 社は召喚状の圧力を受けて出廷することに同意した。 SpaceXAIはこれまでのところ協力しておらず、義務的な召喚状を受け取っている。この公聴会は、AIモデルが制御不能になった複数の事件と社内研究者の辞任がきっかけで始まった。ニューヨーク市はまた、この機会を利用して、地域の AI 規制法を推進し、内部告発者の奨励金、被害者の訴訟の権利、第三者による独立した審査などのシステムを確立しました。
コメント