要約:
人間が終末のシナリオを避けたいのであれば、人工知能の研究開発を遅らせるだけでは十分ではありません。これはカナダの人工知能研究者デイビッド・クルーガー氏が警告したものだ。彼は他の措置を講じるべきだと率直に述べた。モントリオール大学の人工知能助教授であり、ケベック人工知能研究所ミラの中心学術メンバーでもあるクルーガー氏は、「最先端の人工知能の研究開発を即時かつ無期限に停止する必要がある」と述べた。彼の個人的なプロフィールには、研究の方向性は「人工知能によって引き起こされる人類絶滅のリスクを軽減すること」であると記載されています。
「私たちは、より高性能な AI の開発を今すぐにやめなければなりません」と彼は言いました。
クルーガー氏のコメントは、Anthropic CEOのダリオ・アモデイ氏が土曜日にAI企業に対し研究開発のペースを落とすよう求めるメッセージを発表した後に発表された。この提案は、OpenAI の Sam Altman 氏と SpaceX の Elon Musk 氏によって支持されています。これは業界のトップの人々の間では珍しいコンセンサスです。
クルーガー氏は、「AIの研究開発を遅らせるよう求める声は非常に評価に値する」と述べたが、関連提案の具体的な解決策には同意しなかった。 「私は多くの面でこれらの計画の具体的な内容に同意できません。これらの措置は十分強力ではなく、十分なスピードで進められていないと思います。」
アモデイは、監督と国際協力の実施、および第三者評価者の導入を主張しています。評価者には、AI企業のセキュリティ対策を検証し、セキュリティインシデントを報告するために、企業内と同様の従業員レベルのアクセス権が与えられます。
クルーガーは、AI によってもたらされる重大なリスクについて一般の人々を教育する非営利団体 Evitable の創設者です。彼は、アモデイの提案が十分強力ではなく、現在の AI テスト方法がもはや信頼できないことを懸念しています。
同氏は、「これらのテストは基本的に無効になった。AI が賢くなるにつれて、テストの信頼性は低下し続けるだろう。AI には偽装能力があるためである。AI はうまく動作することもあれば、意図的に愚かな動作をしてテストを騙すこともできる。」
「それは時間の問題だ」
先週、Anthropic 社の上級セキュリティ研究者は、AI が今後 10 年以内に地球上の人類を全滅させる可能性は 10 分の 1 以上あると示唆しました。この数字は誇張であり、注目を集めるためだけだと考える人もいたが、クルーガー氏はこの推定値が「低すぎる」と述べた。
彼は次のように述べました。「方向を逆転させなければ、今後 5 年以内に、人類は制御不能になった AI によって永久に支配権を奪われる可能性が高くなります。その頃には人類の滅亡も時間の問題でしょう。」
彼が「支配力の喪失」という言葉で意味するのは、現在人間が地球上の他のすべての種を支配しているのと同じように、AI が実際に社会を支配している状況のことです。
「AI は、さらなる AI の開発、ロボット、その他の物理システムのプロセスのあらゆる段階を含め、物理インフラストラクチャを制御します。」
彼はさらに次のように付け加えました。「すべてのビジネスが人工知能によって運営され、ロボットがいたるところに存在する世界を想像してみてください。人間には実質的な仕事はほとんどなく、名目上の地位だけです。政治家や誰もが AI の指示に従います。なぜなら、AI の判断能力は非常に高いようです。これが私たちが向かっている未来です。」
同氏は、行動が起こせるまでの期間は非常に短いと警告した。今、AIシステムが制御不能になった場合でも、その電源を遮断できると同氏は述べた。しかし、AI が制御不能になると、非常に多くのコンピューターに複製されるため、「どのデバイスをシャットダウンすればよいのかさえわかりません」。
「すべての機器を停止することを試みることしかできませんが、これを実行するのは非常に困難です。」同氏は、「したがって、この種のリスクを防ぐために私たちが行動を起こすために残された時間枠は非常に限られています。」
それにもかかわらず、政府が行動を起こすことへの信頼はかつてないほど高まっていると彼は語った。同氏は、警告は過去15年間にわたって発令されてきたが、世界が現実的かつ合理的に対応したのは先週が初めてだと述べた。
「人々はようやくこの危機が本当に深刻であることに気づき始めたと思います。これは非常事態です。」
月曜日、カナダ連邦 AI 担当大臣エヴァン ソロモンはインタビューを受け、人類が AI によって滅ぼされる確率は 10% であるという声明に同意するかどうかを尋ねられました。
彼はこう答えました。「人工知能にはリスクはありますか? もちろんあります。はい、私たちはこれらのリスクを認識しています。」
ソロモン氏は日曜の朝、OpenAI CEOのサム・アルトマン氏と話したと語った。
「カナダ人の安全を守るために、人工知能は規制されることになります。」ソロモン氏は、「これが私たちの最初の責任であり、最大の懸念です。」
ソロモン氏はまた、「人工知能のゴッドファーザー」として知られるカナダのコンピュータ科学者ジョシュア・ベンジオ氏と水曜日にAIセキュリティ関連の発表を共同で発表することも明らかにした。
コメント