AI セキュリティ研究者は、AI が 10 年以内に人類を絶滅させる確率は半分以上になると主張しています。彼は10年間、退職後の貯蓄を積み立てていない。

要約:

マシン インテリジェンス研究所 (MIRI) 所長のネイト スアレス氏は最近、アトランティック マンスリー CEO のニコラス トンプソン氏主催のインタビューで、高度な人工知能が 10 年以内に人類を絶滅に導く可能性は 50% 以上あると考えていると述べました。彼はまた、退職後の貯蓄はもう行っていないことも明らかにしました。Google で働いていたときに開設した 401(k) 退職金口座はまだ保持していますが、10 年間寄付を続けていません。

スアレスは、人工知能の調整、つまり強力な AI システムの動作を人間の意図に従わせる問題を長年研究してきました。彼は Google と Microsoft でエンジニアとして働き、『誰かが作ったら誰もが死ぬ』の共著者です。リスクについての彼の懸念は、AIが人間を憎むということではなく、超知能システムが単に人間が生き残るかどうかを気にしないかもしれないということである。人間がその目標の邪魔をしたり、それを停止させて競合するシステムを開発しようとしたりすると、人間は障害者とみなされる可能性があります。

彼が思い描いたリスク経路では、AI が攻撃を開始できるかどうかだけでなく、AI が自立できるかどうかが鍵となります。システムが独自にエネルギー、チップ、その他のリソースを取得し、人間に依存しない自動化されたインフラストラクチャを確立できれば、人間の制御能力は低下する可能性があります。スアレスは、人々は超知能がどのように災害を引き起こすのかを事前に知ることはできないかもしれないが、それでも非常に強力な敵に直面していると判断するかもしれないと述べた。

彼は、政府が一般的な人工知能システムのトレーニングを中止し、研究開発の焦点をがん研究やより安全な自動運転などの特定の用途に移すよう主張しました。同氏はまた、災害は避けられないものであり、この結果を防ぐために今も最善を尽くしていると述べた。彼が強調した解決策は、全員を殺すことができるシステムを作ることではない。

スアレス氏の判断は個人的なリスク評価であり、証明された科学的予測ではなく、人工知能研究者間の統一されたコンセンサスを表すものでもありません。退職後の貯蓄を増やすのをやめたという同氏の発言は、将来のリスクに対する同氏の見解を反映したものであり、他人の経済的決定に関するアドバイスとして解釈されるべきではない。