Business Insider によると、Anthropic CEO のダリオ・アモデイ氏は、自社の AI 製品の潜在的なリスクについて頻繁に警告することでよく知られていますが、これにより彼の会社にも損失が発生しました。アモデイ氏は今月掲載された記事の中で、AIの力は「疑いの余地のないものになっている」と警告した。。同氏は一例として、アンスロピックの最新モデル「ミトス」がサイバーセキュリティー、金融業界、重要インフラ、国家安全保障に「非常に現実的なリスク」をもたらしていると指摘した。
アモデイ
その上で、米国政府に対し、これらのリスクに対処するためより強力な介入措置を講じるよう求めた。しかし金曜日、彼の警告は裏目に出たようだ。米国政府は突然アンスロピックの最新モデルに輸出規制を課した。
アンスロピックは、トランプ政権が海外ユーザーによるモデルへのアクセスをブロックするよう命じたことを受け、同社のミトス5とフェイブル5へのアクセスを遮断したと発表した。国防総省の最高情報責任者はXプラットフォームへの投稿でこの動きへの支持を表明し、「収益サイクル、誇大宣伝、IPO前の評価よりも重要なこともある」と書いた。
この突然の事態により、テクノロジー業界全体がパニックに陥りました。 AI研究者で懐疑論者として知られるゲイリー・マーカス氏は、トランプ政権の動きを「はなはだしい過剰反応で逆効果」だと述べた。
楊力坤氏はアモデイ氏がその結果を享受していると語った
しかし、「AIゴッドファーザー」ヤン・ルカン氏はアモデイに責任を負わせた。 「アモデイは神話/寓話モデル（そしてAI分野全体）についてばかばかしい警戒心を広めてきたが、今、それがついに報われた」とヤン・リクン氏は語った。
AIリスクに関する長い警告
アモデイ氏は長年、AI業界において自分自身を「良識ある大人」として描写しようとしてきた。彼は OpenAI の CEO である Sam Altman が製品の安全性の確保よりも製品リリースのスピードを優先していることを懸念して退社し、Anthropic を設立するまで OpenAI の重要な研究者でした。
それ以来、同氏は一連の声明を発表し、自身とOpenAI、Google、Meta、Amazon、その他の企業が開発・公開しているものは、人類が慣れ親しんだ生活様式を根本的に変える可能性があると述べた。この影響はプラスにもマイナスにもなり得ます。
アモデイ氏は、AIによって初級レベルのホワイトカラーの仕事の半分が失われ、失業率が新型コロナウイルス感染症パンデミック以来見られないレベルに上昇し、2008年の世界金融危機（大不況）の失業ショックを再現する可能性さえあると警告している。
Anthropic が株式公開の準備を進める中、アモデイ氏はここ数週間、AI が雇用に及ぼす影響について態度を和らげているが、同氏と Anthropic 社は他のセキュリティリスクについては遠慮なく警告を発している。
「ミトスレベルのモデルによってもたらされるサイバーセキュリティリスクは、私たちが直面しなければならない最後のリスクではない」と同氏は6月に掲載された記事で述べた。 「バイオセキュリティのリスクが間もなく発生する可能性があり、より深刻なAIの自律性リスクもそう遠くないことになると思います。」
同氏はまた、議員らの現在のAIに対する懸念や認識のレベルは、もはやAI技術の急速な発展に追いつけないとも述べた。
アンスロピックは今月初め、論文で最先端のAIモデル開発の一時停止を呼び掛け、最新モデルは自己改善に近づいており、それが「人間がAIシステムの制御を失うリスクを高める可能性がある」と警告した。
「社会構造と調整の研究が技術の進歩に追いつくことができるように、世界が最先端のAIの開発を減速または一時的に停止することを選択できれば良いことだと私たちは信じています。」アントロピックは言った。
皮肉なことに、この「一時停止ボタン」は先週の金曜日にようやく押されましたが、そのターゲットは人類そのものになってしまいました。