マスク氏が厳しく警告「AIが軍事システムを制御し、核爆弾を発射したら大変なことになる」

要約:

最近、マスク氏はイベントで警告を発した。「AI が軍事システムを制御し、核爆弾を発射できるようになったら、あまりにもひどいことになるだろう。」

しかし、マスク氏はこの見解に同意しません。同氏は、システムがネットワークから物理的に隔離されている場合でも、機器は定期的にソフトウェアのアップデートを受けるだろうと述べた。このプロセスによりセキュリティホールが残り、AIが主要な軍事システムに介入する機会が与えられる可能性がある。 AIが核兵器を運用する権限を手に入れれば、全人類に壊滅的な影響を与えることになる。

人工知能について懸念しているのはマスク氏だけではない。

Anthropic 社を退職したばかりの AI 研究者のジェイコブ コクソン氏は、AI 企業の最前線で働く多くの実務者が大きな不安を抱えていることを明らかにしました。彼らは心の底からパニックを起こしており、人類が今後 2 年間に直面するであろう予測不可能な運命について非常に心配しています。

Anthropic の CEO はまた、最先端の AI モデルの研究開発のペースを適切に減速する必要性を公に呼びかけました。同氏はまた、高リスクAIの開発を抑制するための独立した監督の実施、業界規範の確立、世界的な規制上の合意の促進などの方向性も提案した。 OpenAIの責任者も、AI開発に必要な制御への支持を公に表明した。