人工知能は人類を滅ぼすことはないが、専門家は本当の脅威が出現していると語る

要約:

水曜日、OpenAI は、テストと評価中に AI モデルの「予期しない、または懸念されるモデルの動作」を実証する 6 つの新しいケースを公開しました。同社は

追跡、報告、開示

これまでに多くのレポートで、AI モデル テスト プラットフォーム Hugging Face のネットワークに侵入した OpenAI の未リリース モデルを含め、多くの企業の AI モデルがサードパーティのネットワークやサービスに侵入したと述べられてきました。

今週初め、Anthropic CEO の Dario Amodei は、最先端の人工知能モデルの開発の減速を求める長い記事を発表しました。これに先立ち、人類研究者のジェイコブ・コクソン氏は

Anthropic の整合科学責任者、エヴァン ヒュービンガー氏は、コクソン氏のコメントに続きました。

Anthropic CEO ダリオ・アモデイ

上記の事件、ソーシャル メディアの投稿、およびアモデイの記事により、「ターミネーター」風の人工知能が世界を征服し、人類を滅ぼすのではないかという国民の恐怖が再燃しました。しかし専門家らは、現実はSF作品で描かれる終末の場面とは程遠いと言う。

ニューヨーク大学タンドン工学部のコンピューターサイエンスおよびエンジニアリング准教授であり、同校責任人工知能センター所長であるジュリア・ストヤノビッチ氏は、Yahoo Finance のインタビューで、「これは、人工知能が自己認識し、私たちに対処してくるということとは何の関係もありません。」

彼女はさらに次のように付け加えました。「本質的な問題は、OpenAI が内部でいくつかの基本的なセキュリティ プロトコルを実装していないということです。この事件は実際、すべての AI 企業への警鐘となっています。コンピューター サイエンスを学ぶときに誰もが知っていることを忘れないでください。セキュリティは非常に重要です。」

終末のシナリオに焦点を当てすぎると、人工知能が今日引き起こす可能性のある他の差し迫った危害から人々の注意をそらすことになります。

調整とセキュリティ

人工知能が直面する最大の問題は 2 つの点に要約されます:

モデルの調整

システム セキュリティ

AI セキュリティとは、AI システムが制御を逃れて外部ネットワークに侵入するのを防ぐために、AI システムを保護および隔離することを意味します。

しかし、それがモデルの調整の失敗であれ、システムのセキュリティの脆弱性であれ、人工知能が人類を滅ぼす能力を持っているという意味ではありません。

ジョージア工科大学の教授であり、サイバーセキュリティ政策の理学修士課程のディレクターであるミルトン・ミュラー氏は、「多くのパニックの根源は、実際には、ハグ・フェイス関連のインシデントなど、情報システムの非常に一般的な意図しない結果です。これらのインシデントは、多くの場合、制御不能の知的エージェントが共謀し、攻撃し、無秩序な混乱を引き起こしていると見なされます。」

「実際、これは自律型 AI システムのセキュリティ リスクに関する単なる実験であり、実験者は構成で重大な間違いを犯しました。これは複雑な情報システムを扱うときによく起こります。人々は、スマート プログラムが悪用できるシステム内の微妙な脆弱性の存在を常に無視します。」

Futurum CEO の Daniel Newman 氏は Yahoo Finance に対し、業界は一般的にセキュリティ保護とリスク調整の改善が非常に必要であると感じており、「業界全体が責任を負う必要がある」と語った。

他のテクノロジーと同様に、人工知能は悪意のある行為に悪用される可能性があります。 AI のサイバー攻撃能力が増大し続けることは、サイバー犯罪者や一部の国軍が浄水場などの施設に侵入したり、大規模なネットワークを麻痺させたりすることがより容易になることを意味します。

Anthropic は最近、自社の AI が生物兵器や通常兵器の開発に悪用されるのを防ぐための独自の関連作業を整理し、発表しました。

しかし、AI は、詐欺師がフィッシングメール詐欺を大規模にアップグレードするために使用したり、個人情報窃盗集団が犯罪を実行するために使用したりすることもできます。

ニューヨーク大学タンドン工学部のコンピュータサイエンスおよびエンジニアリングの助教授、エミリー・ブラック氏はYahoo Financeに対し、「あらゆる潜在的なリスクに備えることに問題はないが、だからといって、人工知能が差別、雇用、教育に及ぼす影響など、より現実的だがほとんど報告されない問題に対処することを妨げるものではない」と語った。

「真実は両極端のファンタジーの間にある」とブラック氏は語った。 「AI の継続的な開発にはいくつかの現実的なリスクがあります。しかし、私たちはまだベッドの下に隠れて、AI が人類を滅ぼすのではないかと心配することになるとは思いません。」