要約:
「本当の問題は、速度を落とすべきだと思うなら、高速で走ってはならず、外力によって強制的に停止されるまで待ってはいけないということです。」これはマイクロソフト副会長兼社長のブラッド・スミス氏が国連総会でアラン・マレー氏に語った言葉だ。テーマは「最先端の大型模型メーカーは、開発する技術が人類に破滅をもたらさないために減速ペダルを踏むべきか」というものだった。
これらの発言をしたのと同じ日に、Anthropic CEO のダリオ・アモデイ氏と OpenAI CEO のサム・アルトマン氏は国連で講演し、人間の制御能力を超えた AI の開発を防ぐために AI の安全保護メカニズムを確立するよう各国に呼び掛けました。
業界で長年の経験を持つスミス氏は、「企業の CEO として、自社の製品に安全上の危険があると判断した場合、その製品の販売を継続すべきでしょうか? 答えは明白だと思います。いいえ。企業には公共の安全に対する責任があります。」
それでも、「最終的には特定の規制措置の導入は避けられないでしょう」と彼は付け加えた。歴史的に、多くの製品は安全な実装を達成するために規制に依存していました。たとえば、かつては牛乳の汚染の問題がありました。「そこで私たちは農業検査部門を設置し、関連法を導入しました。今ではスーパーマーケットに行けば、どの種類の牛乳も安全で飲めるようになりました。」
スミス氏が「AI システムを直接減速またはシャットダウンする」機能があるべきだと提案したとき、司会者のアレン氏は、彼が AI 緊急シャットダウン スイッチ (キル スイッチ) について話していることを確認し、「これは良いアイデアだと思いますか?」と尋ねました。
スミス氏は、「もちろんです。...モデル開発者はそれをシャットダウンする権限を持つべきです。マイクロソフトのようなクラウド インフラストラクチャ プロバイダーもその権限を持つべきです。そして、AI エージェントの制御を担当する機関もそれをシャットダウンする権限を持つべきです。たとえこのメカニズムが法律で義務付けられたとしても、それは悪いことではありません。」
アランは、経営者が社内の AI セキュリティ問題にどのように対処すべきかを彼に尋ねました。 「私が言いたいのは、AI の使用をやめないでください。AI は根本的なイノベーションであり、生産性を向上させるための重要なツールです。しかし、テクノロジーにはガバナンスが必要であることを覚えておくことが重要です。... このテクノロジーのガバナンスは、テクノロジー自体と同じくらい重要です。」
彼はまた、次のようにも言いました。「毎日目が覚めると、人類が絶滅する確率は 10% であると感じます。しかし、あまり心配しないよりは、心配しすぎたほうがよいと思います。結局のところ、私たちが議論しているのは人類の生存に関することです。神様のためにも、この問題は最新のテクノロジーよりも重要であり、私たちは真剣に受け止めなければなりません。」
コメント