要約:
「AI のゴッドファーザー」として知られ、ノーベル賞受賞者であるジェフリー・ヒントン氏は、ガーディアン紙のインタビューで厳しい警告を発しました。
彼は、今年か来年、チェルノブイリ級の大事故が AI 分野で起こる可能性があると信じています
。
ヒントンは、この夏の OpenAI エージェントの Hugging Face プラットフォームへの侵入を、原子力安全の歴史におけるスリーマイル島事故に例えました。それは危険な早期警告信号でしたが、本当の災害ではありませんでした。
AI の世界でのいわゆる「チェルノブイリ」は、SF 映画で AI が自律的に反乱して人類を滅ぼすというものではなく、AI がハッカーによって重要インフラにサイバー攻撃を仕掛けるために利用されるというものです。最も典型的なシナリオは、大規模かつ長期にわたる停電を引き起こしたり、世界の金融システムを 1 週間麻痺させたりして、人々の生活秩序に直接影響を与えることです。
。インタビューの中でヒントン氏は、大手AI企業の経営陣のリスクに対する姿勢について楽観的ではないと率直に述べ、OpenAIのアルトマン氏、メタ社のザッカーバーグ氏、マスク氏らを批判した。
ヒントン氏は、AI の背後に隠れた巨大な危険性を認識していたが、ビジネス上の競争と利益を前に、十分な注意を払わなかったと語った。各社はモデルの機能を競い合い、市場を掌握することだけに注力していた。
ヒントンは AI に反対しているわけではないことを指摘しておく必要があります。
彼は AI は両刃の剣であると信じています。彼は、それが大きな前向きな価値を持ち、人類に明るい未来をもたらす可能性があることを認識しています。しかし、ひとたび大きな事故が起きると、人々は最初からこのテクノロジーを発明しなければよかったと後悔するかもしれません。
。彼の見解では、今後 10 年間は人類にとって重要な期間となるでしょう。人類は最終的にAIのリスクを制御できるかどうかを検証することになるだろう。
では、リスクを防ぐにはどうすればよいでしょうか?ヒントンが示した解決策も非常に明確です。
最先端の大型モデルの場合、すべての国で統一された AI 安全基準の確立を促進し、規制上の制約を利用して乱暴に実行するために、必須の安全性テストと第三者による独立した評価を実施する必要があります。
。
コメント