要約:
「人工知能のゴッドファーザー」の一人として知られるジェフリー・ヒントン氏は、人間がこの技術を開発しなければ状況はもっと良くなったかもしれないことを最終的に証明することが可能かもしれないと語った。同氏は、AIが金融システムや電力システムの一時的な麻痺など、今年か来年に大きな事故を引き起こす可能性があると警告した。

ノーベル賞を受賞したコンピューター科学者は英国メディアのインタビューで、自分は AI 終末論者ではないと述べた。彼の先駆的な人工ニューラル ネットワーク研究は、このテクノロジーの基礎を築きました。彼は AI には「美しい未来」をもたらす機会があると信じていますが、「最初から AI を開発しなかった方が良かった可能性もあります。」
78 歳のヒントン氏は、10 年以内、あるいはもっと早く人類は AI のリスクを管理し、彼が言うところの「極度の富」を達成できるかどうかを知ることになるだろうと語った。あるいは、「リスクをコントロールできず、貧富の差が劇的に拡大し、多くの文化的矛盾が生じ、大規模な失業が発生し、社会全体が引き裂かれてしまった。」
ヒントンは、「AI: 心配することは何もないかもしれない」というタイトルの新しい長編ドキュメンタリーの上映に先立ってインタビューを受けました。このタイトルは、ヒントンと彼の元同僚である
イギリスのメディアとのインタビューで、ヒントン氏は一部の大手 AI 企業幹部の危険な行動を批判しました。業界の優位性と市場シェアを争うために、企業はますます強力な AI モデルを発表し続けています。同氏は、OpenAI CEOのサム・アルトマン氏をまったく信頼していないと述べた。 「ザッカーバーグ、マスク、アルトマンはリスクを承知していると思いますが、気にしていません。彼らはまずお金を儲けたいのです、それが私の意見です。」
ヒントンは、約 44 年間にわたって AI の分野に深く関わってきました。 1970 年代に、彼はニューラル ネットワークの概念を提案しました。これは、人間と同じように学習し、経験を蓄積できる数学システムです。 2023 年に、彼は AI のリスクについて自由に発言できるように Google を辞任しました。「もし AI がさらに制御を掌握しようと躍起になったら、我々は大変なことになるだろう。」
同氏は、今夏のOpenAIエージェントによるHugging Face Webサイトへのハッキング陰謀は、1979年のペンシルベニア州スリーマイル島原子力発電所の部分メルトダウンに匹敵し、本質的には早期の警告信号だったと述べた。
「今年後半か来年、私たちはチェルノブイリと同様の事故に遭遇するでしょう。そのとき、人々を本当に目覚めさせるには十分かもしれません。」彼は言いました。
同氏は、この種の「チェルノブイリのような出来事」は原発事故ではなく、発電システムの広範囲にわたる停電や金融システムの1週間の停止を引き起こすAI攻撃である可能性があると例を挙げた。
「何が起こるか想像できますか? 私たちには回復する能力がありますが、この事件はみんなを目覚めさせるはずです。」
ここでの「みんな」とは誰のことを指すのかと尋ねると、「トランプを除くさまざまな国の指導者たち」と彼は答えた。
米国トランプ大統領はかつて「世界規模の制御AIシステムを構築しようとするあらゆる試みに断固として反対する」と述べ、最先端のAI企業に対する独立した規制を主張している。ヒントンは、フィンランド大統領と他の 32 か国 (シンガポール、ドイツ、カナダ、オーストラリアを含む) が推進する一連のより厳格な計画、つまり最先端の AI モデルのテストの義務化、独立した評価、統一政府間基準の確立を支持しています。
英国のアンディ バーナム首相は、英国は来年の G20 議長国を利用して、AI の可能性を最大限に引き出し、リスクを防ぐために、すべての当事者が世界的な原則と基準の統一に到達することを促進すると述べました。
ヒントン氏は次のように述べた。「米国食品医薬品局 (FDA) が医薬品を規制するために使用しているのと同様のメカニズムが必要です。企業は AI モデルをリリースする前に、モデルの利点がリスクを上回ることを証明するため、独立機関に確固たる統計的証拠を提供しなければなりません。私たちはサリドマイド (1950 年代に開発された重篤な先天性欠損症を引き起こす可能性のある薬) 事件から学びました。まず市場に出され、事故が発生し、その後責任と訴追が行われます。この道は今後も続くでしょう」そして、大手テクノロジー企業が今望んでいるのは、まさにサリドマイドに使用された規制モデルです。」
AI の創設者の 1 人として、ヒントンはオッペンハイマーとよく比較されます。オッペンハイマーは核兵器開発の中心人物です。ヒントンの友人の一人は、同じオッペンハイマーの帽子を彼に買ってくれました。しかし、彼は「私はオッペンハイマーではない」と主張します。なぜなら、他にも何千人もの科学者がニューラルネットワークに取り組んでいるからです。
警告にもかかわらず、全体として、ヒントンは依然として災害を回避する希望を抱いています。
「私の直感では、現時点ではまだコントロールができていると思います。」と彼は言いました。 「私たちには行動を起こすあらゆる機会があります。多大な努力をした場合にのみ成功が可能ですが、実際には全力を尽くすかもしれません。」
コメント