最近、ディープマインドの創始者デミス・ハサビス氏は、自身が開発した超人工知能には人類を絶滅させる危険性があると認めた。現在のAI開発競争は歯止めの利かない状態に入っており、人間が外部ガバナンス手法で効果的に制御することは困難である。同氏は、AIを制限するためにシステムと倫理委員会に依存するという以前の考えを完全に放棄し、ガバナンス構造が重要な決定において役割を果たすのは難しく、AIの安全性の方向性を制御する発言権を獲得するには自分自身に頼るしかないと認めた。

ハサビス氏は常に AI の安全性を強く主張してきました。初期の頃、彼は独立した監督と秘密の研究開発を通じて絶対に安全な超知能を作り出すことを構想していました。


2014年にDeepMindがGoogleに売却された際には、AIのセキュリティに関する独立した意思決定権の保持、外部監視委員会の設置、軍事用途の禁止も明示的に要求された。

しかし、これらのセキュリティ概念は次々と失敗に終わりました。関連する会議に出席した後、マスク氏は OpenAI の設立に目を向け、AI を単一の主体が制御するという考えを打ち破った。その後のGoogleとのガバナンス交渉も失敗に終わった。

2022 年の ChatGPT の出現により、AI 研究開発のペースは完全に混乱しました。Google は競争不安に陥り、DeepMind は Google Brain と合併し、セキュリティ規制は研究開発のスピードに取って代わられ、以前のセキュリティ防御線は徐々に機能不全に陥りました。

こうしてハサビスさんは現実を理解するようになった。ビジネス競争と技術競争の圧力の下では、巨大企業に依存する非営利ガバナンス機構は生き残ることが困難になるだろう。

今、ハサビス氏は考えを変えた。彼の中心的な命題は、AI のリスクを恐れながらも、自らが中核的な意思決定の立場に就き、主要なノードでテクノロジーの方向性をコントロールできるようにすることです。

彼は、Gemini などのモデルの開発を推進する一方で、安全性の最低ラインを堅持し、AI 暴走のリスクを軽減するために個人的な影響力を利用しようとしています。

業界アナリストは、この変化は世界的な AI 競争の残酷な現状を反映していると考えています。統一されたガバナンスを達成することは難しく、AI の安全性の枠は狭まり続けており、人類は文明の存続に関わる大きな課題に直面しています。