「AI ゴッドファーザー」ヒントン: AI 災害はますます近づいており、人類が絶滅する確率が 10% であるということは憂慮すべき発言ではありません

要約:

9 月 11 日、「Business Insider」によると、「AI ゴッドファーザー」ジェフリー ヒントン氏は、

AI がすべての人類を絶滅させる確率を見積もることは困難ですが、この確率はゼロではありません。

ヒントン

「ニュースナイト」の司会者ビクトリア・ダービーシャーは、ヒントン氏がアンスロピック社のトップAIセキュリティ研究者であるジェイコブ・コクソン氏の判断に基本的に同意したため、驚きを表明した。研究者は、

今後 10 年で、AI は「全人類を 10% 以上殺す可能性がある」と述べました。

「うわー」とダービーシャーは言いました。「なんとまあ」

ヒントン氏は、人類社会が「近いうちに私たちより賢くなるかもしれない」テクノロジーを見たことがないため、具体的な確率を見積もるのは難しいと述べた。

「確率が 1% しかないと言うのは愚かです」と彼は言いました。 「それを見積もる方法は誰も知りません。」

確かなことは、そのような災害が発生する可能性がある期間が短くなったということだと、ノーベル賞受賞者は言いました。 「以前は30年から50年だと思っていたが、10年から20年に短縮された」と彼は言う。 「今のところ、私はそれが 10 年か、それより短いかもしれないと考えています。他の人はそれよりもずっと早いと考えています。」

これがどのようにして起こるかについて、ヒントン氏は、サイバー攻撃から致死性のウイルスを開発する AI に至るまで、さまざまなリスクを挙げています。ヒントン氏はこのスケジュールが大幅に短縮された理由については言及しなかったが、AnthropicやOpenAIなどの大手AI企業はモデルのスケールアップに数十億ドルを投資しており、最近リリースされた製品はわずか数カ月前のモデルと比較して大幅な改善を示している。

ヒントン氏のコメントは、人類研究者のコクソン氏が、待望の同社のIPOの前夜に辞任を発表した後に発表された。以前OpenAIで働いていたコクソン氏は、AI巨人は「我々の命を賭けている」と語った。

「AI を開発している人々は、AI がこの 10 年が終わる前に私たち全員を殺す可能性があると心から信じています」とコクソン氏は書いています。

ヒントン氏は、人間は自己破滅への道を歩むかもしれないし、あるいは AI の可能性を認識しながら「AI によってもたらされる危険に対処する」方法を見つけるかもしれない、と語った。同氏は、世界的な規制の強化を求める自身の呼びかけを繰り返し、各国がすべての問題で合意しているわけではないかもしれないが、人類の生存を守りたいという共通の願いを共有していると指摘した。

「各国は、AI が人間に取って代わるのを防ぐことに同じ関心を持っています。したがって、最終的には協力するでしょう。問題は、間に合うように行動を起こせるかどうかです。」彼は言い​​ました。