要約:
著名な AI セキュリティ研究者であり、OpenAI Holdings の取締役会メンバーである Paul Cristiano 氏は、人気テクノロジー ポッドキャストのインタビューで、人工知能の発展の見通しについて警告を発しました。同氏は、将来的に人間がAIの制御を完全に失う可能性が急速に高まっていると述べた。

このポッドキャストは月曜日に放送され、Devaksh Patel がホストを務めています。クリスティアーノ氏は番組で「今後6カ月以内に多数の死者や政府転覆を伴う災害が発生する可能性は十分にある」と語った。ポッドキャストには通常、テクノロジー業界の人々を含む数百万人のリスナーがいます。
クリスティアーノ氏は、上記のような出来事が起こるかどうかは、AI テクノロジーの反復速度に依存すると述べました。同氏はまた、再帰的自己改善技術によってAIモデルは自己反復アップグレードを達成でき、今後1年以内に危険な臨界点にまで発展する可能性は「かなり高い」と提案した。
クリスティアーノの過去の公の場での発言と比較すると、この声明は警告がさらにエスカレートしていることを示しています。彼はまた、バークレーに本拠を置き、AI アライメント研究に焦点を当てている非営利組織 Center for Alignment Research の監督も務めています。 AIのセキュリティリスクについて長年警告してきた上級研究者として、同氏は9月に同社を管理するOpenAI財団の取締役会に加わった。クリスティアーノ氏はインタビューの中で、自身のスピーチは自身の個人的な立場を代表するものであり、OpenAI取締役会の見解を代表するものではないと強調した。
クリスティアーノは、初めて取締役会に加わったとき、人間が AI の制御を失うことによって引き起こされる壊滅的な出来事が今後 1 年で発生するリスクは約 4% であると推定する公開記事を発表しました。
月曜日のインタビューで同氏は、モデルの機能がここ数カ月で急速に進歩したと述べ、現在では来年AIが人間を乗っ取るリスクは「1%ではなく10%に近い」と評価している。同氏は、大手企業がAI開発によって引き起こされるリスクを軽減するために一段の保護措置を講じなければ、リスク推定値は「大幅に高くなる」だろうと述べた。
コメント