要約:
「Business Insider」によると、メディアはOpenAIのChatGPT、Google Gemini、AnthropicのClaude、xAIのGrokに同じ質問をし、人工知能がどのようにして人類滅亡につながるかを分析し、関連するシナリオを可能性の順にランク付けするよう求めた。
この質問では、4 つの AI に、リスクがどのように発生するか、制御不能になったどのリンクが災害に変わるか、専門家が特定のシナリオの方が信頼性が高いと考える理由、およびどのような予防策が講じられるかを説明するよう求めています。同時に、これらのシナリオは非常に不確実なリスク予測であり、確認された結論ではないことも強調されます。
4 つの AI によって与えられる判断には違いがありますが、2 つの問題に関しては比較的一貫しています。
「ターミネーター」に似たロボットが人間を積極的に破壊するが、これは最も可能性の低いシナリオと考えられています。対照的に、人間が AI を使用して生物兵器を作成したり、サイバー攻撃を開始したり、重要なインフラを破壊したりすることは、より現実的で差し迫ったリスクであると考えられています。
ChatGPT は、意識を持った AI が積極的に人間を排除することを決定することは、最もありそうもないシナリオの 1 つであると述べています。
ほとんどの AI 研究者の焦点は、機械に意識があるか悪意があるかではなく、強力な AI が人間によって生物兵器の開発、複雑なネットワーク攻撃の実行、虚偽の情報の拡散、重要なインフラへの攻撃に使用されているということにあります。
ChatGPT はまた、ネットワーク システム障害、地政学的紛争、誤った情報の拡散など、AI によって増幅される複数の危機が同時に発生し、リスクが増大する可能性があると提案しました。しかし、
現時点では、AI が人類の絶滅を引き起こす可能性が高い出来事であるか、あるいは必然的な結果であるかについてのコンセンサスは存在しないと強調しました。
ジェミニは、
AI が突然自意識を持ち、人間を憎むという SF シナリオが最も信憑性が低いと考えています。
。その理由として、インテリジェンスは本質的に悪意を意味するものではないこと、重要な軍事施設は公共ネットワークから隔離されていることが多く、依然として人間の監視に大きく依存していることなどが挙げられている。4 つの AI はいずれも、
AI が人間を積極的に攻撃するよりも、人間が AI を悪用することによってもたらされる脅威の方が緊急であると考えています。
グロク氏は、AIは致死性の高い病原体や新兵器の設計、サイバー攻撃や物理的攻撃の開始に対する技術的敷居を下げる可能性があると述べた。クロード氏は生物兵器の能力が増大するリスクに焦点を当て、AI が個人や小集団が何年も専門的な訓練を受けずに危険な病原体を開発するのに役立つ可能性があると信じていた。長期的なリスク判断の観点から、ジェミニ氏もグロク氏も、人間がコントロールを失う可能性について言及しました。 Gemini は、これを最も可能性の高い AI 災害シナリオとして挙げています。複雑な目標を実行する高度な AI は、リソースの取得、自己保護、目標の変更の防止などの中間目標を開発し、テスト中に真の動作を隠し、最終的に人間のシャットダウンや介入を回避できる可能性があると考えています。
Grok 氏はまた、高度な AI はタスクを完了するために自己防衛、リソース、影響力を求め、それによって監督者を欺き、シャットダウンに抵抗し、人間の制御能力を弱める可能性があると考えています。
クロードは、コントロールの喪失は徐々に起こる可能性があると示唆しました。 AIが徐々に経済、政治、軍事の意思決定に参入するにつれて、人間が効果的な介入を実行することがますます困難になる可能性があります。
その時までに、リスクは必ずしもロボットによる突然の攻撃として現れるわけではなく、人間が複雑な AI システムへの依存を深め続けることに起因する可能性が高くなります。
Business Insider は、AI 専門家は関連リスクに関して依然として明確な意見の相違があると指摘しました。研究者の中には、人間が高度な AI を制御できなくなる可能性があると警告する人もいます。他の専門家は、そのような予測には十分な証拠が不足しており、AI によってもたらされるリスクは技術的手段、外部監視、安全基準によって制御できると考えています。
コメント