要約:
元人工知能研究者で、OpenAI と Anthropic で働いていたジェイコブ コクソン氏は、最近、世界的な人工知能競争に対して強い警告を発しました。最新のインタビューで同氏は、中国がOpenAIとAnthropicにインテリジェンス要員を配置していることは「90％確信している」と述べ、超インテリジェンスの研究開発における競争が激化し続ける中、各国の諜報機関が最先端技術を習得するこれらの企業を無視することはほぼ不可能であると考えていると述べた。
コクソン氏は、世界トップクラスの人工知能研究所が地政学的競争の重要な標的になっていると述べた。先進的なAI技術は将来、経済、軍事、サイバーセキュリティ、科学研究の分野に大きな影響を与える可能性があるため、世界中の政府は関連情報を入手する強い動機を持っています。同氏は、これらの機関がまったく浸透していないと仮定するのは非現実的だと考えている。
コクソン氏は、セキュリティ問題についての懸念を表明することに加えて、Anthropic 内の文化的な詳細についても明らかにしました。彼は、アンスロピック社の従業員の多くが自分たちを「アリ」と呼ぶことを明らかにしました。この名前は、社名 Anthropic の略語および派生的使用に由来しており、一部の従業員によっては、超知性の目標を共同で追求するための内部アイデンティティとしてもみなされています。
コクソン氏は以前、AI業界の方向性を公に批判したことで広く注目を集めた。 OpenAI および Anthropic で長年働いてきた研究者として、高度な人工知能システムに関連する研究に長年携わってきました。アンスロピック社を去った後、同氏は一連の公開論文を発表し、安全問題が技術の進歩に見合った注目を集めていない一方で、業界が超知能の研究開発を過剰なスピードで推進していると非難した。
彼は、現在主要な AI 企業が熾烈な競争に巻き込まれており、自己改善機能を備えた超インテリジェント システムを最初に構築することを望んでいると考えています。技術的なリーダーシップを競うために、企業は研究開発の速度を上げ続けていますが、業界は、将来のシステムが常に人間の制御下にあることを保証する方法について、成熟したソリューションをまだ見つけていません。
コクソン氏は、業界の中核にいる一部の研究者は、今後数年以内に超人的な知的システムが出現することは遠い夢ではなく、現実の発展の道であると心から信じていると述べた。同氏は、人々は一般的に開発のスピードと関連技術の潜在的な影響を過小評価していると警告した。高度な自律性を備えたシステムがより優れた機能を獲得すると、コンピュータ システムに侵入し、重要なインフラを制御し、現実世界のリソースや影響力にアクセスできるようになる可能性があります。
超知性のリスクをめぐる議論は最近、白熱し続けています。 OpenAI、Anthropic、その他のトップ研究機関の多くの研究者やマネージャーが、人工知能がもたらす可能性のある実存的リスクについて公に議論しています。業界関係者の中には、より厳格な安全規制の枠組みを確立し、まず制御性の問題に対処するために最先端モデルの開発を遅らせることを主張する人もいる。
しかし、業界内の一部の人々は、極度のリスクを強調しすぎると、科学研究、医療、教育、生産性向上などの分野で人工知能がもたらす大きな可能性を無視してしまう可能性があると考えています。安全対策の強化と技術革新の継続は矛盾しないと考えている。
OpenAI、Anthropic、Google DeepMind、xAI などの企業が次世代モデルの構築に巨額の投資を続ける中、人工知能の安全性、国家間の競争、超知能の将来の方向性に関する議論は激化し続けています。知能の浸透と超知能の競争に関するコクソン氏の発言により、世界の人工知能産業が再び世論の注目を集めるようになりました。
コメント