英国国王はAIのリスクに焦点を当てるサミットを招集した。黄仁勲氏は、安全性が十分でない製品は延期すべきだと述べた。

要約:

人工知能 (AI) 業界の重鎮がスコットランドに集結し、国王はテクノロジーの制御を失わないよう呼び掛けた。チャールズ 3 世は、増大する AI のリスクに焦点を当てるため、テクノロジー業界のリーダーやその他の影響力のある人物とサミットを開催しました。今週、この話題は世界的な注目を集めています。会合に出席した幹部らはいかなる変更も公には約束しなかったが、安全性への懸念に直接反応した幹部もいた。

「AI を開発する私たち人間は、システムを厳密にテストする必要があります」と、Nvidia の CEO ジェンセン フアン氏は木曜日の王室イベントで簡潔に述べました。 「製品の安全性が十分でない場合は、発売を控えるべきです。」

ジェンスン・ファン氏とのスコットランドサミットには、OpenAI の最高財務責任者であるサラ・フライアー氏と、Google DeepMind の共同創設者であるデミス・ハサビス氏も出席しました。 Anthropic PBC の広報ディレクターである Tino Cuéllar 氏も、ダンフリーズ エステートで開催された AI フォーラムに参加しました。他の参加者には、テクノロジー企業、非営利団体、清華大学などの教育機関の責任者も含まれていました。

「人間性とその極めて重要な道徳的価値観を大切にするこの世界の私たちは、あなたの保証、つまり私たちが自らの運命のコントロールを失わないという保証を切実に求めています」とチャールズ 3 世は開会の辞で述べました。バッキンガム宮殿は声明で、このイベントは社会や自然界に利益をもたらすためにテクノロジーをどのように活用できるかを議論することを目的としていると述べた。

9 月 17 日、スコットランド、カムノックのダンフリーズ エステートにて英国国王チャールズ 3 世 (左)、Google DeepMind 社 (中央)、NVIDIA CEO のジェンセン ファン氏。

このサミットは適切な時期に開催されます。アンスロピックのダリオ・アモデイ最高経営責任者（CEO）は先週末、最先端モデルの開発を遅らせるよう求める記事を発表し、AIのリスク増大に関する世界的な議論を引き起こした。

「このテクノロジーの壊滅的なリスクをめぐって、最近多くの激しい議論が行われています」とハサビス氏はサミットで述べた。この英国の科学者は最近、GoogleのAI事業を管理する役職を辞任した。同氏は、強力なAIに関して主に2つの懸念があると述べた。1つは自律システムが制御不能になること、もう1つは「悪意のある者」がAIを悪用するために利用することだ。しかし、同氏は業界がこれらの問題を解決できると信じている。 「私は人間の創意工夫を全面的に信じています」と彼は言いました。

チャールズ 3 世はサミットで 2 つの重要な質問を提起しました。「第一に、安全を確保しながら AI の利点をどのように最大限に活用するか。第二に、どの国も取り残されず、人類の未来を守るために、この目標を達成するために国際協力と合意をどのように構築するか。

イベントで配布されたスケジュールによると、サミット中にチャールズ3世はファン・ジェンシュン、ハサビス、クエヤル、修道士および他の5人のゲストと非公開会談も行った。