要約:
国連のグテレス事務総長は現地時間水曜日、各国の指導者に対し、急速に発展する人工知能（AI）は無視できないリスクをもたらしており、世界はAIの安全保障分野での最下位競争のリスクに耐えることはできないと警告した。この発言は、以前に既存の規制措置で十分だと述べたトランプ米大統領と矛盾している。
来週ニューヨークで開催される国連総会に先立ち、グテーレス氏は、AIの規制強化が世界の指導者らとの会談で議論される重要な問題の1つになると述べた。
グテレス氏は記者会見で、「世界中で直面している脅威に目を向ける中で、AIの急速な発展によって増大する懸念についていくつか追加のコメントをしたいと思います。」と述べた。
同氏はさらに、「AI には、持続可能な開発に向けた進歩を加速し、学習を改善し、医療システムを強化し、気候変動に対する回復力を高めるなど、大きな可能性を秘めています。」
しかし、彼は次のようにも指摘しました。「AI 開発に携わる人々の多くが警告を発しています。彼らは、AI の開発速度がその潜在的なリスクについての私たちの理解を超えているのではないかと心配しています。」
「特に AI 開発の最前線にいる人々から提起された懸念を無視することはできません。政府の第一の責任は国民を守ることであり、それには AI によってもたらされる脅威から国民を守ることも含まれます。」
AI の潜在的なリスクに対する国民の懸念が高まり続けるにつれ、関連性のある警告がますます増えています。人類研究者のジェイコブ・コクソン氏は先週、辞任の理由の一つは「AIの開発に実際に携わっている人々が、このテクノロジーが今世紀末までに人類を滅ぼす可能性があると真剣に信じている」と述べた。同時に、世界最大手のAI企業の幹部らも、技術開発の減速を求めている。
トランプ大統領は月曜日、米国は AI 企業を監督し、責任を問うために関連する「ガードレール」措置を確立したと述べた。同氏はまた、業界幹部が以前に表明した懸念を軽視した。
グテーレス氏は長年にわたり、世界規模の人工知能ガバナンスメカニズムの確立を推進してきました。 2023年、国連は米国、ロシア、日本などのテクノロジー企業幹部、政府関係者、学者を含む39人のメンバーで構成されるハイレベルの人工知能諮問機関を設立した。
複数の外交官は、来週開催される国連年次総会のために世界のリーダーがニューヨークに集まる際、国連安全保障理事会もAI問題に関する会議を開催する可能性があると述べた。国連安全保障理事会は 2023 年に AI 問題に関する最初の会合を開催しました。
グテーレス氏は、AIフロンティアで最も強力な技術力を持つ国々は「最下位への競争に陥ることを避けるために（つまり、参加者が基準を継続的に引き下げることで競争上の優位性を得る）、通信および情報交換のメカニズムを確立し、いくつかの共通の安全ガードレールを開発する必要がある。そうしないと、この競争はいつか地球規模で大規模な災害につながる可能性がある」と述べた。
グテレス氏は次のように主張しました。「AI の安全、安心、責任ある開発を確保しながら、AI システムの能力が向上し続ける中で、潜在的なリスクに対処するために、より強力な安全ガードレールが必要になる場合や追加の措置が必要になる場合があることを明確にする必要があるという共通の理解を得る必要がある。」
関連記事:
国連事務総長が警告: 人工知能の開発スピードは規制規則の更新ペースをはるかに上回っている
コメント