ローマ法王レオ14世、自律型致死兵器の禁止を各国に呼びかけ：AIが独断で人の命を奪ってはいけない

要約:

教皇レオ 14 世は最近、軍事分野での人工知能の応用について新たな警告を発し、政府に対し、独自に攻撃目標を決定し、致命的な攻撃を実行できる兵器システムを禁止するための具体的な行動を取るよう求めました。同氏は、人命、自由、武力行使に関わる重大な決定は常に効果的で情報に基づいた責任ある人間の監督下に置かれるべきであり、人工知能に任せて独自に下すことはできないと強調した。

現地時間10月30日、教皇レオ14世はバチカンで、人工知能に関する特別会議に参加した科学者、技術専門家、関連機関の代表らと会談した。 「人工知能の未来：インテリジェント技術の開発と応用に関するバチカンと科学界との対話」と題されたこの会議は、バチカン生命科学アカデミーと生命未来研究所の共催で、人工知能の開発によってもたらされる技術的、倫理的、社会的問題に焦点を当てた。

教皇は演説の中で、2024年に前任の教皇フランシスコがG7首脳らに行った演説を回想した。当時、フランシスコは人工知能を刺激的であると同時に憂慮すべきツールであると述べ、人の命を奪うかどうかを決定する権限をいかなる機械にも与えるべきではないと明言した。レオ 14 世は、この警告が今日でも意味があると信じていました。

レオ 14 世は、人工知能の将来はあらかじめ決まっているものではないと指摘しました。人間が開発したテクノロジーであるため、その発展の方向性は最終的には人間自身の選択に依存します。したがって、人間は人工知能の開発を指導する責任があるだけでなく、必要に応じて特定のアプリケーションを変更したり、拒否したりする必要もあります。議論する必要がある本当の問題は、人工知能に何ができるかだけではなく、より重要なのは、人間が人工知能にどのような目的を果たしてもらいたいのかということです。

同氏は、人工知能は効果的な倫理的制約を受け入れる必要があり、特に人間による実質的な監督なしに、誰が標的となるべきか、誰が国境管理の対象となるべきかをアルゴリズムシステムが決定することを許可してはいけないことを特に強調しました。軍事目標リストや国境管理データベースに個人を載せることは、実際の生活やそれに関わる個人の権利が無視される一方で、単なるデータに還元される危険性がある。

したがって、教皇は各国に対し、人工知能のいわゆる「武装解除」を実施するよう呼びかけ、特に11月にスイスのジュネーブで関連会議を開催しようとしている国々に対し、自律型致死兵器の禁止を促進するための具体的な措置を講じるよう要請した。

いわゆる自律型致死兵器とは、人間の直接の介入なしに標的を識別、選択、攻撃できる兵器システムを指します。人工知能、コンピュータービジョン、ドローン、自動軍事システムの発展に伴い、この種のテクノロジーは国際社会の軍事倫理と戦争規則に関する議論において重要な問題となっています。論争の核心は、ひとたび機械が攻撃目標を独自に決定する能力を獲得すれば、責任の帰属、誤った判断の結果、そして人間による戦争の制御がすべて新たな課題に直面する可能性があるということである。

レオ 14 世は、軍事利用に加えて、人工知能が法人格を取得すべきかどうかについても明確に反対を表明しました。彼は、機械は人間ではなく単なる道具であると指摘しました。人工知能は現実の身体、感情、人生経験、対人関係を持たず、自らの経験から愛、友情、労働、責任などを理解することはできません。

彼は、人工知能システムに法人格や独立した権利が与えられると、本当の責任主体が曖昧になる可能性があると考えています。 AI が危害を及ぼした場合、被害者は道義的責任を負うことのできない技術システムに対処しなければならない可能性があり、開発者、運用者、実際のユーザーの責任がさらに不明確になる可能性があります。

教皇はまた、人工知能の開発は社会全体の共通の利益に資するものでなければならず、一部の企業や利益団体が権力と富を獲得するためのツールになるだけであってはいけないと強調した。技術の進歩によってもたらされる医療、知識、ツール、開発の機会は、さまざまな国や社会集団、特に最も困っている人々に、より公平に利益をもたらすべきです。

彼の見解では、現在、世界中で人工知能の倫理に関する原則に基づいた議論が不足しているわけではありません。本当に緊急の課題は、これらの原則を実際的な制約に変えることができるシステムを確立することです。国際社会は、共通の基準を策定し、独立した監督メカニズムを確立し、人工知能の開発と使用における責任体制を明確にし、損害が生じた場合に関連する決定を見直し、効果的な救済策を提供できるようにする必要がある。

この演説は、今年 5 月に発行されたレオ 14 世の最初の回勅「Magnifica Humanitas」（「偉大なる人類」）の中核となる立場を引き継いだものです。この文書は人工知能を重要なテーマの一つとして列挙し、技術開発が人間の尊厳を傷つけないよう法的監督を強化するよう各国に求め、戦争、労働市場、公共の意思決定における人工知能の適用は広範な影響を与える可能性があると警告している。

レオ 14 世が自律型致死兵器の問題にさらに焦点を当てたことで、バチカンの立場は、軍事用人工知能のガバナンスに関する国際社会の進行中の議論とより直接的に結びついています。特定通常兵器に関する国連条約の枠組みに基づく関連会合が11月16日から20日までジュネーブで開催される。自律型致死兵器の国際監督も議論される議題の一つとなる。

教皇は人工知能研究の完全な中止を求めなかったが、取り返しのつかない個人的危害を引き起こす可能性のあるアプリケーションに対して明確な境界線を設けるよう主張した。同氏は、人工知能の開発速度が人間社会のリスク管理能力を上回るのではなく、各国が国際協力を通じて効果的な規制システムを確立し、テクノロジーが常に人間の責任と管理下にあることを保証できることを望んでいる。