国連によって設置された人工知能に関する初の独立科学専門家委員会は、人工知能（AI）の急速な発展は世界中の国や人々に多大な潜在的利益をもたらしているが、同時に大きなリスクも伴うとする予備評価報告書を発表した。この報告書は、7月6日から7日にジュネーブで開催される第1回国連グローバル人工知能ガバナンス対話で各国政府に提出される予定である。これは、世界規模での人工知能に関する初の独立した科学的評価である。完全かつ包括的なバージョンは来年リリースされる予定です。

この報告書は、世界各地の主要な科学者や専門家40人が共同執筆したもので、彼らは3年の任期で個人の立場で参加し、いかなる政府、機関、企業にも直接拘束されず、独立した科学的証拠を意思決定者に提供することを目的としている。報告書は、人工知能の能力が急速に進化する中、政策立案者は規制の枠組みを策定するための信頼できる科学的根拠を早急に必要としていると指摘している。しかし、科学界による一部の高度に自律的なシステムに対する現在の理解は依然として遅れており、社会と政府の適応性は明らかに不十分です。この種の高度に自律的な人工知能を抑制する効果的なツールはまだ限られています。

専門家委員会の共同議長ヨシュア・ベンジオ氏は報告書の中で、人工知能における「欺瞞的な行動」の科学的証拠が増えていると強調した。同氏は、システムの機能がさらに向上しても、人工知能が壊滅的な危害をもたらさないという科学的研究は保証できないと指摘した。そのような危害は、システム自体の動作から、または悪意のある動機を持つユーザーから発生する可能性がある。報告書は「人工知能の潜在的な利点は非常に大きい」と結論づけているが、大規模かつ迅速な導入の際に適切な制約や慎重な計画が欠如している場合には、この技術の悪影響は無視できないと警告している。

報告書は、人工知能の急速な推進が社会、経済、環境システムを大きく変えており、ユーザーの精神的健康にも課題をもたらしていると指摘している。良い面としては、人工知能アプリケーションが教育、医療、科学研究、工業生産などの多くの分野で効率を向上させ、新しい価値を生み出す能力が実証されています。しかし報告書はマイナス面として、情報や感情を操作することでAIが破壊的なツールとして利用されたり、国民の信頼や社会的結束、民主的熟議（熟議）を損なう可能性があると警告している。

この予備評価によると、世界中で 10 億人以上の人が会話型 AI を毎週使用していますが、その応用レベルは国や業界によって大きく異なり、発展途上国は一般にアクセスと使用の面で遅れをとっています。コンピューティング能力の集中に関して、報告書で引用されているデータによると、世界の人工知能スーパーコンピューター上位 500 社のうち、米国がコンピューティング能力の約 75% を占め、中国が約 15% を占めており、現在の人工知能インフラストラクチャーがいくつかの経済圏に高度に集中していることが強調されています。

報告書は言語レベルでの深刻な不均衡にも注目した。世界には 7,000 以上の言語がありますが、現在の主流の人工知能モデルは、トレーニングでそのうちのごく少数の言語しかカバーしていません。多くの言語では、機械翻訳の品質問題が顕著であり、エラーは日常のコミュニケーションに影響を与えるだけでなく、医療診断や治療の意思決定など、個人の安全に非常に敏感なシナリオで重大な結果を引き起こす可能性があります。

専門家会議は、人工知能の普及がもたらすリスクが多くの分野で顕在化し始めていると指摘した。これらには、人工知能によって生成される児童性的虐待コンテンツや、インターネット上のディープフェイク技術を使用して実装される性暴力コンテンツの増加など、人権、社会システム、自然環境に対する潜在的な悪影響が含まれます。報告書は、関連する現象によって、コンテンツの監督、刑事司法、国境を越えた協力における明らかな欠陥が露呈しており、技術レベルと制度レベルで同時に対応を強化することが緊急に必要であると考えている。

情報環境の観点から、報告書は、人工知能が「説得力のあるコンテンツ」の大規模な制作と正確なターゲットを絞った普及の敷居を大幅に下げたと警告している。この傾向は、情報の完全性の進行性の低下につながる可能性があり、それによってメディアや機関に対する国民の信頼が失われ、社会の結束が損なわれ、事実と論理的な議論に依存する民主的プロセスの審議メカニズムが妨害される可能性があります。専門家らは、こうした変化に直面して、従来の情報セキュリティーやメディア規制の枠組みでは不十分となり、ガバナンスの考え方を刷新し、国際連携を強化する必要があると考えている。

報告書はまた、一部の先進国を含むほとんどの国には、最新かつ最も強力な人工知能モデルの技術的評価を実施する能力が欠けており、これらのシステムの世界的なガバナンスに影響を与えるための実質的な技術的参加を得ることは困難であると指摘した。技術的能力とリソースにおけるこのギャップは、人工知能の安全基準の策定とリスクの予防と管理における国際的な不平等をさらに悪化させています。専門家グループは、多国間協力メカニズムや能力構築プロジェクトを通じて、より広範な国々が評価と規制の能力を向上させ、それによってグローバルガバナンスにおいてより代表的な発言力を形成できるよう支援するよう求めた。

この予備報告書は、各国政府および関連国際機関が将来の規制枠組みや協力の道筋について議論するための、国連グローバル人工知能ガバナンス対話において中核となる参考文書として機能します。専門家グループは、来年も最新の科学研究結果と実用化事例の収集と評価を継続し、提案されている包括的報告書のためのより詳細かつ体系的な証拠基盤を提供し、リスクの予防と管理と技術革新の間のより安定したバランスを模索するすべての関係者を支援する予定であると述べた。