日経新聞の最新報道によると、日本政府は研究開発を妨げることなく安全性を向上させることを目的に、民間のAI技術が軍事転用されるリスクを含む人工知能（AI）の安全性問題を検討する組織を来年設立することを検討しているとのこと。早ければ今月中にもAI関連の国家戦略を議論する人工知能戦略委員会の会合で正式に発表される見通しだという。そのメンバーには、AI 分野での経験を持つ民間部門の専門家が含まれています。

OpenAI の ChatGPT などの最先端の製品に焦点が当てられます。民間部門の混乱を避けるため、企業が業務効率を向上させるために使用する標準的なAI技術は日本政府の対象にはならない。

AI製品は市場に投入される前に一連のテストを受ける必要があり、日本政府が購入するAI製品には使用前に専門機関による認証を義務付ける案もある。

新たに設立された組織は、生物兵器、化学兵器、その他の兵器を作成するための情報を取得するためにAIを使用する可能性など、潜在的な国家安全保障上のリスクを研究する予定であり、ネットワークへの攻撃を含むセキュリティの脆弱性も調査する予定である。

さらに、AIが制御不能になるリスクや、誤った情報や偏見に関連する問題も調査される予定だ。 AI によって制御されるソーシャル メディア アカウントは、インターネット上にコンテンツを自動的に生成し、人間のユーザーと対話して世論を操作したり、感情を煽ったりすることができます。

現在、情報技術の発展により、軍事分野でもAI技術が広く活用されることが現実となっています。 AIを活用して戦場データを収集・分析する一連のAI運用は、戦闘システムにおいて広く活用されている。民間のAI技術が軍事目的で利用されることはほぼ避けられない。

完全に新しい機関が設立される可能性もありますが、最も可能性の高い結果は、新しい部門が既存の組織に統合されることです。総務省所管でAI技術を研究する情報通信研究機構や経済産業省所管の情報処理推進機構などが候補機関となる。

今月初め、先進７カ国（Ｇ７）はＡＩに関する国際ルールの枠組みについて最終合意に達した。これは、開発者とユーザーに対するAIにおける「すべての関係者」の責任を定めた初めての包括的な国際規則となる。

G7はAI悪用防止に向けた協力を率先して示すことで、G7以外の国や企業の承認を得ようと努めている。日本政府はこの協定を利用して国内ガイドラインを策定する予定で、AI開発者は製品を市場に投入する前に第三者によるリスク評価を受け入れる必要がある。

英国と米国も、AI 機関の創設において先導しています。英国は11月、世界初のAIセキュリティ研究機関を設立した。最先端のAI製品を市場投入前と市場投入後に検証した上で、セキュリティリスクのある製品については開示を検討します。

米国は今年10月のバイデン大統領の大統領令に従い、国立標準技術研究所が主導してAIの安全性評価手法の開発を進めている。 AIの能力とリスクを評価する手法を開発するために民間企業とAI安全同盟を構築することを目指しており、民間企業が独自にリスク検証を行うことを期待している。