ジョンズ・ホプキンス大学、オックスフォード大学、スタンフォード大学、コロンビア大学、ニューヨーク大学の研究者らは、人工知能による致死性ウイルスの設計を可能にする可能性のある特定の感染症データセットに対する安全策を求めている。この警告は、人工知能の開発において見落とされている重大なセキュリティ上の欠陥を浮き彫りにしています。

研究者らは、リスクの高い生物学的データがオープンウェブ上に拡散すると、もはや取り戻すことはできないと指摘している。これは、たとえ将来的に関連する規制が導入されたとしても、危険な知識自体が広く普及していれば、いかなる規制措置も効果がなくなることを意味します。この不可逆性により、バイオセーフティデータの管理と制御が特に緊急かつ複雑になります。

現在、人工知能技術の急速な発展、特に生物医学分野での応用の深化に伴い、リスクの高い生物学的データを取得して処理する AI システムの能力も向上し続けています。研究者らは、これらの機密データセットに対して適切なアクセス制限やセキュリティ対策が講じられていない場合、悪意のある攻撃者が AI テクノロジーを使用して病原体を操作または改変し、伝染性の高いまたは致死性の高い生物学的脅威を生み出す可能性があると懸念しています。

この呼びかけは、デュアルユース AI のリスクに関する学術界の深い懸念を反映しています。科学データのオープンな共有は医学研究と公衆衛生の進歩にとって重要ですが、特定の潜在的に危険な生物学的情報が悪者の手に渡った場合、壊滅的な結果を招く可能性があります。したがって、科学の進歩の促進と生物学的安全性の確保の間のバランスをどのように見つけるかが、AI ガバナンスの分野で解決すべき重要な課題となっています。