Anthropicは、AI生物学研究所は初期の進歩を遂げたが、まだ完全な自律運用権限を付与していないと述べた

要約:

人工知能のスタートアップ Anthropic は、サンフランシスコ ベイエリアに新設した AI 物理生物学研究所 (ウェット ラボ) が「大きな進歩」を遂げたと発表しました。しかし、実験運用レベルでは、人間の研究者が依然として絶対的な制御権を持っており、その AI モデルであるクロードが監督なしで自律的に動作することを直接許可していません。

この研究所は主に基礎的な生物学的研究と物理的検証に専念し、純粋なコンピューター シミュレーションと実際の生物学的実験の間のギャップを埋めることを目的としていると報告されています。 Anthropicの幹部らはこれまでに何度も警告を発し、強力なAIモデルは非常に深刻なバイオセキュリティリスクや人類の破滅をもたらす可能性があることを強調してきたが、同社はライフサイエンス分野でのAIの応用も加速している。同社のライフサイエンス事業責任者エリック・カウデラー・エイブラムス氏は、「実際の研究所での物理的検証は、今後も長い間かけがえのないものであり続ける」と指摘したが、これは研究所設立における同社の重要な当初の意図でもある。

報告書は、Anthropic 社は研究所が素晴らしい暫定結果を達成したと主張したが、最も顕著な詳細は、同社が AI を直接「解放」させることを選択しなかったことであると強調した。すべての物理実験手順、試薬操作、データレビューは依然として人間の研究者による厳密な「閉ループ制御」（人間が関与する制御）の下にあります。

アナリストらは、Anthropic 社が生物学的イノベーションを促進しながら高度な警戒を維持していると指摘しました。これは、今日のテクノロジー大手が商業研究や科学研究のブレークスルーを追求する際に直面する二重のジレンマを反映しています。一方で、製薬パートナーに検証機能を提供し、希少疾患との闘いを加速するために物理的な研究所を使用する必要があり、一方で、物理的な研究所を使用する必要があります。その一方で、AIが悪用されて新たな生物学的脅威が生み出されるのではないかという、あらゆる階層からの大きな懸念に対処しなければなりません。 Anthropic は、実験ループにおいて人間の優位な立場を維持することを主張することで、AI 生物学研究におけるイノベーションと安全性の両方を考慮したコンプライアンスのレッドラインを確立しようとしています。