要約:
アントロピックは、同社が人工知能 (AI) の安全性を率直に主張しているため、政府の報復の標的になる可能性があると投資家に警告した。このコメントは、過去1年間トランプ政権と度重なる摩擦を経て、政府関連のリスクがアンスロピックの将来の事業に不均衡な影響を与える可能性があることを浮き彫りにしている。
アンスロピックは IPO 申請書の中で、AI 規制に対する自社のスタンスや企業幹部が公的に表明した見解が政府からの重大な圧力にさらされる可能性があると述べた。
Anthropic は目論見書で次のように述べています。「当社はこれまでより多くの注目を集めており、今後もさらに厳しい監視にさらされる可能性があります。たとえ同様の状況にある他の企業が同様の扱いを受けていなかったとしても、当社は特定の政府機関の標的となる可能性があります。」
9 月、Anthropic CEO のダリオ・アモデイは会議のためホワイトハウスに到着しました。
Anthropic とトランプ政権との衝突は、国防総省が同社の技術を使用する際にどのような安全ガードレールを設置すべきかをめぐる今年初めの論争に端を発している。 Anthropic は最近、同社の最先端の Mythos モデルが十分に安全かどうかをめぐって政府関係者と対立している。ダリオ・アモデイ最高経営責任者（CEO）は、セキュリティチームがテクノロジーの進歩に追いつく時間を与えるため、AI開発の協調的な減速を支持しており、この姿勢がトランプ大統領を激怒させた。
投資家は現在、Anthropic が直面している規制リスクを検討する必要があります。同社のテクノロジーは使いやすく、日常消費者製品として販売できるが、サイバー兵器、さらには生物戦争の触媒とみなされるほど強力であるため、より厳しい監視の対象となる。 Anthropic 社にとって、トランプ政権との度重なる対立により、AI 業界全体が直面する不確実性に新たなリスクが加わります。
コーネル大学技術政策研究所所長のサラ・クレプス氏は、「AI に関しては、政府権力の境界線が依然として段階的に明確化されており、場合によっては個別企業と直接対決することもある。投資家がこの不確実性に価格を付けるのは難しい。」
Anthropic は目論見書の中で、政府がもたらす可能性のあるさまざまな悪影響を明らかにし、モデルの強制閉鎖や AI 企業の国有化さえも含む一連の連邦法案について言及しました。今年初め、バンス副大統領を含む一部の当局者は、冷戦時代の防衛生産法を利用して企業に情報開示と国家安全保障機関への協力を強制するという考えを浮上させた。ブルームバーグがこれを報じた。
Anthropic はまた、政府の介入が AI 開発の取り組みにもたらす可能性のあるリスクについても列挙しました。これには、貿易管理により企業が海外の顧客を失う可能性や、モデルの不正行為によって起こり得る法的影響が含まれます。アンスロピック氏は、同社は開発中のシステムによって行われる行動を「完全に理解または説明」できない可能性があり、ひいては自社のビジネスに支障をきたす可能性がある規制措置を引き続き推し進めると述べた。
アントロピック氏は次のように述べています。「当社が提唱する規制またはその他の同様の措置が採用された場合、当社もこれらの措置の対象となる可能性があり、新しい規制は当社のコンプライアンスの負担を増大させ、製品開発または導入における当社の柔軟性を制限し、新モデルの開発またはリリースの方法と時期に影響を与え、あるいは当社の成長を鈍化させる可能性があります。」
Anthropic はまた、開発中のテクノロジーが最終的に人類に脅威をもたらす可能性があると警告しました。これは、シリコンバレーの多くのAI研究者が壊滅的な結果をもたらすことに対する懸念、トランプ氏とその同盟国が「デマ」として無視していることへの懸念を反映している。
9月、ノースカロライナ州チャペルヒルでG20が開催された。イノベーション閣僚会議の外でAI反対のプラカードを掲げるデモ参加者。
同社は次のように述べています。「高度な AI システムが適切な安全ガードレール、監督、安全対策の下で開発、導入、運用されない場合、人類に壊滅的なリスク、さらには存続のリスクをもたらす可能性があります。」
Anthropic は、AI モデルと科学研究を組み合わせる最近の取り組みが、致死性の生物兵器の製造を防ぐことを目的とした制限につながる可能性があると述べた。このモデルがサイバー攻撃に悪用された場合、Anthropic は法的責任を問われ、風評被害を受ける可能性があります。
トランプ政権は Anthropic の規制当局であるだけでなく、同社製品の重要な顧客でもあるため、同社が政府の決定にさらされる機会がさらに増えています。アンスロピック氏は、政府機関との契約から直接得られる収益は、IPO申請の対象となった全期間の総収益の約1%を占めており、データは2023年まで遡ると述べた。
米国商務省産業安全保障局の元次官ウィリアム・ラインシュ氏は、「アンスロピックの状況はいくぶん特殊である。なぜなら、トランプ政権下では多くの行動が非常に恣意的であり、アンスロピックは他の企業とは異なる扱いを受けていたからである。」
元ホワイトハウス国家安全保障会議理事で、現在は戦略国際問題研究所戦略技術プログラム部長のマット・パール氏は、「アンスロピックや他の大手AI企業が最終的にどのような機関になるかは分からない。このような状況はこれまで見たことがない。大企業の最終的な形や、政府との最も基本的な関係がこれほど未解決の状態にある。」
コメント