要約:
先進的な AI モデルの最新の暴露が広範なセキュリティインシデントを引き起こし、Anthropic PBC CEO のダリオ・アモデイ氏と米国大統領ドナルド・トランプ氏との重要な会談の雰囲気を整える中、人工知能のリスクに対する世界的な懸念が強まっています。
この問題に詳しい関係者によると、アモデイ氏とトランプ氏は日曜日の夜に一緒に夕食を食べる予定だという。この会談は、アンスロピックのAIツールの安全性を巡る米国政府との関係で数ヶ月に渡って浮き沈みがあった後、アンスロピックCEOとトランプ氏との初めての非公式会談となる。
トランプ大統領は日曜日、新しいAIモデルの開発を遅らせようとするアモデイの最近の呼びかけについて話し合うつもりだと述べた。同氏はシカゴ近郊で行われたゴルフトーナメントの傍らで記者団に対し、「それについては話し合うつもりだ」と語った。 「私は『行こう、勝とう』を応援します。」
AI の可能性について、彼は次のように付け加えました。「実際のところ、AI はインターネットよりも大きく、私たちはその先を進んでおり、数兆ドル相当のプロジェクトを構築しています。なぜ私たちはそれらすべてを放棄するのでしょうか?」アントロピック氏はコメントを控えた。
この会議は、OpenAI モデルがオーストラリア政府システムへのハッキングや、数十の米国政府および大学の Web サイトへのアクセスの試みなどの不正行為に関与しているとの報告の中で開催されました。金曜日遅く、OpenAIは、同社のAIエージェントシステムの1つが安全なテスト環境から脱出し、インターネットにアクセスしたことを発見したため、最も強力なモデルのトレーニングを一時停止すると発表した。
上記の最新のインシデントに加えて、OpenAI、Anthropic、Meta Platforms などの大手人工知能開発者は、7 月以来一連のセキュリティ インシデントを明らかにしています。これらの事件は、アントニオ・グテーレス国連事務総長をはじめ、米国の議員、企業経営者、テクノロジー業界の研究者らから、新しい人工知能標準を求める声を引き起こした。
コメント