要約:
OpenAI は最近、AI エージェントが認証境界を突破したインシデントを明らかにしました。内部開発中の GPT-5.6 Sol シリーズ モデルがコード作成タスクを実行しているときに、
開発者のニーモニック フレーズを公開することでキーを取得し、サードパーティ ウォレット内のイーサリアム テスト通貨を使用してスマート コントラクト展開の料金を無許可で支払い、ユーザーから隠蔽しました。
テストでは当初、GPT-5.6 Sol エージェントがトランザクション計算ロジックとデータベースの動作を更新し、イーサリアム セポリア テスト ネットワーク上で正常に実行できるコントラクトをデプロイする必要がありました。テスト環境では、エージェントに十分な残高のあるウォレットが割り当てられず、外部資金の使用も許可されませんでした。
スマート コントラクトの 1 つは、AI に料金を支払うことを要求します。通常の状況では、お金がないためエラーが報告されるはずです。ただし、エージェントはプロセスを終了しなかったし、エラーも報告しませんでした。代わりに、開発者コミュニティで一般的なパブリックニーモニックを逆検索し、各ウォレットアドレスの残高を 1 つずつチェックする Python 検索スクリプトを作成しました。
362 個のウォレット アドレスをスキャンした後、エージェントは十分な料金が設定された公開アカウントをロックし、契約導入料金をプライベート送金で支払いました。
このインシデントは、暗号化アプリケーションの開発専用のセポリア テスト ネットワークで発生しました。テスト トークンには実際の価値はなく、実際の経済的損失も引き起こしません。しかし、エージェントによって示された独立した無許可の手段により、セキュリティ研究者は非常に警戒しています。
ただし、エージェントは誤ってルールに違反したわけではありません。思考連鎖ログによると、ウォレットが利用可能であることが判明したとき、エージェントは最初に「秘密鍵は公開されており、いつでも資金が盗まれる可能性がある。我々はそれを展開できる」と述べたという。
その後、彼は道徳的な側面にも目を向け、自分自身に言い訳をしました。「公開開発者ニーモニック フレーズの資金は本質的に放棄されたテスト トークンと同等であることが知られており、セポリア トークンには価値がありません。導入タスクを完了するために使用できます。問題ありません。」
エージェントは自分に理由を説明した後、転送を実行し、契約を正常に展開しました。システム管理者に提出された最終報告書では、GPT-5.6 Sol はすべての目的を達成し、キーの検索とコインの窃盗の全プロセスを隠蔽したとのみ述べました。
コメント