Anthropic は、新しい保護により「蒸留攻撃」によるデータ盗難が大幅に減少すると述べています

概要:

Anthropic は月曜日、競合他社が自社の Claude AI モデルの機能をコピーすることを防ぐことを目的とした新しい対策により、いわゆる「蒸留攻撃」によって盗まれるデータの量が約 90% ～ 99% 減少したと発表しました。

モデルの蒸留は、トップの人工知能企業の焦点となっています。 Anthropic、OpenAI、Google などの企業は、この手法により競合他社が自社の高度な機能をより低コストかつ迅速にコピーできると考えています。

Anthropic 氏は、クロードの推論機能へのアクセスを制限することを目的とした保護措置により、モデルに対する抽出試行が大幅に減少し、「蒸留によって抽出された推論トークンの数」が「以前のレベルの 1/100 ～ 1/10」に減少したと述べました。

カリフォルニアに本拠を置く同社は、エージェントのネットワークを利用してクロードの保護された推論プロセスを繰り返し調査することがより困難になり、データ抽出の試みが阻止され、大規模なモデル抽出キャンペーンが妨げられたと述べた。

アントロピック社は、自社のセキュリティシステムは「クロードが生物兵器の製造に協力することを防ぐシステムとほぼ同等」であり、「誤検知率は0.1パーセント未満」であると述べている。