蒸留データ90%削減、だが完全防止じゃなく「減速」。追う側の創意工夫との軍拡競争継続予感

不正な蒸留により、モデル開発者はフロンティアAIの能力を、それに見合ったセーフガード体制を構築することなくコピーできます。ここでは、Claudeに対する蒸留攻撃の効果を90%以上削減した方法について説明します。

ここ数ヶ月、当社はこのブログで概説している新しい方法を用いて、Claudeに対する蒸留攻撃の有効性を低下させる点で大きな進展を遂げました。初期段階の証拠によれば、これらの方法により蒸留者が収集するデータ量を約90～99%削減したことが示唆されています。

蒸留攻撃は、元のモデルの開発者の認可なしに、あるモデルの能力を抽出して別のモデルで再現するための隠密な産業規模キャンペーンです。これらは多くの場合、詐欺的なアカウントネットワークを使用して実施されます。これらの攻撃により、企業は能力フロンティアに接近するモデルを、通常の開発に要する時間とコストのほんの一部で構築することができます。9月に当社が記述したように、この方法は海外のAI研究所がUS企業との歩調を合わせるために広く利用されてきました。

当社は不正な蒸留について2つの理由で懸念しています。第1に、蒸留により企業は能力フロンティアに近づくモデルを構築できますが、実際には、相応の堅牢なセーフガードを備えずにリリースされています。つまり、蒸留されたモデルは生物学やサイバーセキュリティなどの分野で重大な害をもたらすために使用される可能性があります。