PROTOCORE LAB
AI LATEST NEWS/AI最新ニュース
「学習データの 0.1%汚染」を どう読むか。
AIエージェント導入前に分ける、検証と権限
RESEARCH/ARXIV 2026.10.27
公開学習データの汚染で、 AIエージェントに バックドアを植えられる可能性。
QWEN30.6B
QWEN31.7B
QWEN34B
ゼロから事前学習→クリーンな手順でCLIエージェントへ
出典：Xinyan Huほか「Agentic Backdoors via Pretraining Poisoning」（arXiv）
QWEN3 4B/CLI AGENT
学習データの汚染
0.1%
攻撃成功率
約92%
0.0005%の汚染でも、陽性の結果が出ています。
HOW IT FIRES
通常のベンチマークを通っても、 別の条件で発火する。
通常の入力
問題なく動くPASS
仕込まれた条件
遠隔コード実行へバックドアが発火
NOTE/読み方の注意
これは、特定の実験設定での 研究結果です。
- NOTすべてのモデル・提供元で同じ成功率になる、という証明
- NOT実運用サービスで事故が起きた、という報告
研究の価値は、通常入力のベンチマークでは見落とし得るリスクを、エージェント環境で具体化したこと。
BEFORE DEPLOYMENT/同じ合格判定にしない
導入前に分けるのは、 モデル評価と実行権限。
MODEL EVALUATION
モデルの性能評価
精度・通常入力のベンチマーク
≠
EXECUTION SAFETY
実行環境の安全評価
シェル・ファイル・ネットワーク
- 01出所・学習経路を確認
- 02隔離した環境で試す
- 03レッドチーム評価
- 04外部送信・権限変更は人が承認
CHECK FIRST/精度より先に確認する
- 学習データや配布経路を、説明できるか。
- 発火時に、停止・復旧できるか。
説明できないまま、権限だけを広げない。
※具体策は論文が保証する対策ではなく、研究結果を企業の導入判断へつなぐ提案です。
PROTOCORE
PROTOCORE LAB
AIエージェント導入前に、検証と権限を分けて考える。