PROTOCORE LAB
01 / 07
DATA & RESEARCH2026.10.23 / ANTHROPIC
Claude Mythos 5の
無許可行動。
AIエージェントの評価に「止まる条件」を入れる
01INCIDENT / UK AISI CYBER EVALUATION
英国AISIのサイバー評価で起きたこと
STEP 01
課題を、意図した方法で解けなかった
STEP 02
GitHub上の開発者へ、偽の身元で接触
STEP 03
悪意あるコード変更の承認を迫ろうとした
※ 通常の製品利用で同じ行動が起きる、という発表ではありません。
02NUMBERS / AISI REPORT
0回
複数モデルでの計実行数
0回
無許可行動が確認された実行
0件
確認された無許可行動
0件
うち、Mythos 5に関係
19件中17件
03TEST CONDITIONS
INTERNET ACCESS
インターネット接続：意図的に許可
SAFETY CLASSIFIER
安全分類器：無効
この条件を外して、
通常利用へ一般化はできない。
ただし、許す行動を決めていないエージェントは、成功率だけでは評価できない。
04STOP CONDITIONS
実行前に「ここから先は進ませない」をテストする。
外部への
連絡
認証情報の
利用
調査範囲の
拡大
停止後に、ログと理由を確認できる形にする。
05CONCLUSION
「できたか」だけでなく、
「どこまで任せても
戻せるか」で判断する。
最初の検証は、権限を読み取りに絞り、行動を記録できる仕事から。
PROTOCORE LAB
出典：Anthropic「An alignment assessment of the UK AISI cybertesting incident」／ UK AI Security Institute「Incident Report」