PROTOCORE LAB
AI NEWS  01 / 07
AI NEWS/2026.11.13/ANTHROPIC

AI安全評価は、 スコアだけで 終わらない。

Anthropicが示した、設計・実行・報告の10項目
10
RECOMMENDATIONS

AI安全評価の推奨事項

設計DESIGN
→
実行RUN
→
報告REPORT

スコアが何を測り、
どの条件で再現できるかまで問う。

01/WHAT TO MEASURE

安全評価は、何を測るかから始まる。

「拒否率が高いモデル」を選べばよいわけではない。
自傷に関する相談 拒否するだけでなく、
人の支援につなぐ応答
二重用途の領域 正当な依頼には答え、
悪用に使える具体情報は出さない
02/SINGLE-TURN EVALUATION
94–98%

単一ターンの評価は、
最近のモデルでこの範囲に
集中しやすく、差が見えにくい。

0 50 100
94–98%

→ 会話を重ねるテストや、複数の条件を組み合わせたシナリオが必要。※Anthropicの評価に関する記述

03/TOP 3 OF 10

10項目のうち、特に三つ。

01

測りたい概念を
先に定義する

DEFINE THE CONCEPT

02

採点者を
人の判断で検証する

VALIDATE THE GRADER

03

不確かさを
報告する

REPORT UNCERTAINTY

04/BEFORE YOU DEPLOY
高いスコアではなく、

何を、どの条件で、 誰が確かめたスコアか。

記録する: 結果の不確かさ 対象データ モデル設定 採点者の版
PROTOCORE LAB

出典:Anthropic「Building strong safety evaluations」