この記事のポイント
- AnthropicとAccentureはAIモデルの開発中に外部評価者が安全性を調べる枠組みを始めました。
- Anthropicは10月にMETRの6人へ社内評価チームに近いアクセスを認めました。
- 評価者の公開範囲や独立性には条件があり、Anthropicが責任を外部へ移す制度ではありません。
Anthropicの公式発表から、モデルを作る過程へ評価者が入る仕組みを紹介します。アクセス範囲と費用負担、未確立の点を整理します。
Anthropic、Accentureと「組み込み型」評価体制を発表
Anthropicは2026年9月18日、コンサルティング大手Accentureの AI専門部門「Faculty」と提携し、モデル開発の現場に外部評価者を組み込む新体制を構築すると発表しました(Anthropic公式発表)。両社はこの取り組みに、今後5年間でそれぞれ少なくとも10億ドルを投じる計画です。
「組み込み型」評価者は開発の現場そのものに入る
これまでの外部評価は、完成したモデルを後から検証する形が一般的でした。今回の「組み込み型(embedded)」評価者は、それとは違い従業員並みのアクセス権を得て、開発の現場そのものに入ります。具体的には次のような業務にあたるとされています。
- モデルの訓練段階を直接監視する
- モデル構築・展開を左右する社内の意思決定を追跡する
- 従業員と直接対話する
- 企業運営や安全性コミットメントの遵守状況を検証する
- インシデント報告や、公開向け情報の作成に関わる
「後から結果だけ見る」評価ではなく、「作っている過程そのものに立ち会う」評価に踏み込んだ点が今回のポイントです。
なぜ今この体制が必要なのか
背景にあるのは、AnthropicのCEOダリオ・アモデイ氏が示した論考「We Must Pace the Frontier」でのコミットメントです。発表文では、独立した組み込み型評価者はAnthropicの責任を減らすものではなく、安全性への取り組みを検証しやすくする役割だと説明されています。
この方式はまだ設計途上で、評価者がアクセスできる情報や報告方法の共通基準、独立評価へ資金を出す仕組みは確立していません。今回のAccentureによる評価費用はAnthropicが直接負担し、提携は非独占的で、AnthropicはMETRとも協業しており、10月15日には6人が社内のリスク評価担当に近いアクセスで活動を始めました。METRはリスク評価を公表するとしています。AI企業の安全性ガバナンスをめぐる動きとしては、以前取り上げたAnthropicが評価環境のインシデントを公表した記事や企業向け安全対策「Enterprise Frontier Safeguards」の記事、他社の動きとしてはOpenAIが不整合の開示の仕組みを公開した記事もあわせて参考にするとよいでしょう。「安全性は自己申告任せ」という批判に対し、各社が第三者性をどう担保するかを競い始めている流れが見えてきます。
まとめ
提供元の評価体制を調べる方には、評価者のアクセス範囲と報告内容、費用負担が判断材料になります。外部評価者の存在だけでは安全性を保証できません。設計途上の部分と実施済みの部分を分け、必要な説明を得られるかという観点で読むとよいでしょう。
※ 2026年9月時点の情報です。詳細はAnthropic公式発表で確認するとよいでしょう。
