| 常駐するMETRの評価者 | 6人 |
|---|---|
| 各社が5年で投じる額 | 10億ドル |
Anthropic、METRの6人が社内に常駐 権限は社員並みだ
Anthropicは、AIの評価を手がける非営利団体METRのチームに社員並みの権限を渡し始めました。METRは調べたリスクの結果を自分で公表します。
社内に入ったのはMETRの6人です。会社のPCと席が用意され、社内の道具やシステムにも入れます。範囲はAnthropic自身のリスク評価チームとほぼ同じだといいます。
- 公表する中身:リスクの水準・事故・社内のやり方の分析
- 公表を止める権利:Anthropicには無い
- 関わる人:強制力のある契約を結んだ少人数のチームだけ
背景にはホワイトハウスの超知能協定があります。署名した会社は、独立した外部の監査役や評価者と組むと約束しました。
Anthropicはこの形を銀行の監督にたとえています。大きな銀行には監督する側の検査官が常駐し、危ないリスクを先に見つけようとします。

顧客のデータは共有の対象外 見せない3つの線引き
Claudeを仕事で使う人がまず気になるのは、自社のデータが評価者に渡るかどうかです。発表では、顧客に関するデータは共有の対象外とされています。例として挙がったのは次の3つです。
- 顧客に関するデータ
- 弁護士と依頼者の間の秘匿情報
- モデルの構造に関する情報
この3つ以外は、同僚に話すのと同じように情報を渡してよいとAnthropicは社員に伝えています。METRの側では、このチーム以外の社員はその仕事に触れられません。
公表の中身にも線があります。社外秘の技術を再現できるような情報は、Anthropicが黒塗りを求められます。
どの情報がその区分に入るかを最後に決めるのはAnthropicです。METRは、どこまで情報を渡されたかを述べる権利を残しています。

Accentureと各10億ドル投資 費用はAnthropic持ち
AnthropicはAccentureとも、外部からの評価で手を組みました。率いるのはAccentureのAI専門部門Facultyです。
Facultyが担うのは、攻撃役になってモデルを試すことと安全装置の試験です。AIが意図どおり動くかの評価もします。両社はこの分野に、今後5年で少なくとも10億ドルずつ投じる見込みです。
10億ドルは、11月13日の欧州中央銀行の参照値(1ドル160円)で約1,600億円です。この額を両社がそれぞれ用意します。
| 評価者 | いまの段階 | 費用の出どころ |
|---|---|---|
| METR | 6人が社員並みの権限で常駐を始めた | 組み込み型の評価の試行はMETRの資金で協議中 |
| Accenture(Faculty) | モデルの評価と安全装置の試験を担う | Anthropicが直接払う |
| SecureBio | 評価者として協力している | 発表に書かれていない |
| Hugging Face | 初期の話し合いの段階 | 発表に書かれていない |
METRは報酬を受け取らない お金の出どころで差が出る
ここで目を引くのはお金の出どころです。AInformationが11月15日にMETRのリスク評価のページを開くと、こうした仕事で報酬は受け取らないと書いてありました。
一方でAccentureの仕事には、Anthropicが直接お金を出します。6月の方針(Advanced AI Framework)では、費用は共同の資金か政府が出すべきだとしました。今はその仕組みが無く、評価者ごとに払い方を変えます。
METRの公開ページは3言語 日本語では読めない
常駐は始まったばかりで、METRが最初の結果をいつ出すかは書かれていません。組み込み型の評価は新しい試みで、細かい決まりもこれから詰めます。結果が載るMETRのページを11月15日に確かめた結果が次の表です。
| 確かめたこと(11月15日・AInformation調べ) | 結果 |
|---|---|
| 言語の切り替え | 英語・スペイン語・中国語の3つ。日本語は出てこなかった |
| Anthropicのリスクレポートへの外部レビュー | 5本。いちばん新しいのは11月5日付 |
| 報酬の扱い | この種の仕事で報酬を受け取らないと明記 |
あすからできることは3つです。
- 社内でClaudeの安全性を聞かれたら、顧客データが共有の対象外とされている点を伝える
- METRのリスク評価のページで、常駐の結果が出たかを月に1回見る
- Anthropicが数週間のうちに発表する別の評価者の名前を確かめる
Accentureは、ほかのAI開発会社とも同じ形で組むとしています。評価者の顔ぶれがそろってくると、AIを選ぶときの見比べ方も変わりそうです。
- 組み込み型の評価
- 外部の評価者がAI企業の中に入り、社員並みの権限で学習中のモデルや社内の判断を見る評価のやり方。
※記事の事実とは分けて、筆者の考えを書いています。
分析・考察法人でClaudeを入れる会社にとって、今回の発表は安心材料と宿題の両方を含む。顧客のデータが共有の対象外と明記されたのは、情報システム部門が社内へ説明するときの根拠になる。
ただ、公表の前にどこを黒塗りにするかを最後に決めるのはAnthropic自身だ。評価者が独立して見られる範囲は、METRの最初の報告が出るまで外からは測れない。導入の稟議に安全性の根拠として書くなら、報告を1本読んでからにしたいとみている。
- METRはClaudeに入れた会社のデータを見られる?
- 共有の対象外とされています。Anthropicの発表では、顧客に関するデータは評価者と共有しない区分の例として挙がっています。弁護士と依頼者の間の秘匿情報とモデルの構造の情報も同じ扱いです。それ以外の社内の情報は、METRの6人に同僚と同じように渡してよいとされています。
- METRの評価結果はどこで読める?日本語はある?
- METRが自分で公表しますが、時期はまだ書かれていません。AInformationが11月15日にMETRのリスク評価のページを開くと、言語は英語・スペイン語・中国語の3つで日本語はありませんでした。このページにはAnthropicのリスクレポートへの外部レビューが5本並び、いちばん新しいのは11月5日付です。
- Accentureの評価は誰がお金を払う?
- Anthropicが直接払います。AnthropicとAccentureはそれぞれ5年で少なくとも10億ドルを投じる見込みで、1ドル160円なら約1,600億円です。Anthropicは評価の費用を共同の資金か政府が出すべきだとしていますが、今はその仕組みがありません。METRなど非営利の評価者とは、相手の資金で試す形を話し合っています。
【この記事の出典】
- Anthropic(この記事の元にした報道)補助資料・2026年11月15日に確認
