本文へ移動
NEWS
規制・社会

Anthropic、METRの6人を社内に常駐させた 顧客データは見せない

読了 約6分
発表資料のページ。Anthropic、METRの6人を社内に常駐させた 顧客データは見せない

この記事の要点

  • AnthropicはAI評価の非営利団体METRの6人を社内に迎え、社員並みの権限で自社のモデルを調べさせ始めました。
  • 顧客のデータは共有の対象外です。
  • Accentureとも評価で組み、5年で少なくとも10億ドルずつ投じる見込みです。
この記事の数字11月15日時点
常駐するMETRの評価者6人
各社が5年で投じる額10億ドル

Anthropic、METRの6人が社内に常駐 権限は社員並みだ

Anthropicは、AIの評価を手がける非営利団体METRのチームに社員並みの権限を渡し始めました。METRは調べたリスクの結果を自分で公表します。

社内に入ったのはMETRの6人です。会社のPCと席が用意され、社内の道具やシステムにも入れます。範囲はAnthropic自身のリスク評価チームとほぼ同じだといいます。

  • 公表する中身:リスクの水準・事故・社内のやり方の分析
  • 公表を止める権利:Anthropicには無い
  • 関わる人:強制力のある契約を結んだ少人数のチームだけ

背景にはホワイトハウスの超知能協定があります。署名した会社は、独立した外部の監査役や評価者と組むと約束しました。

Anthropicはこの形を銀行の監督にたとえています。大きな銀行には監督する側の検査官が常駐し、危ないリスクを先に見つけようとします。

METRのリスク評価のページ
METRのリスク評価のページ / 出典:metr.org / 制作:AInformation

顧客のデータは共有の対象外 見せない3つの線引き

Claudeを仕事で使う人がまず気になるのは、自社のデータが評価者に渡るかどうかです。発表では、顧客に関するデータは共有の対象外とされています。例として挙がったのは次の3つです。

  • 顧客に関するデータ
  • 弁護士と依頼者の間の秘匿情報
  • モデルの構造に関する情報

この3つ以外は、同僚に話すのと同じように情報を渡してよいとAnthropicは社員に伝えています。METRの側では、このチーム以外の社員はその仕事に触れられません。

公表の中身にも線があります。社外秘の技術を再現できるような情報は、Anthropicが黒塗りを求められます。

どの情報がその区分に入るかを最後に決めるのはAnthropicです。METRは、どこまで情報を渡されたかを述べる権利を残しています。

社内に入る評価者の線引き。評価者に見せる情報と見せない情報。うちのデータも見られる?。評価者が見られる。社内の道具とシステム。学習中のモデルの様子。社員との直接の会話。共有の対象外。顧客に関するデータ。弁護士との秘匿情報。モデルの構造の情報。公表前の黒塗りもAnthropicが決める。AInformation編集部が作ったイラスト図解(人物の悩み+◎△の2枚カード)
Anthropicの発表をもとに評価者と共有する範囲を整理した / 制作:AInformation

Accentureと各10億ドル投資 費用はAnthropic持ち

AnthropicはAccentureとも、外部からの評価で手を組みました。率いるのはAccentureのAI専門部門Facultyです。

Facultyが担うのは、攻撃役になってモデルを試すことと安全装置の試験です。AIが意図どおり動くかの評価もします。両社はこの分野に、今後5年で少なくとも10億ドルずつ投じる見込みです。

10億ドルは、11月13日の欧州中央銀行の参照値(1ドル160円)で約1,600億円です。この額を両社がそれぞれ用意します。

評価者 いまの段階 費用の出どころ
METR 6人が社員並みの権限で常駐を始めた 組み込み型の評価の試行はMETRの資金で協議中
Accenture(Faculty) モデルの評価と安全装置の試験を担う Anthropicが直接払う
SecureBio 評価者として協力している 発表に書かれていない
Hugging Face 初期の話し合いの段階 発表に書かれていない

METRは報酬を受け取らない お金の出どころで差が出る

ここで目を引くのはお金の出どころです。AInformationが11月15日にMETRのリスク評価のページを開くと、こうした仕事で報酬は受け取らないと書いてありました。

一方でAccentureの仕事には、Anthropicが直接お金を出します。6月の方針(Advanced AI Framework)では、費用は共同の資金か政府が出すべきだとしました。今はその仕組みが無く、評価者ごとに払い方を変えます。

METRの公開ページは3言語 日本語では読めない

常駐は始まったばかりで、METRが最初の結果をいつ出すかは書かれていません。組み込み型の評価は新しい試みで、細かい決まりもこれから詰めます。結果が載るMETRのページを11月15日に確かめた結果が次の表です。

確かめたこと(11月15日・AInformation調べ) 結果
言語の切り替え 英語・スペイン語・中国語の3つ。日本語は出てこなかった
Anthropicのリスクレポートへの外部レビュー 5本。いちばん新しいのは11月5日付
報酬の扱い この種の仕事で報酬を受け取らないと明記

あすからできることは3つです。

  • 社内でClaudeの安全性を聞かれたら、顧客データが共有の対象外とされている点を伝える
  • METRのリスク評価のページで、常駐の結果が出たかを月に1回見る
  • Anthropicが数週間のうちに発表する別の評価者の名前を確かめる

Accentureは、ほかのAI開発会社とも同じ形で組むとしています。評価者の顔ぶれがそろってくると、AIを選ぶときの見比べ方も変わりそうです。

この記事に出てくることば
組み込み型の評価
外部の評価者がAI企業の中に入り、社員並みの権限で学習中のモデルや社内の判断を見る評価のやり方。
導入の現場から考える

※記事の事実とは分けて、筆者の考えを書いています。

藤井俊太AI導入コンサルタント

分析・考察法人でClaudeを入れる会社にとって、今回の発表は安心材料と宿題の両方を含む。顧客のデータが共有の対象外と明記されたのは、情報システム部門が社内へ説明するときの根拠になる。

ただ、公表の前にどこを黒塗りにするかを最後に決めるのはAnthropic自身だ。評価者が独立して見られる範囲は、METRの最初の報告が出るまで外からは測れない。導入の稟議に安全性の根拠として書くなら、報告を1本読んでからにしたいとみている。

よくある質問
METRはClaudeに入れた会社のデータを見られる?
共有の対象外とされています。Anthropicの発表では、顧客に関するデータは評価者と共有しない区分の例として挙がっています。弁護士と依頼者の間の秘匿情報とモデルの構造の情報も同じ扱いです。それ以外の社内の情報は、METRの6人に同僚と同じように渡してよいとされています。
METRの評価結果はどこで読める?日本語はある?
METRが自分で公表しますが、時期はまだ書かれていません。AInformationが11月15日にMETRのリスク評価のページを開くと、言語は英語・スペイン語・中国語の3つで日本語はありませんでした。このページにはAnthropicのリスクレポートへの外部レビューが5本並び、いちばん新しいのは11月5日付です。
Accentureの評価は誰がお金を払う?
Anthropicが直接払います。AnthropicとAccentureはそれぞれ5年で少なくとも10億ドルを投じる見込みで、1ドル160円なら約1,600億円です。Anthropicは評価の費用を共同の資金か政府が出すべきだとしていますが、今はその仕組みがありません。METRなど非営利の評価者とは、相手の資金で試す形を話し合っています。

【この記事の出典】

次に読む記事

広告を載せており、そこから申し込みがあると紹介料を受け取ることがあります。

この記事に出てくるAIも、まとめて比べられます 509本のAIツールを、やりたいこと・料金・日本語対応で絞り込めるデータベースです。5日ごとに料金を取り直しています。 AIツールを探す

あわせて読みたいRELATED