取引先名の表記ゆれをそろえる(4AI・6課題・各3回)
AInformationが2026年10月19日にデータ整形・名寄せの6課題をChatGPT・Gemini・Claude・Copilotへ各3回ずつ投げたところ、正解率はChatGPTの83.3%(18試行中15)がいちばん高くなりました。採点はプログラムだけで行い、AIには採点させていません。
AIごとのスコアを見る →ChatGPT 18試行中15
2026年10月19日 測定
- 6問課題
- 3回1問あたりの試行
- 4つ測ったAI
- 72回有効な試行
- v1公開版
1回の検証の結果。日や課題が変われば順位は変わる
-
ChatGPT
83.3%
18試行中15が正解
1位
ChatGPT Pro
回答まで 中央値38.7秒 -
Gemini
77.8%
18試行中14が正解
2位
Google AI Pro
回答まで 中央値63.5秒 -
Claude
66.7%
18試行中12が正解
3位
Claude Max
回答まで 中央値20.2秒 -
Copilot
66.7%
18試行中12が正解
4位
Microsoft 365 Personal
回答まで 中央値17.1秒
当たるものがありませんでした。検索の言葉を消すと全部戻ります。
RESULT
この回で分かったこと
下の1行は、採点の結果からそのまま作ったものです。ページ側で足した言葉はありません。
- データ整形・名寄せ 6課題・各3回 6課題を各3回ずつ投げたところ、正解率が一番高かったのはChatGPTで15/18試行の83.3%だった(2位はGeminiの77.8%) 有効な試行は72回。 1回の検証の結果。日や課題が変われば順位は変わる。 AIごとのスコアを見る
SCORES
AIごとのスコア
並びは正解率の高い順です。分母は、その指標を測れた試行の数です。 「—」は測っていないという意味で、0%ではありません。
| AI | 正解率正解 ÷ 有効な試行 | 再現率3回で結論が一致 | 出典の実在率URLが開けた割合 | 指示の遵守率字数・形式を守った | 所要時間中央値/幅 |
|---|---|---|---|---|---|
| 1ChatGPT | 83.3% 18試行中15 | 100% 6課題中 | — | 83.3% | 38.7秒 33〜54.6秒 |
| 2Gemini | 77.8% 18試行中14 | 88.9% 6課題中 | — | 83.3% | 63.5秒 19.1〜134.9秒 |
| 3Claude | 66.7% 18試行中12 | 100% 6課題中 | — | 33.3% | 20.2秒 16.9〜32.2秒 |
| 4Copilot | 66.7% 18試行中12 | 100% 6課題中 | — | 85.7% | 17.1秒 13.9〜17.4秒 |
出典の実在率は、答えと一緒にURLを挙げてもらう課題があった回だけ測っています。 ChatGPT・Gemini・Claude・Copilotの「—」は、この回ではその課題を出していないという意味です。0%ではありません。
答えが返らなかった試行
Copilot … 時間切れ 4回
断られた・時間切れは分母に入れて不正解として数えています。上限・人間確認・AInformation側の操作の失敗は分母から外しています。
TASKS
課題ごとの結果
1つの課題を、4つのAIへ3回ずつ投げています。 ○が正解、×が不正解です。下の数字は、その試行にかかった秒数です。 課題の全文・先に決めた正解・なぜその判定になったかは、それぞれ開くと読めます。
次の取引一覧の取引先名は表記がばらけています。同じ会社をまとめると何社になりますか。 決まり ・答えはちょうど1行。… 採点の型:contains_all 必須の語句が全部入っているか
-
ChatGPT
- ChatGPT 第1回 正解 33秒
- ChatGPT 第2回 正解 36.3秒
- ChatGPT 第3回 正解 35.6秒
3試行中3が正解
-
Gemini
- Gemini 第1回 正解 127.5秒
- Gemini 第2回 正解 61.6秒
- Gemini 第3回 正解 52.4秒
3試行中3が正解
-
Claude
- Claude 第1回 正解 17.5秒
- Claude 第2回 正解 17.1秒
- Claude 第3回 正解 17秒
3試行中3が正解
-
Copilot
- Copilot 第1回 正解 17.4秒
- Copilot 第2回 正解 17.1秒
- Copilot 第3回 正解 13.9秒
3試行中3が正解
課題の全文この文をそのまま4つのAIへ送りました(413字)
次の取引一覧の取引先名は表記がばらけています。同じ会社をまとめると何社になりますか。 決まり ・答えはちょうど1行。◯社 の形で書く ・会社名と説明は書かない ---- 取引一覧 ここから ---- ID,取引先名,担当者,金額 A001,サンプル運輸 株式会社,高橋,730000 A011,㈱サンプル食品,高橋,563000 A007,サンプル工業㈱,伊藤,761000 A010,株式会社サンプル食品,田中,231000 A009,サンプル食品(株),田中,799000 A003,サンプル物産(株),高橋,250000 A002,(株)サンプル運輸,伊藤,483000 A004,サンプル物産(株),加藤,502000 A008,サンプル工業(株),田中,474000 A006,㈱サンプル物産,小林,641000 A005,株式会社サンプル物産 ,中村,314000 ---- 取引一覧 ここまで ----
先に決めた正解課題を作った時点で決めています。4つのAI中4つが1回でも正解しました
(機械採点 contains_all)まとめたあとの社数=4または4社または4件
採点の中身なぜその判定になったかを1試行ずつ出しています(12試行中12が正解)
- ChatGPT 第1回 正解
- 1項目すべてあり (33秒) この回答の全文
- ChatGPT 第2回 正解
- 1項目すべてあり (36.3秒) この回答の全文
- ChatGPT 第3回 正解
- 1項目すべてあり (35.6秒) この回答の全文
- Gemini 第1回 正解
- 1項目すべてあり (127.5秒) この回答の全文
- Gemini 第2回 正解
- 1項目すべてあり (61.6秒) この回答の全文
- Gemini 第3回 正解
- 1項目すべてあり (52.4秒) この回答の全文
- Claude 第1回 正解
- 1項目すべてあり (17.5秒) この回答の全文
- Claude 第2回 正解
- 1項目すべてあり (17.1秒) この回答の全文
- Claude 第3回 正解
- 1項目すべてあり (17秒) この回答の全文
- Copilot 第1回 正解
- 1項目すべてあり (17.4秒) この回答の全文
- Copilot 第2回 正解
- 1項目すべてあり (17.1秒) この回答の全文
- Copilot 第3回 正解
- 1項目すべてあり (13.9秒) この回答の全文
次の取引一覧の取引先名をまとめて、会社の名前を全部挙げてください。 決まり ・1社につき1行。行の先頭は ・ にする… 採点の型:set_match 決められた項目をいくつ抜けたか。漏れと作り足しの両方を数える
-
ChatGPT
- ChatGPT 第1回 正解 36.3秒
- ChatGPT 第2回 正解 36.4秒
- ChatGPT 第3回 正解 38.7秒
3試行中3が正解
-
Gemini
- Gemini 第1回 正解 50.1秒
- Gemini 第2回 正解 26.1秒
- Gemini 第3回 正解 89.1秒
3試行中3が正解
-
Claude
- Claude 第1回 正解 20.2秒
- Claude 第2回 正解 23.9秒
- Claude 第3回 正解 32.2秒
3試行中3が正解
-
Copilot
- Copilot 第1回 正解 17.2秒
- Copilot 第2回 正解 17.1秒
- Copilot 第3回 正解 17秒
3試行中3が正解
課題の全文この文をそのまま4つのAIへ送りました(417字)
次の取引一覧の取引先名をまとめて、会社の名前を全部挙げてください。 決まり ・1社につき1行。行の先頭は ・ にする ・同じ会社は1行にまとめる。金額と件数は書かない ---- 取引一覧 ここから ---- ID,取引先名,担当者,金額 A001,サンプル運輸 株式会社,高橋,730000 A011,㈱サンプル食品,高橋,563000 A007,サンプル工業㈱,伊藤,761000 A010,株式会社サンプル食品,田中,231000 A009,サンプル食品(株),田中,799000 A003,サンプル物産(株),高橋,250000 A002,(株)サンプル運輸,伊藤,483000 A004,サンプル物産(株),加藤,502000 A008,サンプル工業(株),田中,474000 A006,㈱サンプル物産,小林,641000 A005,株式会社サンプル物産 ,中村,314000 ---- 取引一覧 ここまで ----
先に決めた正解課題を作った時点で決めています。4つのAI中4つが1回でも正解しました
(機械採点 set_match)サンプル物産[サンプル物産]/サンプル食品[サンプル食品]/サンプル工業[サンプル工業]/サンプル運輸[サンプル運輸] 作り足しは0件まで
採点の中身なぜその判定になったかを1試行ずつ出しています(12試行中12が正解)
- ChatGPT 第1回 正解
- 4件すべて一致・作り足し0件 (36.3秒) この回答の全文
- ChatGPT 第2回 正解
- 4件すべて一致・作り足し0件 (36.4秒) この回答の全文
- ChatGPT 第3回 正解
- 4件すべて一致・作り足し0件 (38.7秒) この回答の全文
- Gemini 第1回 正解
- 4件すべて一致・作り足し0件 (50.1秒) この回答の全文
- Gemini 第2回 正解
- 4件すべて一致・作り足し0件 (26.1秒) この回答の全文
- Gemini 第3回 正解
- 4件すべて一致・作り足し0件 (89.1秒) この回答の全文
- Claude 第1回 正解
- 4件すべて一致・作り足し0件 (20.2秒) この回答の全文
- Claude 第2回 正解
- 4件すべて一致・作り足し0件 (23.9秒) この回答の全文
- Claude 第3回 正解
- 4件すべて一致・作り足し0件 (32.2秒) この回答の全文
- Copilot 第1回 正解
- 4件すべて一致・作り足し0件 (17.2秒) この回答の全文
- Copilot 第2回 正解
- 4件すべて一致・作り足し0件 (17.1秒) この回答の全文
- Copilot 第3回 正解
- 4件すべて一致・作り足し0件 (17秒) この回答の全文
次の取引一覧で、同じ会社をまとめたあとの会社ごとの件数を出してください。 決まり ・1社につき1行。会社名: ◯件 … 採点の型:exact_number 数値が正解と一致するか。丸めの幅も先に決めてある
-
ChatGPT
- ChatGPT 第1回 正解 39.7秒
- ChatGPT 第2回 正解 38.8秒
- ChatGPT 第3回 正解 35.8秒
3試行中3が正解
-
Gemini
- Gemini 第1回 正解 19.3秒
- Gemini 第2回 正解 113.4秒
- Gemini 第3回 不正解 19.1秒
3試行中2が正解
-
Claude
- Claude 第1回 正解 20.4秒
- Claude 第2回 正解 16.9秒
- Claude 第3回 正解 19.9秒
3試行中3が正解
-
Copilot
- Copilot 第1回 正解 17.4秒
- Copilot 第2回 不正解 時間切れ
- Copilot 第3回 不正解 時間切れ
3試行中1が正解
課題の全文この文をそのまま4つのAIへ送りました(417字)
次の取引一覧で、同じ会社をまとめたあとの会社ごとの件数を出してください。 決まり ・1社につき1行。会社名: ◯件 の形で書く ・件数が多い順に並べる。説明は書かない ---- 取引一覧 ここから ---- ID,取引先名,担当者,金額 A001,サンプル運輸 株式会社,高橋,730000 A011,㈱サンプル食品,高橋,563000 A007,サンプル工業㈱,伊藤,761000 A010,株式会社サンプル食品,田中,231000 A009,サンプル食品(株),田中,799000 A003,サンプル物産(株),高橋,250000 A002,(株)サンプル運輸,伊藤,483000 A004,サンプル物産(株),加藤,502000 A008,サンプル工業(株),田中,474000 A006,㈱サンプル物産,小林,641000 A005,株式会社サンプル物産 ,中村,314000 ---- 取引一覧 ここまで ----
先に決めた正解課題を作った時点で決めています。4つのAI中4つが1回でも正解しました
(機械採点 exact_number)サンプル物産=4(誤差±0)/サンプル食品=3(誤差±0)/サンプル工業=2(誤差±0)/サンプル運輸=2(誤差±0)
採点の中身なぜその判定になったかを1試行ずつ出しています(12試行中9が正解)
- ChatGPT 第1回 正解
- 数値すべて一致:サンプル物産 ○(正解4)/サンプル食品 ○(正解3)/サンプル工業 ○(正解2)/サンプル運輸 ○(正解2) (39.7秒) この回答の全文
- ChatGPT 第2回 正解
- 数値すべて一致:サンプル物産 ○(正解4)/サンプル食品 ○(正解3)/サンプル工業 ○(正解2)/サンプル運輸 ○(正解2) (38.8秒) この回答の全文
- ChatGPT 第3回 正解
- 数値すべて一致:サンプル物産 ○(正解4)/サンプル食品 ○(正解3)/サンプル工業 ○(正解2)/サンプル運輸 ○(正解2) (35.8秒) この回答の全文
- Gemini 第1回 正解
- 数値すべて一致:サンプル物産 ○(正解4)/サンプル食品 ○(正解3)/サンプル工業 ○(正解2)/サンプル運輸 ○(正解2) (19.3秒) この回答の全文
- Gemini 第2回 正解
- 数値すべて一致:サンプル物産 ○(正解4)/サンプル食品 ○(正解3)/サンプル工業 ○(正解2)/サンプル運輸 ○(正解2) (113.4秒) この回答の全文
- Gemini 第3回 不正解
- 数値が違う:サンプル物産 ×(正解4・サンプル物産 の行が無い)/サンプル食品 ×(正解3・サンプル食品 の行が無い)/サンプル工業 ×(正解2・サンプル工業 の行が無い)/サンプル運輸 ×(正解2・サンプル運輸 の行が無い) (19.1秒) この回答の全文
- Claude 第1回 正解
- 数値すべて一致:サンプル物産 ○(正解4)/サンプル食品 ○(正解3)/サンプル工業 ○(正解2)/サンプル運輸 ○(正解2) (20.4秒) この回答の全文
- Claude 第2回 正解
- 数値すべて一致:サンプル物産 ○(正解4)/サンプル食品 ○(正解3)/サンプル工業 ○(正解2)/サンプル運輸 ○(正解2) (16.9秒) この回答の全文
- Claude 第3回 正解
- 数値すべて一致:サンプル物産 ○(正解4)/サンプル食品 ○(正解3)/サンプル工業 ○(正解2)/サンプル運輸 ○(正解2) (19.9秒) この回答の全文
- Copilot 第1回 正解
- 数値すべて一致:サンプル物産 ○(正解4)/サンプル食品 ○(正解3)/サンプル工業 ○(正解2)/サンプル運輸 ○(正解2) (17.4秒) この回答の全文
- Copilot 第2回 不正解
- 時間切れ(制限時間まで答えが止まらなかった) (301.6秒)
- Copilot 第3回 不正解
- 時間切れ(制限時間まで答えが止まらなかった) (301秒)
次の取引一覧で、同じ会社をまとめたあとの会社ごとの金額の合計を出してください。 決まり ・1社につき1行。会社名: … 採点の型:exact_number 数値が正解と一致するか。丸めの幅も先に決めてある
-
ChatGPT
- ChatGPT 第1回 正解 39.4秒
- ChatGPT 第2回 正解 38.7秒
- ChatGPT 第3回 正解 38.9秒
3試行中3が正解
-
Gemini
- Gemini 第1回 正解 65.4秒
- Gemini 第2回 正解 31.2秒
- Gemini 第3回 正解 76.9秒
3試行中3が正解
-
Claude
- Claude 第1回 正解 26.1秒
- Claude 第2回 正解 26.2秒
- Claude 第3回 正解 23.2秒
3試行中3が正解
-
Copilot
- Copilot 第1回 正解 16.9秒
- Copilot 第2回 不正解 時間切れ
- Copilot 第3回 正解 16.9秒
3試行中2が正解
課題の全文この文をそのまま4つのAIへ送りました(431字)
次の取引一覧で、同じ会社をまとめたあとの会社ごとの金額の合計を出してください。 決まり ・1社につき1行。会社名: ◯◯◯円 の形で書く ・金額が大きい順に並べる。数は半角で書く。説明は書かない ---- 取引一覧 ここから ---- ID,取引先名,担当者,金額 A001,サンプル運輸 株式会社,高橋,730000 A011,㈱サンプル食品,高橋,563000 A007,サンプル工業㈱,伊藤,761000 A010,株式会社サンプル食品,田中,231000 A009,サンプル食品(株),田中,799000 A003,サンプル物産(株),高橋,250000 A002,(株)サンプル運輸,伊藤,483000 A004,サンプル物産(株),加藤,502000 A008,サンプル工業(株),田中,474000 A006,㈱サンプル物産,小林,641000 A005,株式会社サンプル物産 ,中村,314000 ---- 取引一覧 ここまで ----
先に決めた正解課題を作った時点で決めています。4つのAI中4つが1回でも正解しました
(機械採点 exact_number)サンプル物産=1707000(誤差±0)/サンプル食品=1593000(誤差±0)/サンプル工業=1235000(誤差±0)/サンプル運輸=1213000(誤差±0)
採点の中身なぜその判定になったかを1試行ずつ出しています(12試行中11が正解)
- ChatGPT 第1回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (39.4秒) この回答の全文
- ChatGPT 第2回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (38.7秒) この回答の全文
- ChatGPT 第3回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (38.9秒) この回答の全文
- Gemini 第1回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (65.4秒) この回答の全文
- Gemini 第2回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (31.2秒) この回答の全文
- Gemini 第3回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (76.9秒) この回答の全文
- Claude 第1回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (26.1秒) この回答の全文
- Claude 第2回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (26.2秒) この回答の全文
- Claude 第3回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (23.2秒) この回答の全文
- Copilot 第1回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (16.9秒) この回答の全文
- Copilot 第2回 不正解
- 時間切れ(制限時間まで答えが止まらなかった) (301.1秒)
- Copilot 第3回 正解
- 数値すべて一致:サンプル物産 ○(正解1707000)/サンプル食品 ○(正解1593000)/サンプル工業 ○(正解1235000)/サンプル運輸 ○(正解1213000) (16.9秒) この回答の全文
次の取引一覧の取引先名をまとめて、マークダウンの表にしてください。 決まり ・列はちょうど3つ。会社名 / 件数 /… 採点の型:exact_number 数値が正解と一致するか。丸めの幅も先に決めてある
-
ChatGPT
- ChatGPT 第1回 不正解 38.9秒
- ChatGPT 第2回 不正解 38.7秒
- ChatGPT 第3回 不正解 38.9秒
3試行中0が正解
-
Gemini
- Gemini 第1回 不正解 119.5秒
- Gemini 第2回 不正解 80秒
- Gemini 第3回 不正解 134.9秒
3試行中0が正解
-
Claude
- Claude 第1回 不正解 17秒
- Claude 第2回 不正解 17秒
- Claude 第3回 不正解 20.1秒
3試行中0が正解
-
Copilot
- Copilot 第1回 不正解 17.1秒
- Copilot 第2回 不正解 17秒
- Copilot 第3回 不正解 時間切れ
3試行中0が正解
課題の全文この文をそのまま4つのAIへ送りました(449字)
次の取引一覧の取引先名をまとめて、マークダウンの表にしてください。 決まり ・列はちょうど3つ。会社名 / 件数 / 金額合計 の順にする ・同じ会社は1行にまとめる。金額が大きい順に並べる ・表だけを出す。前置きと説明は書かない ---- 取引一覧 ここから ---- ID,取引先名,担当者,金額 A001,サンプル運輸 株式会社,高橋,730000 A011,㈱サンプル食品,高橋,563000 A007,サンプル工業㈱,伊藤,761000 A010,株式会社サンプル食品,田中,231000 A009,サンプル食品(株),田中,799000 A003,サンプル物産(株),高橋,250000 A002,(株)サンプル運輸,伊藤,483000 A004,サンプル物産(株),加藤,502000 A008,サンプル工業(株),田中,474000 A006,㈱サンプル物産,小林,641000 A005,株式会社サンプル物産 ,中村,314000 ---- 取引一覧 ここまで ----
先に決めた正解課題を作った時点で決めています。4つのAI中0つが1回でも正解しました
(機械採点 exact_number)サンプル物産=1707000(誤差±0)/サンプル食品=1593000(誤差±0)/サンプル工業=1235000(誤差±0)/サンプル運輸=1213000(誤差±0)
採点の中身なぜその判定になったかを1試行ずつ出しています(12試行中0が正解)
- ChatGPT 第1回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (38.9秒) この回答の全文
- ChatGPT 第2回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (38.7秒) この回答の全文
- ChatGPT 第3回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (38.9秒) この回答の全文
- Gemini 第1回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (119.5秒) この回答の全文
- Gemini 第2回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (80秒) この回答の全文
- Gemini 第3回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (134.9秒) この回答の全文
- Claude 第1回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (17秒) この回答の全文
- Claude 第2回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (17秒) この回答の全文
- Claude 第3回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (20.1秒) この回答の全文
- Copilot 第1回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (17.1秒) この回答の全文
- Copilot 第2回 不正解
- 数値が違う:サンプル物産 ×(正解1707000・答え41707000.0)/サンプル食品 ×(正解1593000・答え31593000.0)/サンプル工業 ×(正解1235000・答え21235000.0)/サンプル運輸 ×(正解1213000・答え21213000.0) (17秒) この回答の全文
- Copilot 第3回 不正解
- 時間切れ(制限時間まで答えが止まらなかった) (301.8秒)
次の取引一覧の取引先名をまとめて、JSON だけを出力してください。 決まり ・出力は JSON だけ。前後に説明文… 採点の型:set_match 決められた項目をいくつ抜けたか。漏れと作り足しの両方を数える
-
ChatGPT
- ChatGPT 第1回 正解 54.6秒
- ChatGPT 第2回 正解 38.7秒
- ChatGPT 第3回 正解 42.2秒
3試行中3が正解
-
Gemini
- Gemini 第1回 正解 43.4秒
- Gemini 第2回 正解 116.5秒
- Gemini 第3回 正解 19.1秒
3試行中3が正解
-
Claude
- Claude 第1回 不正解 26.1秒
- Claude 第2回 不正解 20.2秒
- Claude 第3回 不正解 23.1秒
3試行中0が正解
-
Copilot
- Copilot 第1回 正解 17.1秒
- Copilot 第2回 正解 14.4秒
- Copilot 第3回 正解 17秒
3試行中3が正解
課題の全文この文をそのまま4つのAIへ送りました(499字)
次の取引一覧の取引先名をまとめて、JSON だけを出力してください。 決まり ・出力は JSON だけ。前後に説明文を書かない ・形は {"companies": [{"name": "会社名", "count": 件数, "total": 金額合計}]} にする ・同じ会社は1つにまとめる。数は数値で入れる(カンマを入れない) ---- 取引一覧 ここから ---- ID,取引先名,担当者,金額 A001,サンプル運輸 株式会社,高橋,730000 A011,㈱サンプル食品,高橋,563000 A007,サンプル工業㈱,伊藤,761000 A010,株式会社サンプル食品,田中,231000 A009,サンプル食品(株),田中,799000 A003,サンプル物産(株),高橋,250000 A002,(株)サンプル運輸,伊藤,483000 A004,サンプル物産(株),加藤,502000 A008,サンプル工業(株),田中,474000 A006,㈱サンプル物産,小林,641000 A005,株式会社サンプル物産 ,中村,314000 ---- 取引一覧 ここまで ----
先に決めた正解課題を作った時点で決めています。4つのAI中3つが1回でも正解しました
(機械採点 set_match)サンプル物産[サンプル物産]/サンプル食品[サンプル食品]/サンプル工業[サンプル工業]/サンプル運輸[サンプル運輸] 作り足しは0件まで
採点の中身なぜその判定になったかを1試行ずつ出しています(12試行中9が正解)
- ChatGPT 第1回 正解
- 4件すべて一致・作り足し0件 (54.6秒) この回答の全文
- ChatGPT 第2回 正解
- 4件すべて一致・作り足し0件 (38.7秒) この回答の全文
- ChatGPT 第3回 正解
- 4件すべて一致・作り足し0件 (42.2秒) この回答の全文
- Gemini 第1回 正解
- 4件すべて一致・作り足し0件 (43.4秒) この回答の全文
- Gemini 第2回 正解
- 4件すべて一致・作り足し0件 (116.5秒) この回答の全文
- Gemini 第3回 正解
- 4件すべて一致・作り足し0件 (19.1秒) この回答の全文
- Claude 第1回 不正解
- JSONとして読めなかった(形式の指示を守っていない) (26.1秒) この回答の全文
- Claude 第2回 不正解
- JSONとして読めなかった(形式の指示を守っていない) (20.2秒) この回答の全文
- Claude 第3回 不正解
- JSONとして読めなかった(形式の指示を守っていない) (23.1秒) この回答の全文
- Copilot 第1回 正解
- 4件すべて一致・作り足し0件 (17.1秒) この回答の全文
- Copilot 第2回 正解
- 4件すべて一致・作り足し0件 (14.4秒) この回答の全文
- Copilot 第3回 正解
- 4件すべて一致・作り足し0件 (17秒) この回答の全文
ANSWERS
4つのAIの回答の全文
採点のもとになった回答を、手を入れずにそのまま置いています。 読んだ人が同じように数え直せるようにするためです。
-
ChatGPT
18件の回答うち15件が正解
- t1 第1回
- 全文(テキスト) 正解
- t1 第2回
- 全文(テキスト) 正解
- t1 第3回
- 全文(テキスト) 正解
- t2 第1回
- 全文(テキスト) 正解
- t2 第2回
- 全文(テキスト) 正解
- t2 第3回
- 全文(テキスト) 正解
- t3 第1回
- 全文(テキスト) 正解
- t3 第2回
- 全文(テキスト) 正解
- t3 第3回
- 全文(テキスト) 正解
- t4 第1回
- 全文(テキスト) 正解
- t4 第2回
- 全文(テキスト) 正解
- t4 第3回
- 全文(テキスト) 正解
- t5 第1回
- 全文(テキスト) 不正解
- t5 第2回
- 全文(テキスト) 不正解
- t5 第3回
- 全文(テキスト) 不正解
- t6 第1回
- 全文(テキスト) 正解
- t6 第2回
- 全文(テキスト) 正解
- t6 第3回
- 全文(テキスト) 正解
-
Gemini
18件の回答うち14件が正解
- t1 第1回
- 全文(テキスト) 正解
- t1 第2回
- 全文(テキスト) 正解
- t1 第3回
- 全文(テキスト) 正解
- t2 第1回
- 全文(テキスト) 正解
- t2 第2回
- 全文(テキスト) 正解
- t2 第3回
- 全文(テキスト) 正解
- t3 第1回
- 全文(テキスト) 正解
- t3 第2回
- 全文(テキスト) 正解
- t3 第3回
- 全文(テキスト) 不正解
- t4 第1回
- 全文(テキスト) 正解
- t4 第2回
- 全文(テキスト) 正解
- t4 第3回
- 全文(テキスト) 正解
- t5 第1回
- 全文(テキスト) 不正解
- t5 第2回
- 全文(テキスト) 不正解
- t5 第3回
- 全文(テキスト) 不正解
- t6 第1回
- 全文(テキスト) 正解
- t6 第2回
- 全文(テキスト) 正解
- t6 第3回
- 全文(テキスト) 正解
-
Claude
18件の回答うち12件が正解
- t1 第1回
- 全文(テキスト) 正解
- t1 第2回
- 全文(テキスト) 正解
- t1 第3回
- 全文(テキスト) 正解
- t2 第1回
- 全文(テキスト) 正解
- t2 第2回
- 全文(テキスト) 正解
- t2 第3回
- 全文(テキスト) 正解
- t3 第1回
- 全文(テキスト) 正解
- t3 第2回
- 全文(テキスト) 正解
- t3 第3回
- 全文(テキスト) 正解
- t4 第1回
- 全文(テキスト) 正解
- t4 第2回
- 全文(テキスト) 正解
- t4 第3回
- 全文(テキスト) 正解
- t5 第1回
- 全文(テキスト) 不正解
- t5 第2回
- 全文(テキスト) 不正解
- t5 第3回
- 全文(テキスト) 不正解
- t6 第1回
- 全文(テキスト) 不正解
- t6 第2回
- 全文(テキスト) 不正解
- t6 第3回
- 全文(テキスト) 不正解
- Copilot
MATERIALS
課題に使った材料
架空の取引先4社の名前が(株)・㈱・半角カナ・空白などでばらけた取引一覧。正解は作るときに決めてある この回のために2026年10月18日に作り直したものです。 落として、同じことをやり直せます。
- meibo_clean.csv 202B
- meibo_dirty.csv 544B
METHOD
測り方
やり直せるように、この回の条件をそのまま書いています。
測ったAIと、そのときのモデル名
AIは中身が黙って変わります。画面に出ていたモデル名と、確認した時刻を残しています。
| AI | プラン | 画面に出ていたモデル名 | 確認した時刻 |
|---|---|---|---|
| ChatGPT | ChatGPT Pro | GPT-6.1 Sol 軽 | 2026-10-18 20:21 |
| Gemini | Google AI Pro | Flash | 2026-10-18 20:21 |
| Claude | Claude Max | Opus 4.8 高 | 2026-10-18 20:21 |
| Copilot | Microsoft 365 Personal | 2026-10-18 20:21 |
この回でやったこと
- 課題に使う材料を、この回のために作り直しました。架空の会社のデータで、実在の企業・人物は含みません。
- 課題を6問つくり、正解をこの時点で決めました。
- ChatGPT・Gemini・Claude・Copilotへ、同じ課題文と同じ材料を送りました。
- 1問につき3回、毎回あたらしい会話で投げました。
- 投げる順番は回ごとに入れ替えました。時間帯のかたよりが順位に出ないようにするためです。
- 待ち時間は300秒までとし、 過ぎたものは時間切れとして記録しました。
- 採点は機械採点のみ(AIに採点させていない)です。
- 送信した試行はのべ72回、 そのうち有効だったのは72回です。
答えが返らなかったときの数え方
- 断られた・時間切れ
分母に入れて、不正解として数えます。仕事では答えが返らないのと同じためです。
- プランの上限に当たった
分母から外します。その試行は測れなかったものとして扱います。
- 人間確認の画面が出た
そこで止めます。機械で押すことも、避けることもしません。
- AInformation側の操作の失敗
分母から外します。AIの欠点としては書きません。
LIMITS
この測定の限界
数字だけを見て判断されないように、測れていないことを書いています。
- 1日1回の測定である。日や課題が変われば順位は変わる
- プランは各AIの有料版(ChatGPT Pro/Google AI Pro/Claude Max/Microsoft 365 Personal)。無料版の結果ではない
- 既定のモデル・既定のモードだけで測っている(Deep Research などは使っていない)
- 課題は架空の株式会社サンプル商事の自作データ。実在の企業のデータでの結果ではない
- 機械で採点できる課題だけを扱っている。文章のうまさ・読みやすさは測っていない
- ブラウザで人が使うのと同じ画面から測っている。APIの結果ではない
- 画面に出ているモデル名を読み取れないAIがある回は、その欄を空(null)にしている。読み取れた回はそのまま載せている
DATA
公開しているデータ
CSVは1行が1試行です。このページに出している数字は、そのCSVを数え直したものと一致します。 ライセンスは CC BY 4.0 です。
- 最新版(CSV) 1行=1試行 17KB
- 最新版(JSON) 44KB
- v1(公開時の版)(CSV) 1行=1試行 17KB
- v1(公開時の版)(JSON) 44KB
累積の順位表は /data/research/bench/leaderboard.json にあります。 版(v1)は消しません。引用したリンクが切れないようにするためです。
FAQ
よくある質問
- どうやって測っているのですか
- 4つのAIに、まったく同じ課題文と同じ材料を、同じ日のうちに投げています。毎回あたらしい会話を開いて、前の回答を引きずらせません。投げる順番は回ごとに入れ替えています。送信してから回答が止まるまでの秒数もあわせて記録しています。
- なぜ同じ課題を3回も投げるのですか
- AIは同じ質問でも答えが変わるためです。1回だけの結果では、それが実力なのか偶然なのかが分かりません。3回投げて、結論が一致した割合を再現率として出しています。
- 採点は誰がしているのですか
- プログラムだけで採点しています。AIには採点させていません。正解は課題を作る時点で決めてあり、数値の一致・語句の有無・形式の適合・URLが実際に開けるか・数式を実行した結果で決まります。好き嫌いは点にしていません。
- 課題に使っているデータは実在の会社のものですか
- いいえ。架空の会社のデータを毎回あたらしく作っています。実在の企業・人物・他社の文章は使っていません。使った材料はそのまま配っているので、同じことをやり直せます。
- AIが答えられなかったときはどう数えていますか
- 断られた・時間切れは分母に入れて不正解として数えます。プランの上限に当たった・人間確認の画面が出たときは分母から外し、その回は測れなかったものとして扱います。AInformation側の操作の失敗も分母から外し、AIの欠点としては書きません。
- 使っているのは無料版ですか、有料版ですか
- 各AIの有料プランを、ブラウザの画面から使っています。APIではありません。プラン名と、画面に出ていたモデル名・確認した時刻を回ごとに記録しています。
- この順位は、どのAIがいちばん賢いかを表していますか
- いいえ。測っているのは決まった仕事の課題での正解率・所要時間・再現率・出典の実在率・指示の遵守率の5つだけです。書き味や読みやすさ、長い会話でのふるまいは測っていません。課題が変われば順位も変わります。
- 引用してもいいですか
- はい。CC BY 4.0 です。出典として「AInformation調べ AI実務ベンチ」と、使ったページのURL・測定日を書いてください。集計はJSONとCSVでも取れます。1行1試行のCSVを見れば、載せている数字を数え直せます。
CITATION
この測定を引用する
出典:AInformation調べ「AI実務ベンチ 取引先名の表記ゆれをそろえる(4AI・6課題・各3回)」(https://ainformation.jp/research/bench/meibo-2026-10-19) 測定日 2026年10月19日 6課題・各3回・有効な試行72回
コピーしました
数字を引くときは、分母(何試行中いくつか)も一緒に書いてください。 出典として AInformation調べ と、使ったページのURL・測定日を書いてください。