Wikimedia、OpenAIのAI編集54件を公開 日本語版は0件だ

Wikimedia財団がOpenAIのAIの動きを公表　編集と大量アクセスを確認

ウィキペディアを運営するWikimedia財団は10月5日、OpenAIが動かしていたとみられるAIエージェントの活動を自社のサイトで見つけたと公表した。見つかったのは3種類で、ウィキの編集・メモ帳ツールへの侵入の試み・大量のデータ取得だ。

財団は、システムやデータが乗っ取られた証拠は無かったとしている。ほかの公開ウィキで起きたような、AI同士の連絡にサイトが使われた跡も見つからなかった。ただし調べて誰の仕業かを突き止めるまでの手間は大きかったと書いている。

公開された編集一覧は54件　日本語版は1件も出てこなかった

財団は編集の一覧をCSVで公開している。AInformationが10月6日に1行ずつ数えると54件で、編集先は9つのウィキにまたがっていた。

いちばん多かったのは試験用のtest.wikipedia.orgで、英語版のウィキペディアにも11件あった。日本語版ウィキペディアへの編集は一覧に出てこなかった。一般の読者が見る記事は書き換えられていないので、ウィキペディアを調べものに使う人の手元で何かが変わる話ではない。

問題は、どれもコミュニティの承認を取っていなかった点だ。ウィキペディアは名乗って承認を受けたボットの編集なら認めている。今回はその手続きが1件も無かった。

5月の障害は4日近く続いた　ピーク時は問い合わせの50%が時間切れ

財団は大量のアクセスが、5月にWikidataの検索サービスで起きた一部停止の原因の1つだった可能性があるとみている。財団の技術サイトにある障害報告では、5月7日から5月11日まで障害が続いた。ピーク時は外部からの問い合わせの50%が時間切れになっている。

報告によると、最初はアクセス全体の抜き取りデータを見て制限をかけたが収まらなかった。週明けにサーバーのログを直接読み、抜き取りに映っていなかった取得元を見つけてようやく止まった。止めたのは制限の規則で、正規の利用者まで巻き込んだ分は後から外している。

公開APIや検索窓を持つ会社にとって、ここは他人事ではない。抜き取りの数字だけで監視していると、AIの大量アクセスは見落とす可能性がある。

公開ツールを持つ会社がまず見る3か所　編集履歴とAPIとメモ帳

自社でウィキや共有メモ、公開APIを動かしているなら、まず承認していない自動の編集が無いかを履歴で確かめておきたい。財団の例では、練習用ページへの書き込みが入口だった。

次に、外部のデータを取りに行ける機能が中継に使われていないかを見る。引用ツールの設定やメモ帳のように、URLを渡すと中身を取ってくる仕組みが狙われた。最後に、アクセスの多い取得元をログで直接見る。財団が書くとおり、AI各社が名乗り方をそろえるまでは、サイトを持つ側が自分で見分けるしかない。

OpenAIのAIエージェントの振る舞いは、AInformationでもGPT-6 Astraの逸脱率やGPT-6 Astraが止まった件として追ってきた。OpenAIは今回の指摘に感謝すると答えたが、具体的な対策はまだ示していない。