Google、盗まれたAPIキーは月60ドルで転売 狙いは試しに作った鍵だ

Google CloudのGTIG（Google Threat Intelligence Group）とMandiantが「LLMJacking」の分析を公開しました。企業のAIモデルへのアクセス権を乗っ取って転売する攻撃で、ブログは英語だけです。盗まれたAPIキーは束ねられ、闇の市場でフロンティアモデルを割安に使える権利として売られています。ある事例では、買う側の月額は約60ドルで、被害企業には約100万ドルの利用料が付け回されていました。

GoogleでフォローするGoogle検索でAInformationの記事が出やすくなります

GoogleがLLMJackingを分析　盗んだキーは割安で転売される

LLMJackingは、他社のAPIキーを盗んでAIモデルを勝手に使い、その権利を売りさばく手口です。攻撃者はまず公開されたGitHubリポジトリから認証情報を集めたり、セッションを乗っ取ったりしてキーを手に入れます。入り込む先は、そのキーが使える標的のクラウド環境です。

盗んだキーは不正なプロキシ ゲートウェイにまとめられ、売りに出されます。売り場はアンダーグラウンドのマーケットプレイスで、フロンティアモデルへのアクセス権として大幅な割引価格が付いているそうです。使う側は安く最新モデルを呼べて、代金はキーの持ち主が払う形です。

被害は1日10万ドル超　100万ドルの請求が被害企業へ回った

報告にある被害の例は3つです。どれも請求額が短い時間で膨らんでいます。円の額は1ドル158.29円（11月3日の欧州中央銀行の値）でAInformationが計算しました。

3つ目の攻撃者は、短命なサービスアカウントを作っては消す「Burn and Rotate」でレート制限をかわしていました。クラウドの請求画面を見て金額への影響まで確かめていたそうです。被害は北米・南米・アジア太平洋地域の金融サービス・小売・テクノロジー・運輸の組織に及んでいます。日本の被害件数や会社名は、元記事には出てきません。

日本の会社で狙われやすいのは「試しに作ったAPIキー」だ

計算資源を盗んで暗号資産を掘る手口は前からありました。LLMは1回の呼び出し額が高いので、請求が一気に膨らむところが違います。元記事も、個人開発でもキーをリポジトリに置いたままにしていないか見直すきっかけになると書いています。

社内で危ないのは、情報システム部門が把握していないキーです。たとえば部署ごとに試しで作ったキーや、AIに書かせたコードに埋め込んだキーが当たります。こうしたキーは権限も上限も初期のままになりがちです。報告が対策の1つ目にシャドーLLMの検出を挙げているのは、この見えないキーが入口になるからだと編集部は読んでいます。

盗品の権利は月約9,497円で出回ります。別の事例では、持ち主の請求が1日で約1,583万円を超えました。AIのAPIの料金を部署の経費で払っている会社ほど、請求が届くまで気づけない可能性があります。

GitHubのキーと利用上限　あすから確かめる4項目

報告が挙げた対策は、シャドーLLMの検出・APIキーの権限（スコープ）を細かく決めること・機密情報の自動スキャンです。元記事は利用上限の設定も見直す点に挙げています。社内で確かめる順はこうなります。

• GitHubのリポジトリ（公開・非公開とも）にAPIキーが書かれたファイルが無いか、機密情報のスキャンで調べる
• 部署ごとに作ったAIのAPIキーを洗い出し、使っていないキーは止める
• キーごとに使えるモデルと操作を絞り、何でもできるキーを残さない
• クラウドとAIの管理画面で利用上限と請求の通知を設定する

攻撃者は請求画面を見ながら金額を確かめていました。被害企業のほうが先に請求画面を見ていれば、1日10万ドルまで膨らむ前に止められた可能性があります。まずは今月の請求の内訳を開いてみるのが早いです。