この記事のポイント
- Anthropicは2025年12月〜2026年8月に確認したAI悪用事例を7領域で報告しました。
- 報告はアカウント停止や情報共有を説明しますが、被害がすべて防がれたわけではありません。
- 盗難APIキーや自律型ツールの悪用が含まれます。認証情報とエージェント権限を点検しましょう。
Anthropicの公式脅威レポートから、悪用の事例と対応を紹介します。報告された手口と、確認できている影響の範囲を分けて読みます。
レポートは何を対象にしたか
対象は2025年12月〜2026年8月に特定・対処した7領域の活動です。Claude Haiku・Sonnet・Opusが使われ、Fable・Mythosクラスの関与は蒸留の1件のみでした。Anthropicは悪用を開示する責任を掲げ、侵害指標(IOC)も公開しています。 詳細はAnthropic公式サイトのレポートページで確認できます。
サイバー攻撃・詐欺・情報操作の事例
Anthropicは、AIによって少人数でも複数の攻撃を並行して進めやすくなったと報告しています。
| 事例(GTGコード) | 実行主体 | 概要 |
|---|---|---|
| GTG-20006 | ロシア系の疑いがあるスパイ活動 | ウクライナや欧州の20超の組織を標的にし、検知後にマルウェアを作り直す仕組みを構築 |
| GTG-50014 | ShinyHunters系とみられる金銭目的の集団 | Androidアプリを解析して認証情報を集め、企業からデータを盗み身代金を要求 |
| GTG-10007 | 中国発の大学生を含むグループ | 約50組織を標的に脆弱性を調査し、侵入までを自動化 |
報告は検知回避の高速化も指摘しています。
詐欺では、20超の出会い系アプリが4,700超のAI人格を人間と称し、2週間で2万5,000人以上と会話した事例(GTG-15001)を報告。実在の人物も混ぜていたといいます。
情報操作では、偽ニュースサイトやXアカウントを使い、記事を別の政治的立場から書き換えて配信した事例(GTG-54002)を報告。有権者データを使う選挙操作基盤も含まれますが、選挙結果への影響を検証した報告ではありません。
企業が今すぐ点検したいこと
盗まれたAI APIキーは、計算資源の利用や攻撃元の隠蔽に使われました。AnthropicはAPIキーとエージェント連携を重要な認証情報として管理するよう呼びかけています。
- AI APIキーがコードや公開リポジトリに含まれていないか点検する
- 非公式のAI中継サービスを避け、正規の契約経路を使う
- AIエージェントの権限と、想定外の指示への対応を点検する
Anthropicは関連アカウントの停止や情報共有を説明していますが、報告には被害が発生した事例も含まれます。
まとめ:「開発元が実例を出す」こと自体に意味がある
AIの認証情報や接続先を管理する方は、APIキーの保管場所とエージェントの権限を点検しましょう。異常を検知した際の停止手順も確認できます。
同種の脅威への対処として、Microsoftも大規模な認証詐欺基盤「EvilTokens」の妨害を報告しています。
※2026年9月公表レポートに基づきます。最新の状況や侵害指標の詳細はAnthropic公式サイトで確認するとよいでしょう。
AIの悪用を防ぐ別の切り口としては、保険金請求画像の改ざんをAIで検知するFinatextの実証実験も参考になります。
モデルの模倣・抽出を防ぐ取り組みとしては、OpenAIが推論の不正抽出を阻止したと発表した動きもあります。
