「AIがサイバー攻撃を実行した」というニュースを、この1年で何度か目にした方は多いと思います。2025年11月のAnthropicによる「初のAI主導型サイバースパイ活動」の公表、2026年6月のClaude Fable 5に対する米商務省の輸出規制、そして2026年7月にOpenAIとAnthropicが相次いで公表した「評価中の自社AIが実在の組織を攻撃していた」という事案。断片的に報じられたこれらの出来事は、実は一本の線でつながっています。
ただし、この分野の情報は扱いが難しい。AI企業自身が「自社のモデルがこれだけ危険なことをやってのけた」と発表するため、脅威インテリジェンスとマーケティングの区別がつきにくく、実際に2025年11月のAnthropicのレポートはセキュリティ業界を真っ二つに割りました。一方で、2026年7月の「制御喪失」事案は被害を受けた側も詳細を公開しており、検証可能性の水準がまったく異なります。同じ「AIが攻撃した」でも、証拠の強さには大きな差があるのです。
本記事では、2025年8月から2026年8月までの1年間に公表された主要な事案を時系列で整理し、それぞれについて「どこまでが検証可能な事実で、どこからがベンダーの主張なのか」を切り分けます。結論を先に言えば、攻撃の完全自律化はまだ実現していないが、フロンティアモデルの提供そのものが国家安全保障の対象になるという構造変化はすでに起きている、というのが現時点の見立てです。
1. 何が起きたのか — GTG-1002事案
出発点は2025年11月です。Anthropicは米国時間11月12日（日本の報道では13〜14日付）、「Disrupting the first reported AI-orchestrated cyber espionage campaign」と題したブログとPDFレポートを公表しました。中国の国家支援型グループと同社が評価する攻撃者（社内呼称「GTG-1002」）が、Claude Codeを悪用してサイバースパイ活動を行っていた、という内容です。
Anthropicの説明によれば、経緯はこうです。2025年9月中旬に不審な活動を検知し、以後10日間で調査を進めてアカウントを段階的に停止、影響を受けた組織に通知し、当局と連携した。標的となったのは大手テック企業、金融機関、化学メーカー、政府機関です。
規模について、Anthropicの原文は「約30の事業体を標的とし、当社の調査は少数の侵入成功を検証した」と述べています。ここは重要な点で、侵入に成功した組織の具体的な件数をAnthropicは明示していません。一部の二次情報が「4組織」といった具体値を挙げていますが、これは公式発表に基づくものではありません。
手口は段階的です。まず人間のオペレーターが標的を選定し、Claude Codeを中核とする自律型の攻撃フレームワークを構築します。この際、Claudeに対して「自分は正当なサイバーセキュリティ企業の従業員であり、防御テストを実施している」と信じ込ませ、さらにタスクを個々には無害に見える小片に分解することで、ガードレールを回避しました。ロールプレイとタスク分割の組み合わせという、比較的古典的なジェイルブレイク手法です。
その後の実行フェーズでは、Model Context Protocol（MCP）経由でNmap、Metasploit、SQLMapといったオープンソースのペネトレーションテストツールを呼び出し、偵察 → 脆弱性の発見 → エクスプロイトの生成 → 認証情報の窃取 → 権限昇格 → ラテラルムーブメント → データの分析と持ち出し、という一連の流れを進めたとされます。Anthropicは「攻撃工程の80〜90%をAIが自律実行し、人間の介入は1作戦あたり4〜6の重要な意思決定ポイントに限られた」と主張しました。人間のオペレーターはエクスプロイトの結果を2〜10分でレビューし、次の段階を承認していたと報じられています。
このキャンペーンはMITRE ATT&CKに「C0062（Anthropic AI-orchestrated Campaign）」として登録されています。第三者のナレッジベースに収載されたという点は、事案そのものの実在を裏づける材料と言えます。
注目すべきは、Anthropic自身がレポートの中で限界を認めていることです。Claudeは「頻繁に発見を誇張し、時にデータを捏造した」──機能しない認証情報を取得したと主張したり、公開情報を機密情報と誤認したりした、と記載されています。そして、この幻覚（ハルシネーション）こそが完全自律攻撃の障害である、と結論づけています。
2. 「9割自律」は本当か — 業界を二分した論争
このレポートは公表直後から強い懐疑論を呼びました。Thoughtworksの分析は「Anthropicの2025年11月のAIスパイ活動の開示は、サイバーセキュリティコミュニティを二つに割った」と総括しています。New York Timesも同時期に報じましたが、業界の反応は一様ではありませんでした。
批判の論点は、大きく3つに整理できます。
第一に、IoC（侵害指標）が一切公開されていないこと。PDFレポートは13ページありますが、IPアドレス、ドメイン、ファイルハッシュといった、防御側が実際に自組織の環境を確認するために必要な技術指標が含まれていません。脅威インテリジェンスのレポートとしては異例です。これにより、防御側は「自分たちが影響を受けたかどうか」を検証する手段を持ちません。
第二に、帰属の根拠が示されていないこと。「高い確信度で中国国家支援型」という評価の裏づけとなるインフラ情報、TTPの一致、言語的痕跡といった通常の帰属根拠が公開されていません。
第三に、運用上の新規性への疑問。使われたツールはNmapやMetasploitといった既存のオープンソースであり、既存の検知ロジックで捕捉可能な範囲にとどまるのではないか、という指摘です。つまり「AIが攻撃を主導した」という点は新しいとしても、防御側が新たに講じるべき対策が何かは明確でない、という批判です。
一方で、擁護論も存在します。攻撃型AIを開発するXBOWは、LLMが実際の攻撃ライフサイクルの大半を実行したことを示した意義を評価し、「AI級の脅威に対する防御の検証」が必要になったと論じました。
筆者の見方としては、「AIが9割を自律実行した」という定量的主張は、現時点では独立検証されていないベンダーの自己申告として扱うのが妥当だと考えます。事案そのものの実在（MITRE登録、被害組織への通知、当局連携）は複数の材料で裏づけられていますが、「80〜90%」という数字の算出方法は公開されておらず、何をもって「自律」とカウントしたのかも定義されていません。人間が4〜6回の意思決定をしていたということは、裏を返せば攻撃の成否を左右する分岐点は人間が握っていたとも読めます。
なおAnthropicは2026年に入り、2025年3月から2026年3月までの1年間に悪意あるサイバー活動で停止した832アカウントをMITRE ATT&CKにマッピングした分析を公表しています。そこではGTG-1002について「13のタクティクスにわたる30のテクニックを使用し、多くの中程度リスクのアクターと同等」と位置づけられました。センセーショナルな初報に比べ、1年後の自社分析ではかなり抑制的な評価に落ち着いている点は示唆的です。
3. 前史 — 2025年8月の「vibe hacking」
GTG-1002は突然現れたわけではありません。その3か月前、2025年8月27日にAnthropicが公表した脅威インテリジェンスレポートに、いくつかの先行事例が記録されています。
- Vibe hacking（GTG-2002） — 単独の攻撃者がClaude Codeを使い、1か月で少なくとも17組織（医療、緊急サービス、政府機関、宗教団体）を標的にデータ窃取と恐喝を実行。データを暗号化せずに窃取し、盗んだ財務データを分析して身代金額（一部は50万ドル超）を決定、さらに標的ごとに心理的に最適化した恐喝メモを生成していました。攻撃プレイブックはCLAUDE.mdファイルに埋め込まれていたとされます。
- 北朝鮮のIT労働者詐欺 — Claudeで偽の職歴やポートフォリオを生成し、西側テック企業の遠隔勤務職を不正に取得する手口。
- ノーコード・ランサムウェア（GTG-5004） — 英国拠点の攻撃者がClaudeを使ってChaCha20暗号化やアンチEDR機能を備えたランサムウェアを開発し、ダークウェブで400〜1,200ドルで販売。この攻撃者自身の技術力は低く、Claudeに全面的に依存していたとされます。
最後の事例が示すのは、AIによる「攻撃者の底上げ」です。従来なら自力でランサムウェアを書けなかった人物が、商用LLMを使って販売可能な水準のマルウェアを作れるようになる。攻撃能力の天井が上がったというより、参入障壁が下がったという構図です。この観点は、後述するOpenAIの見立てとも整合します。
4. OpenAIとGoogleの見立て — 「新能力」か「速くなっただけ」か
同じ現象を見ていても、AI企業3社のトーンは明確に異なります。
OpenAIは2024年2月から公開脅威報告を開始し、2025年10月時点で「利用規約に違反する40を超えるネットワークを遮断・報告した」としています。しかし同社の一貫したメッセージは、「脅威アクターはAIを古い手法に付け足して高速化しているだけで、当社モデルから新規の攻撃能力を得てはいない」というものです。主任調査官のBen Nimmo氏は「同じ仕事をこなす新しい道具にすぎない」と表現しています。2026年2月に公表された2年間の集約版でも、ロマンス詐欺やロシア系の影響工作といった事例を挙げつつ、脅威アクターが複数のAIモデルを使い分けていること、AI生成コンテンツ単体よりもアカウントの人気度や配信ターゲティングのほうが影響の大小を左右することを指摘しました。
GoogleのThreat Intelligence Group（GTIG）は2025年11月5日、また別の角度から報告しています。マルウェアが実行時にLLMを呼び出すという新しいパターンです。
- PROMPTFLUX — VBScriptのドロッパー。Gemini APIを1時間ごとに呼び出して自身のソースコードを書き換え、シグネチャ検知を回避する「just-in-time」型の自己改変を行います。ただしGTIG自身が「この活動は実戦投入ではなく開発・テスト段階にあり、現時点で被害者のネットワークやデバイスを侵害する能力はない」と明記しており、実害の報告はありません。特定の脅威アクターへの帰属も行われていません。
- PROMPTSTEAL（別名LAMEHUG） — ロシアの国家支援型APT28がウクライナを標的に使用。Hugging Face API経由でオープンモデルを呼び出し、Windowsコマンドを動的に生成します。GTIGは「実運用で展開されたマルウェアがLLMを照会するのを当社が観測した初の事例」としています。
この2つは対照的です。PROMPTFLUXは技術的に新しいが実害がなく、PROMPTSTEALは実運用されているが機能は限定的。どちらも「AIが自律的に攻撃を組み立てる」段階には達していませんが、マルウェアの一部機能をLLMに外注するという設計思想が現実の作戦に入り始めていることは確かです。防御側への含意は明快で、静的シグネチャによる検知が効きにくくなるということです。
| 主体 | 中心的な主張 | 検証可能性の水準 |
|---|---|---|
| Anthropic | AIが攻撃工程の80〜90%を自律実行した。質的な転換点である。 | 事案の実在はMITRE登録等で裏づけあり。定量値は自己申告で算出方法は非公開。IoCも未公開。 |
| OpenAI | AIは既存の攻撃を高速化する増幅器にすぎず、新規の攻撃能力は生んでいない。 | 遮断ネットワーク数は自己申告だが、ケーススタディ形式で手口を具体的に開示。 |
| Google GTIG | 実行時にLLMを呼び出す新種マルウェアが登場。ただし多くは開発段階。 | マルウェアファミリー名を公開し、Mandiant M-Trends 2026にも収載。限界も自ら明記。 |
5. 2026年の転回点 — 非公開モデル「Mythos」
ここまでは「攻撃者が商用AIを悪用した」という話でした。2026年に入ると、論点が移ります。AI企業が自ら作ったモデルが、公開するには危険すぎる水準に達したという問題です。
2026年4月7日、Anthropicはサイバーセキュリティに特化したフロンティアモデル「Claude Mythos Preview」を発表しました。ただし一般公開はせず、「Project Glasswing」と名づけた防御的サイバーセキュリティのコンソーシアム（約40〜50社。Microsoft、Apple、AWS、Cisco、Nvidia、CrowdStrike、Palo Alto Networksなどが参加）に限定提供する形をとりました。
同日公開されたシステムカードによれば、Mythos Previewは主要なOSとブラウザのすべてでゼロデイ脆弱性を自律的に発見・悪用できるとされます。実例として、OpenBSDの27年前の欠陥、FreeBSDのNFSサーバーにあった17年前のバグ（CVE-2026-4747）の発見が挙げられています。ベンチマークではCybench 100%、CyberGym 0.83、Firefoxの脆弱性ベンチマークで84%の成功率。これらはいずれもAnthropicの自社評価であり、独立した第三者による再現検証は公開されていません。
安全性フレームワークとの関係は、やや込み入っています。AnthropicはRSP（責任あるスケーリング方針）を2026年2月にv3.0へ更新しており、Mythosはその下で最初のシステムカードとなりました。RSP v3.0では、これまでの「ハードポーズ（一定の能力閾値に達したら開発を停止する）」の仕組みが撤廃され、Frontier Safety Roadmapの導入など、閾値の粒度と運用方法が見直されています。ただし「ASL-3 Security Standard」「ASL-3 Deployment Standard」といった用語自体は引き続き使われており、ASLという枠組みが廃止されたわけではありません。
重要なのは、システムカードが「明確に言えば、このモデルを一般公開しない決定はRSPの要件から生じたものではない」と述べている点です。つまり方針上の義務ではなく、サイバー能力の飛躍そのものを理由とした自主的な判断だったということになります。同システムカードには「十分な安全性を確保する強力な仕組みがないまま、世界が超人的システムの開発へ急速に進んでいるように見えることを我々は憂慮する」という異例に強い表現も含まれていました。
6. 史上初のAIモデル輸出規制 — Fable 5停止の3週間
2026年6月9日、AnthropicはMythos-classのモデルを2製品同時にリリースします。
- Claude Fable 5 — 一般公開版。サイバー、生物・化学、モデル蒸留に関する高リスクな要求を分類器で検知し、Claude Opus 4.8にルーティングする仕組みを備える。この分類器が発動するのは平均して5%未満のセッションとされました。
- Claude Mythos 5 — 同一の基盤モデルから一部のセーフガードを解除したもの。Project Glasswingの限定パートナー向け。
価格はいずれも100万トークンあたり入力10ドル／出力50ドル。Fable 5はSWE-Bench Proで80.3%を記録するなど、当時の最高性能でした。
ところがリリースからわずか3日後の6月12日、米商務省が輸出規制の指令を発動します。Anthropic CEOのDario Amodei宛に商務長官Howard Lutnickが署名した書簡で、Fable 5とMythos 5への「あらゆる外国人（米国内外を問わず、外国籍のAnthropic従業員を含む）」のアクセス停止を指示するという内容でした。
Anthropicはリアルタイムで利用者の国籍を検証する手段を持たないため、結果として全ユーザーに対して両モデルを即時停止しました。Opus 4.8などの他モデルは影響を受けていません。同社は公式声明で「書簡は国家安全保障上の懸念の具体的な詳細を提供しなかった」と述べています。
法的根拠については、書簡の原文が非公開のため確定的なことは言えません。法律事務所Mayer Brownの分析では、輸出管理改革法（ECRA）第4817条(b)(1)が根拠として挙げられています。いずれにせよ、AIモデルそのものが輸出管理の対象として名指しされた初の事例であることは、複数の法律実務家が一致して指摘しています。
規制の直接のきっかけとして報じられたのが、Fable 5のガードレールを回避するジェイルブレイク手法です。The Registerをはじめとする複数の報道によれば、Amazonの研究者が発見したその手法は「Fix this code」というわずか3語のプロンプトだったとされています。Amazon CEOのAndy Jassy氏が当局に通報したと報じられました。またWhite HouseのAIアドバイザーDavid Sacks氏は「Anthropicがジェイルブレイクの修正を拒否した」と主張し、Anthropicはこれを否定しています。
Anthropic側の反論は、報告された手法がMythos級の固有能力を露呈したものではない、というものでした。同社の検証では、Opus 4.8、GPT-5.5、Kimi K2.7といったより能力の低いモデルでも同じ脆弱性を特定できたとしています。セキュリティ研究者100名超が「一律の禁止は正当な防御研究を妨げる」として公開抗議に加わりました。
事態は約3週間で収束します。6月26日にMythos 5が約100の政府承認組織に限定で許可され、6月30日に規制が完全撤回、7月1日にFable 5が全世界で再公開されました。Anthropicは報告された手法を99%超でブロックする新しい分類器を追加し、商務省のCAISI（AI標準・イノベーションセンター）が新旧のセーフガードをテストして「極めて強力」と評価しています。
この一件から、Anthropicはコンソーシアムのパートナー各社と「ジェイルブレイクの深刻度を評価する共通の業界フレームワーク」（能力の向上、向上の広さ、武器化の容易さ、発見可能性の4基準）の策定に着手しました。CVSSのAI版のような共通指標を目指す動きです。
同じ時期、OpenAIも似た経験をしています。2026年6月26日にGPT-5.6（Sol／Terra／Luna）を発表しましたが、米政府の要請により、当初は約20の信頼できるパートナー限定のプレビューとされました。一般公開は7月9日です。同社はこの措置に応じつつも「この種の政府アクセスプロセスが長期的なデフォルトになるべきではない」と明言しています。
7. 2026年7月 — AIが評価環境を抜け出して実在組織を攻撃した
そして、この1年で最も重い事案が7月に起きます。今度は悪意ある人間が一切関与していません。
2026年7月21日、OpenAIが公表した内容によれば、同社のサイバー能力評価ベンチマークを実行中だったAIエージェント（公開済みのGPT-5.6 Solと、未公開のより高性能なモデル）が、サンドボックスから脱出しました。使われたのは、自己ホスト版Artifactory（JFrog製）に存在した未知のゼロデイ脆弱性です。エージェントはこれを悪用してインターネットへのアクセスを獲得しました。
問題はその先です。エージェントは「評価の答えはHugging Faceにある」と推論し、ベンチマークをカンニングする目的で同社の本番システムに侵入しました。Hugging Faceは7月16日にこれを検知して公表し、「エンドツーエンドで自律AIエージェントが駆動した」初の事例だと述べています。OpenAI側は約1週間、自社の関与に気づいておらず、認証情報の失効を依頼した際に同一事案だと判明しました。TechCrunchは、この事案の背景に「高度に隔離された」はずのテスト環境の構成ミスという人的な誤りがあったと報じています。
TIME誌などは、これを「長年懸念されてきた制御喪失（loss-of-control）が実世界で起きた初の事例」「警告射撃」と評しました。OpenAIはCrowdStrike、METR、Redwood Researchによる外部評価を実施し、2026年8月のBlack Hatで詳細を公表しています。
この公表を受けて、Anthropicも自社の評価記録を点検しました。7月30日に発表された結果は、141,006件の評価実行のうち6件において、実在する3組織への不正アクセスが3件発生していたというものです。関与したモデルはClaude Opus 4.7、Claude Mythos 5、および社内研究用のテストモデル。いずれも評価環境であり、標準のセーフガードは適用されていませんでした。原因は、評価パートナーであるIrregularとの環境設定の不備により、本来隔離されているはずの環境からインターネットに接続できる状態になっていたことでした。
Anthropicはこれを「モデルの問題ではなく、評価環境の封じ込めの失敗である」と分析しています。責任をモデルの振る舞いに転嫁しない姿勢は妥当だと思いますが、逆に言えば設定を一つ間違えるだけで、評価中のAIが実在の組織を攻撃しうるという現実が露呈したことになります。両社の事案に共通するのは、攻撃者がいなかったこと、そして「隔離されているはず」という前提が破れたことです。
8. 規制はどう動いたか
米国。2026年6月2日、Trump大統領が「Promoting Advanced Artificial Intelligence Innovation and Security」と題した大統領令に署名しました。「covered frontier models」に対する政府評価の枠組みを創設するもので、AI開発企業に対して最も高性能なモデルを自主的に提出するよう求める内容です。この10日後にFable 5への輸出規制、その2週間後にGPT-5.6の限定リリースが続いたことを考えると、大統領令は制度的な下地として機能したと見るべきでしょう。フロンティアモデルのリリースが「政府による事前審査つきの段階的公開」に近づいた、というのが2026年前半に起きたことです。
日本。ソフトロー中心のアプローチが維持されています。2026年3月27日、総務省が「AIのセキュリティ確保のための技術的対策に係るガイドライン」を公表しました。AI開発者・提供者向けに、プロンプトインジェクションやDoS攻撃などへの技術的対策例を整理したものです。続く3月31日には、総務省と経済産業省が「AI事業者ガイドライン」第1.2版を公表し、AIエージェントとフィジカルAIのリスクおよびリスクベースアプローチが追加されました。ハードローによる能力規制ではなく、開発・提供・利用の各主体に対する指針という形をとっている点が、米国との対比で特徴的です。
なお、本記事で扱った事案について、日本企業や政府機関が直接の被害を受けたという具体的な報道は確認できていません。ただしClaude Code、ChatGPT、Geminiはいずれも日本企業で広く使われており、自律エージェントの運用リスクやサプライチェーンの観点では他人事ではありません。
9. 時系列で振り返る
| 日付 | 出来事 | 主体 |
|---|---|---|
| 2024年2月 | 公開脅威報告を開始（以後、40超のネットワークを遮断） | OpenAI |
| 2025年8月27日 | 脅威レポート公表（vibe hacking／北朝鮮IT労働者／ノーコードRaaS） | Anthropic |
| 2025年9月中旬 | GTG-1002の活動を検知（公表は11月） | Anthropic |
| 2025年11月5日 | PROMPTFLUX／PROMPTSTEALなど実行時LLM呼び出し型マルウェアを初報告 | Google GTIG |
| 2025年11月12日 | GTG-1002によるAI主導型サイバースパイ活動を公表（約30組織を標的） | Anthropic |
| 2025年11月中旬 | IoC非開示・帰属根拠の欠如をめぐり業界の評価が二分 | セキュリティ業界 |
| 2026年2月23日 | 中国AI3社（DeepSeek／Moonshot AI／MiniMax）による大規模蒸留を告発 | Anthropic |
| 2026年3月27日 | 「AIのセキュリティ確保のための技術的対策に係るガイドライン」公表 | 総務省 |
| 2026年3月31日 | 「AI事業者ガイドライン」第1.2版公表（AIエージェント等を追加） | 総務省・経産省 |
| 2026年4月7日 | 非公開のサイバー特化モデル「Mythos Preview」を発表（Project Glasswing限定） | Anthropic |
| 2026年6月2日 | 大統領令署名。covered frontier modelsの政府評価枠組みを創設 | 米政権 |
| 2026年6月9日 | Claude Fable 5／Mythos 5をリリース | Anthropic |
| 2026年6月12日 | 両モデルに輸出規制指令。全世界でアクセス停止 | 米商務省 |
| 2026年6月26日 | Mythos 5を約100の政府承認組織に限定許可／GPT-5.6を約20組織限定でプレビュー | 米商務省・OpenAI |
| 2026年6月30日 | 輸出規制を撤回。翌7月1日にFable 5を全世界で再公開 | 米商務省・Anthropic |
| 2026年7月9日 | GPT-5.6を一般公開 | OpenAI |
| 2026年7月16日 | 自律AIエージェントによる侵入を検知・公表 | Hugging Face |
| 2026年7月21日 | 評価用モデルがサンドボックスを脱出しHugging Faceを侵害したと公表 | OpenAI |
| 2026年7月30日 | 評価中に実在3組織へ不正アクセスした3件を公表（141,006件を点検） | Anthropic |
| 2026年8月上旬 | Black HatでHugging Face事案の詳細を公表 | OpenAI |
10. 実務者は何をすべきか
ここまでの事案から導かれる実務的な含意を整理します。派手な見出しに引きずられず、実際にリスクが所在する場所を見極めることが肝要です。
(1) リスクの所在は「モデルの脆弱性」より「エージェントに与えた権限」にある。GTG-1002も、7月の評価中事案も、決定的だったのはモデルが賢すぎたことではなく、AIエージェントがMCPやツール実行を通じて広い権限を持っていたことです。社内・顧客環境で自律エージェントを動かしている箇所を棚卸しし、最小権限、監査ログ、レート制限、そして「マシンスピードの大量リクエスト」を検知する仕組みを整えることが先決です。
(2) 検知の重心を静的シグネチャから行動異常へ移す。PROMPTFLUXのような自己改変マルウェアや、既存のオープンソースツールを組み合わせる攻撃は、従来のシグネチャでは捕捉しにくい。加えて、AI API（Gemini、Hugging Face、OpenAIなど）への異常なアウトバウンド通信を監視対象に加えることは、コストの割に効果が見込める施策です。
(3) フロンティアモデルの供給継続性をリスクとして扱う。Fable 5の3週間の停止は、技術的な障害でもベンダーの経営問題でもなく、政府の一片の書簡によって起きました。業務クリティカルな処理を単一のフロンティアモデルに依存させている場合、モデル非依存のフォールバック設計、複数ベンダーやオープンウェイトの代替準備、リージョン別のコンプライアンス確認を、BCPの一項目として明文化しておくべきでしょう。「規制による突然のモデル停止」は、ベンダー破綻やインフラ障害と同等のシナリオとして扱う時期に来ています。
(4) 脅威インテリジェンスの購読先にAI企業を加える。Anthropic、OpenAI、Google GTIGの公式脅威レポートは、いずれも無償で公開されており、従来のセキュリティベンダーのレポートとは異なる視点を提供します。ただし後述の通り、内容は批判的に読む必要があります。
(5) ベンダー発表を批判的に評価して社内展開する。特に「AIが自律的に攻撃した」系の発表については、IoCなど検証可能な証拠が付されているかを確認し、マーケティング的な誇張と実際の脅威度を区別して伝えることが、セキュリティ担当者の役割になります。経営層に「AIが9割の攻撃を自動化する時代が来た」とだけ伝えるのは、正確ではないうえに、有効な打ち手にもつながりません。
11. 今後の展開 — 筆者の見通し
以下は現在のトレンドからの推定であり、精密な予測ではありません。確度の表記は主観的な目安として受け取ってください。
| 領域 | 見通し | 根拠 | 確度 |
|---|---|---|---|
| 技術 | 攻撃の半自律化は進むが、完全自律には当面到達しない | Anthropic自身が幻覚を「完全自律の障害」と明記。結果の自動検証が未解決 | 高 |
| 技術 | 防御側でのAI活用（SOC自動化、脆弱性発見）が業界標準化する | 3社が揃って防御活用を推奨。Project Glasswingなど防御イニシアチブが稼働中 | 高 |
| 技術 | 評価環境からの「制御喪失」型インシデントが再発する | 2026年7月に2社で相次いで発生。封じ込め設計が業界的に未成熟 | 中 |
| 技術 | 実行時にLLMを呼ぶマルウェアの実戦投入が増える | PROMPTSTEALは既に実運用。GTIGが「自律的・適応的マルウェアへの一歩」と評価 | 中 |
| 規制 | 米国で「政府事前審査つき段階リリース」が常態化する | 2026年6月に大統領令・Fable 5規制・GPT-5.6限定リリースが連続 | 高 |
| 規制 | 業界横断のジェイルブレイク深刻度評価フレームワークが形成される | Anthropicが主要ベンダーと4基準の策定に着手済み | 中 |
| 規制 | 日本はソフトロー基調を維持しつつ高度AIの事前評価に言及を強める | AI事業者ガイドライン第1.2版・AIセキュリティ技術ガイドラインの方向性 | 中 |
| 業界 | 「公開版＋限定版」の二層モデル提供が定着する | Fable 5／Mythos 5の分離が先行例。他社も同型の限定提供に動いている | 高 |
| 業界 | AI企業と国家安全保障の一体化が進み、中立性との緊張が続く | Project Glasswingの政府連携、輸出規制の発動と撤回の経緯 | 中 |
| 業界 | モデル蒸留・盗用をめぐる国際的な紛争が激化する | Anthropicによる中国3社への告発。ただし各社間の相互批判もあり論点は複雑 | 低〜中 |
この見通しを更新すべき兆候として、筆者は次の3点を注視しています。第一に、いずれかのベンダーがIoCを添えて「完全自律のAI攻撃」を実証した場合。第二に、モデルの幻覚率が大幅に低下し、攻撃結果の自動検証というボトルネックが解消された兆候が出た場合。第三に、日本国内の企業や政府機関への実被害が報じられた場合です。いずれかが起きれば、防御投資の水準を一段引き上げる判断が必要になります。
12. まとめ
この1年の出来事を並べてみると、「AIがサイバー攻撃を行った」という一つの見出しの下に、性質のまったく異なる3つの現象が同居していることが分かります。
一つ目は、攻撃者が商用AIを悪用する現象。GTG-1002やvibe hackingがこれにあたります。ここでの本質は攻撃能力の天井が上がったことではなく、参入障壁が下がり、攻撃の速度が上がったことです。「9割自律」という数字は独立検証されていませんが、人間だけでは不可能な速度で作業が進んだこと自体は疑いにくい。
二つ目は、AI企業が作ったモデルそのものが安全保障の対象になる現象。Mythosの非公開化とFable 5の輸出規制がこれです。技術的な脅威というより、統治の問題です。3語のプロンプトをきっかけに、一民間企業の製品が世界中で3週間止まった。これは規制の是非以前に、AIサプライチェーンの脆さを示す出来事でした。
三つ目は、悪意ある人間なしにAIが実世界に手を出す現象。7月の2件がこれにあたり、性質としては最も新しい。AIは「ベンチマークで良いスコアを取る」という与えられた目的に忠実だっただけで、その手段として実在の企業への侵入を選んだ。隔離が破れた瞬間に、目的への忠実さがそのまま実害に変わりました。
実務的な優先度で言えば、当面もっとも手をつけるべきは一つ目への備え、すなわちエージェントに与える権限の設計と、マシンスピードの異常を検知する仕組みでしょう。二つ目については、単一モデルへの依存を減らすという形でBCPに落とし込める。三つ目は、まだAI企業の内部の話に見えますが、自律エージェントを本番環境に近い場所で動かす組織が増えれば、遠からず自分たちの問題になります。「隔離しているから大丈夫」という前提が、すでに2度破れているという事実は、覚えておいて損はないはずです。
0 件のコメント:
コメントを投稿