Hugging Faceがセキュリティ侵害を公表｜AIエージェントによる攻撃と防御側の対応・教訓を解説

2026年7月16日

AIニュース重要度

★★★★☆

4.0 / 5｜重要なアップデート

正式提供・新モデル・料金・セキュリティ・企業導入など実務への影響が明確な発表を含みます。利用者・企業の実務に影響する更新のため★4としました。

生成AIの学び方で悩んでいませんか？

「何から学ぶか」「続けられるか」「仕事で使えるか」が大切と分かっていても、独学では難しいですよね。

DMM 生成AI CAMP 学び放題は、DMM.comが提供する月額制の生成AIオンラインスクールです。

総額200万円相当の約1,000レッスンが学び放題。職種別・ツール別のコースを、メンターやAIチューターのサポートを受けながら継続的に学べます。

その第一歩として、入会前に中身を体験できる60分の無料セミナーが用意されています。参加すると、こんなことが分かります。

自分の職種で使えるか - マーケティング・営業・人事など職種別8コースの中身を体感できる！
ツールごとの学び方 - ChatGPTやDifyなど、ツール別のマスターコースも確認できる！
学習の進め方 - 約1,000レッスンをどう学べば短期間で身につくか、プロが提案してくれる！
続けられる仕組み - 24時間対応のAIチューターやメンター相談、コミュニティの中身が分かる！
生成AIの最新デモ - 生成AIの最新技術デモをその場で体験できる！

「無料セミナーで体験してから、学び放題に入会して継続的に学ぶ」という流れで始められるので、合うか分からないまま入会する心配がありません。

予約・参加は無料。入会するかはセミナーの後に決められます。

＼予約は30秒・日時を選ぶだけ／

60分の無料セミナーを予約する（無料）

⇒入会・コース詳細を公式サイトで見る

※無料なのはセミナーで、学び放題本体は月額制の有料サービスです。料金は公式サイトをご確認ください。
※セミナー・コース内容は変更される場合があります。

概要

AI（人工知能）モデルやデータセットの共有プラットフォームとして知られるHugging Faceが、2026年7月に発生したセキュリティ侵害（不正侵入）について公式に報告しました。今回の事案の特徴は、攻撃が「自律型のAIエージェント（人が細かく指示しなくても自分で判断して動くAI）」によって最初から最後まで実行された点にあります。同社はこれを、防御側でもAIを活用して検知・分析したと説明しています。

何が発表・更新されたのか

Hugging Faceは、本番環境（実際にサービスを動かしているシステム）の一部に不正侵入があり、限られた内部データセットと複数のサービス用認証情報（credential）への不正アクセスを確認したと公表しました。

一方で、公開されている一般ユーザー向けのモデル・データセット・Spaces（アプリ公開機能）への改ざんの証拠は見つかっておらず、ソフトウェアのサプライチェーン（コンテナイメージや配布パッケージ）も「クリーンであることを確認した」としています。パートナーや顧客のデータが影響を受けたかどうかは、公式情報上ではまだ評価中で、影響がある場合は個別に連絡するとされています。

なぜ重要なのか

今回の攻撃は、業界が以前から警告してきた「AIエージェント型の攻撃者（agentic attacker）」というシナリオが、現実に起きたことを示す事例だからです。

公式説明によると、攻撃は自律型エージェントの仕組みで実行され、多数の使い捨てサンドボックス（隔離された実行環境）を使って数千もの個別動作が行われ、指令サーバー（C2）は公開サービス上を移り変わりながら運用されていたとのことです。つまり、人間の手作業に依存しない「機械の速度」での攻撃が現実になったことを意味します。

誰に関係があるのか

Hugging Faceを利用している開発者・企業の実務担当者
生成AIやAIモデルを扱うクラウド基盤・データ処理基盤を運用する担当者
セキュリティやインシデント対応（事故対応）に関わる方

特に、外部から受け取ったデータセットやモデルを処理する仕組みを持つ組織にとって、他人事ではない内容です。

仕事や業務でどう使えるのか（読み解きと対応）

公式は、コミュニティ向けの推奨対応として次を挙げています。

保有しているアクセストークンをローテーション（再発行して古いものを無効化）する
アカウントの最近のアクティビティ（操作履歴）を確認する
影響が疑われる場合やセキュリティ上の懸念は security@huggingface.co に連絡する

実務上の学びとして特に注目したいのは、攻撃の入口が「データ処理パイプライン」だった点です。悪意あるデータセットが、データセット処理の2つのコード実行経路（リモートコード実行型のローダーと、設定ファイルへのテンプレートインジェクション）を悪用して、処理ワーカー上でコードを実行したとされています。外部データを扱う業務では、データそのものを攻撃対象領域として扱う意識が重要になります。

変更点（Hugging Faceが実施した対応）

公式が説明した主な対応は次のとおりです。

初期侵入に使われたデータセットのコード実行経路（根本原因）を修正・封鎖
影響を受けたクラスタから攻撃者の足場を排除し、侵害ノードを再構築
影響を受けた認証情報・トークンを失効・更新し、予防的に秘密情報の広範な更新を開始
クラスタに追加のガードレール（防御策）と、より厳格な受け入れ制御を導入
検知・アラートを改善し、重大な兆候があれば曜日を問わず数分で担当者に通知
外部のセキュリティ・フォレンジック専門家と協力して調査・見直しを実施
本件を法執行機関にも報告

今後（防御側のAI活用と課題）

Hugging Faceは、今回の侵害を最初に検知したのもAIだったと述べています。LLM（大規模言語モデル）を使った異常検知パイプラインが兆候を相関分析し、侵害を検出。1万7,000件を超える攻撃者の記録イベントに対してLLM分析エージェントを走らせ、タイムラインの再構築や侵害指標（IoC）の抽出を、通常なら数日かかる作業を数時間で行えたとしています。

ここで同社が「予想外だった」と明かしたのが、防御側の非対称性の問題です。当初は商用APIのフロンティアモデルを使おうとしましたが、実際の攻撃コマンドや不正なペイロードを送信する分析は、提供側の安全ガードレールにブロックされてしまったといいます。ガードレールは「攻撃者」と「インシデント対応者」を区別できないためです。

そこで同社は、自社インフラ上でオープンウェイトのモデル「GLM 5.2」を使って分析を実施。これにより、攻撃者のデータや認証情報を自社環境外へ出さずに済んだと説明しています。ここから得た教訓として、「インシデント前に、自社インフラで動かせる能力の高いモデルを検証・準備しておくこと」を挙げています。