AIセキュリティ新指針「SAFE」をNVIDIAらが提案｜Open Secure AI Allianceの狙いと提供ツールを解説

2026年8月5日

AIニュース重要度

★★★★☆

4.0 / 5｜重要なアップデート

正式提供・新モデル・料金・セキュリティ・企業導入など実務への影響が明確な発表を含みます。利用者・企業の実務に影響する更新のため★4としました。

生成AIの学び方で悩んでいませんか？

「何から学ぶか」「続けられるか」「仕事で使えるか」が大切と分かっていても、独学では難しいですよね。

DMM 生成AI CAMP 学び放題は、DMM.comが提供する月額制の生成AIオンラインスクールです。

総額200万円相当の約1,000レッスンが学び放題。職種別・ツール別のコースを、メンターやAIチューターのサポートを受けながら継続的に学べます。

その第一歩として、入会前に中身を体験できる60分の無料セミナーが用意されています。参加すると、こんなことが分かります。

自分の職種で使えるか - マーケティング・営業・人事など職種別8コースの中身を体感できる！
ツールごとの学び方 - ChatGPTやDifyなど、ツール別のマスターコースも確認できる！
学習の進め方 - 約1,000レッスンをどう学べば短期間で身につくか、プロが提案してくれる！
続けられる仕組み - 24時間対応のAIチューターやメンター相談、コミュニティの中身が分かる！
生成AIの最新デモ - 生成AIの最新技術デモをその場で体験できる！

「無料セミナーで体験してから、学び放題に入会して継続的に学ぶ」という流れで始められるので、合うか分からないまま入会する心配がありません。

予約・参加は無料。入会するかはセミナーの後に決められます。

＼予約は30秒・日時を選ぶだけ／

60分の無料セミナーを予約する（無料）

⇒入会・コース詳細を公式サイトで見る

※無料なのはセミナーで、学び放題本体は月額制の有料サービスです。料金は公式サイトをご確認ください。
※セミナー・コース内容は変更される場合があります。

概要

NVIDIAをはじめとする「Open Secure AI Alliance（オープン・セキュアAIアライアンス）」のメンバー企業が、AIエージェント（自律的に作業をこなすAI）のサイバーセキュリティを強化する新しいガイドライン案「SAFE（Shared AI Findings Exchange）」を公表しました。これは、AIをめぐるセキュリティ事故の情報を業界全体で共有し、みんなで守りを固めることを目指す取り組みです。ラスベガスで開催されるセキュリティ会議「Black Hat」に合わせて、Linux Foundationが意見募集（RFC）として公開しました。

何が発表・更新されたのか

大きく分けて2つの動きがあります。

1. SAFEガイドライン案の公開
Linux Foundationが「SAFE」の意見募集（Request for Comments）を公表しました。これはAIエージェントに関するセキュリティ事故や「ヒヤリハット（あわや事故になりかけた事例）」を、以下のように扱うための指針案です。

事故やヒヤリハットを機密性を保ちながら収集・分析する
影響を受けた関係者に通知する
繰り返し起きている制御不備を特定する
証拠に基づいた運用推奨事項を公開し、システム全体のリスクを下げる

このガイドラインは、NVIDIA、Cisco、CrowdStrike、Hugging Face、Red HatなどがLinux Foundationと協力し、作業部会でドラフトを作成しています。アライアンスは現在120以上の組織が参加する規模になっています。

2. 各社によるオープンなセキュリティツールの提供
SAFEに加えて、メンバー各社がAIセキュリティを支える「検査可能なオープンツール」を数多く提供しています。主なものは次のとおりです。

NVIDIA：エージェントの挙動をテスト・追跡・監査しやすくする研究用ハーネス「NOOA」、エージェントができる操作を制限する実行環境「OpenShell」、LLM（大規模言語モデル）の脆弱性スキャナー「Garak」、安全ポリシーを守る「NeMo Guardrails」など。Nemotron、Cosmos、Isaac GR00Tなどのオープンモデル群も含みます。
Okta：AIエージェント向けのID・アクセス制御の実装例。
Palo Alto Networks：ID保護ツール「Agent Guard」「Agent Watch」。
Red Hat：NIST・OWASP・EU AI Actなどのガバナンス要件をエージェントの実行時制御に対応づける「asago」。
Amazon（新規参加）：エージェント構築キット「Strands Agents」、認可言語「Cedar」。
Microsoft AI Red Team：レッドチーム（攻撃側の視点で検証する手法）向けツール「PyRIT」「RAMPART」「Assert」など。
Cisco：OpenShell上で動くガバナンス層「DefenseClaw」、小型セキュリティモデル「Antares」。
Capital One、Cloudflare、Wiz、Visa なども各層でツールを提供しています。

なぜ重要なのか

AIエージェントは単なるモデルではなく、ID制御・ツール・ログ・評価などを組み合わせた「システム」です。従来の脆弱性スキャンだけでは守りきれません。技術が大きく変わるたびに新しい攻撃対象が生まれるため、防御側も「エージェントの速度」で対応する必要があります。

記事では「信頼できるエコシステムが脅威情報をオープンに共有すれば、集団防御が大きな力になる」と述べられています。1社だけで守るのではなく、業界全体で知見を共有する枠組みづくりが、この発表の核心です。

誰に関係があるのか

AIエージェントを開発・導入する企業やエンジニア
セキュリティ担当者・情報システム部門
オープンソースを活用してAIの安全性を高めたい中小企業の実務担当者

特に、社内でAIエージェントを業務に組み込み始めている企業にとって、ID管理や実行時の権限制御をどう設計するかの参考になります。

仕事や業務でどう使えるのか

現時点で提供されているツールの多くはオープンソースとして公開されています。たとえば次のような使い方が考えられます。

Garak でLLMのプロンプトインジェクション（不正な指示注入）やデータ漏えいのリスクを出荷前に検査する
NeMo Guardrails でAIの応答に安全ポリシーを適用する
OpenShell でエージェントがアクセスできる範囲を制限する

ただし、これらは主に開発者・セキュリティ担当者向けの技術です。導入には専門知識が必要で、SAFEガイドライン自体はまだ「意見募集中の案」である点に注意してください。

注意点

SAFEは確定した規格ではなく、意見募集（RFC）段階の提案です。今後内容が変わる可能性があります。
各ツールの利用条件や、日本での提供状況・対応言語などの詳細は、公式情報上では確認できませんでした。導入前に各プロジェクトの公式ページで確認してください。
本記事は元情報に記載された範囲をまとめたもので、省略された後半部分（CrowdStrikeの詳細など）は含みません。

今後

アライアンスの参加組織は増え続けており、記事でも「今後さらに多くの貢献が届く」とされています。SAFEガイドラインは意見募集を経て内容が固まっていく見込みで、AIエージェントのセキュリティに関する事実上の共通指針となる可能性があります。関心のある企業は、RFCへのフィードバックや各ツールの検証から関わることができます。