AnthropicがUS CAISI・UK AISIと協力｜Claudeの安全対策強化の中身とは

2026年9月11日

AIニュース重要度

★★★☆☆

3.0 / 5｜知っておくと役立つ通常ニュース

知っておくと役立つ通常のアップデートのため★3としました。

生成AIの学び方で悩んでいませんか？

「何から学ぶか」「続けられるか」「仕事で使えるか」が大切と分かっていても、独学では難しいですよね。

DMM 生成AI CAMP 学び放題は、DMM.comが提供する月額制の生成AIオンラインスクールです。

総額200万円相当の約1,000レッスンが学び放題。職種別・ツール別のコースを、メンターやAIチューターのサポートを受けながら継続的に学べます。

その第一歩として、入会前に中身を体験できる60分の無料セミナーが用意されています。参加すると、こんなことが分かります。

自分の職種で使えるか - マーケティング・営業・人事など職種別8コースの中身を体感できる！
ツールごとの学び方 - ChatGPTやDifyなど、ツール別のマスターコースも確認できる！
学習の進め方 - 約1,000レッスンをどう学べば短期間で身につくか、プロが提案してくれる！
続けられる仕組み - 24時間対応のAIチューターやメンター相談、コミュニティの中身が分かる！
生成AIの最新デモ - 生成AIの最新技術デモをその場で体験できる！

「無料セミナーで体験してから、学び放題に入会して継続的に学ぶ」という流れで始められるので、合うか分からないまま入会する心配がありません。

予約・参加は無料。入会するかはセミナーの後に決められます。

＼予約は30秒・日時を選ぶだけ／

60分の無料セミナーを予約する（無料）

⇒入会・コース詳細を公式サイトで見る

※無料なのはセミナーで、学び放題本体は月額制の有料サービスです。料金は公式サイトをご確認ください。
※セミナー・コース内容は変更される場合があります。

概要

Anthropicは2025年9月12日、米国のAI標準・イノベーションセンター（US CAISI）と英国のAIセキュリティ機構（UK AISI）との1年間にわたる協力関係について、公式ブログで詳細を公表しました。両政府機関がClaudeモデルの安全対策（セーフガード）をテストし、脆弱性を発見・修正してきた取り組みの内容と、そこから得られた教訓がまとめられています。

何が発表・更新されたのか

Anthropicは、Claude Opus 4および4.1などのモデルについて、ジェイルブレイク（AIに不正な指示を実行させる攻撃）を防ぐ「Constitutional Classifiers」という防御システムを、US CAISIとUK AISIのレッドチーム（攻撃側視点でシステムを検証する専門チーム）にテストしてもらったと説明しています。

具体的に見つかった脆弱性の例として、以下が挙げられています。

プロンプトインジェクション：「人間によるレビュー済み」と偽の注記を加えることで、分類器の検知をすり抜けられる不備
万能型ジェイルブレイク：有害なやり取りを検知手法が効かない形式にエンコードする手口。個別対応ではなく、防御構造そのものを再設計する契機になった
暗号・文字置換による回避：暗号化や文字の置き換えで有害な要求を偽装する攻撃
入力・出力の難読化：有害な文字列を一見無害な断片に分割して埋め込む手法
自動化された攻撃の改良：攻撃戦略を段階的に最適化する自動システムによる万能ジェイルブレイクの生成

これらの発見を受けて、Anthropicは検知システムの改善や防御アーキテクチャの見直しを行ったとしています。

なぜ重要なのか

AI企業が政府機関に対し、未公開段階のモデルやセーフガードの詳細な内部情報（分類器のスコアやアーキテクチャ、禁止事項の基準など）まで開示し、継続的な検証を受ける事例は珍しく、AIの安全性検証における官民連携の具体的な進め方を示す事例といえます。Anthropicは、こうした深いアクセスを提供したことが、より高度な脆弱性発見につながったと述べています。

誰に関係があるのか

Claudeなどの生成AIを業務で利用している、または導入を検討している企業の担当者
AIのセキュリティ対策や脆弱性管理に関心のある情報システム部門
AIガバナンス・AI規制の動向を追う政策担当者や研究者

仕事や業務でどう使えるのか

直接的に業務手順が変わるものではありませんが、Claudeなどのモデルを業務利用する企業にとっては、提供元がどのように安全対策を検証・強化しているかを把握する材料になります。また、自社で生成AIを社内システムに組み込む際のセキュリティレビュー体制を考える上で、「事前配備段階でのテスト」「複数の保護レベルでの検証」「継続的なフィードバックループ」といった手法は参考になる考え方です。