概要
Anthropicは、米エネルギー省(DOE)傘下の国家核安全保障局(NNSA)と連携し、AIモデルが核兵器に関する危険な技術情報を提供してしまうリスクを監視するための分類器(AI分類システム)を共同開発したと発表しました。この分類器は、予備テストで懸念のある核関連の会話と無害な会話を96%の精度で区別できるとしています。
何が発表・更新されたのか
Anthropicは2025年4月からNNSAと提携し、自社モデルの核拡散リスクを評価してきました。今回はその評価にとどまらず、実際にリスクを監視するツールとして、NNSAおよびDOE傘下の国立研究所と共同で分類器を開発したことが発表されました。この分類器はすでにClaudeの通信に組み込まれ、モデルの誤用を検知する仕組みの一部として運用されています。初期の運用データでは、実際のClaudeの会話に対しても有効に機能していることが示唆されているとのことです。Anthropicは今後、この取り組みをフロンティアAI企業の業界団体であるFrontier Model Forumと共有し、他のAI開発企業がNNSAと連携して同様の安全対策を導入できるようにしたいとしています。
なぜ重要なのか
核技術は「デュアルユース(軍民両用)」であり、原子炉を動かす物理原理が兵器開発に悪用され得るという特殊なリスクを抱えています。核兵器関連の情報は機微性が高く、民間企業単独でリスクを評価するのは難しいという課題があります。今回の取り組みは、政府機関の専門知識と民間企業の技術力を組み合わせた「官民パートナーシップ」による初の事例として位置づけられており、AIモデルの安全性を高める一つのモデルケースになり得ると説明されています。
誰に関係があるのか
AI開発企業のセキュリティ・安全性担当者、AIガバナンスに関心のある政策担当者、企業でAIの安全な利用体制を検討している情報システム部門などに関係する内容です。一般利用者にとっては、Claudeなどのモデルがより安全に運用されるための取り組みの一つとして参考になります。
仕事や業務でどう使えるのか
中小企業の実務担当者が直接この分類器を利用する場面は想定されていませんが、AIサービスを業務導入する際のセキュリティ評価基準や、ベンダー選定時に「安全対策への取り組み姿勢」を確認する材料として参考にできます。また、社内でAI利用ポリシーを策定する際、こうした業界の安全対策の動向を把握しておくことは有用です。
注意点
公式情報では、この分類器の技術詳細や導入対象国・提供プランなどについては言及がなく、日本での提供状況や対象プランの詳細は確認できませんでした。また、分類器の精度「96%」は「予備テスト」における数値であり、実運用での最終的な性能を保証するものではない点に留意してください。
公式情報

関連キーワード
- Anthropic
- Claude
- Frontier Red Team
- AIセーフティ
- 官民パートナーシップ
- AIガバナンス





