目次
概要
AWSは、Amazon Bedrock Guardrailsの新API「InvokeGuardrailChecks」を発表しました。ガードレール（安全対策の仕組み）のリソースを事前作成せずに、個別の安全チェックをエージェント型AIの任意の処理段階に適用できます。
何が発表・更新されたのか
InvokeGuardrailChecks APIが登場し、コンテンツフィルター・プロンプト攻撃検知・機密情報フィルターなどの安全チェックを必要な箇所だけ呼び出せるようになりました。APIは「検知のみ（detect-only）」で動作し、各チェックに0〜1の数値スコアを返します。
なぜ重要なのか
AIエージェントはループ処理で何度もやり取りを繰り返し、段階ごとにリスクが異なります。本APIは段階ごとに必要なチェックだけを適用でき、ガードレールリソースを都度作成・削除する運用負荷を減らせます。
誰に関係があるのか
Amazon Bedrockでエージェント型AIや多ターンのAIアプリを開発・運用する企業の開発者や担当者に関係します。
仕事や業務でどう使えるのか
カスタマーサポートのエージェントなどで、入力時のプロンプトインジェクション対策や、PII（個人情報）の検知を段階ごとに行えます。返ってきたスコアに応じて、ブロック・再試行・人手レビュー・ログ記録といった処理を自社ロジックで設計できます。
注意点
本APIは検知のみで、内容のブロックやマスキング、書き換えは行いません。実際の対応（しきい値とアクション）はアプリ側で実装する必要があります。利用にはAWSアカウントとbedrock:InvokeGuardrailChecks権限のIAMロールが必要です。なお、日本での提供状況や対象プランの詳細は、公式情報上では確認できませんでした。
公式情報
関連キーワード
- Amazon Bedrock Guardrails
- AIエージェント
- プロンプトインジェクション対策
- PII（個人情報）検知
- 生成AI
