目次
概要
「MosaicLeaks（モザイクリークス）」は、社内文書とWeb検索を組み合わせて調べる「ディープリサーチ型AIエージェント」が、外部検索を通じて社内の機密情報を漏らしてしまうリスクを検証した研究です。ServiceNowの研究者がHugging Faceブログで公開しました。
何が発表・更新されたのか
AIエージェントのWeb検索ログから機密情報が復元されてしまう「モザイク効果」を測る評価手法と、それを抑える学習手法「PA-DR（Privacy-Aware Deep Research）」が提案されました。各検索は単体では無害でも、組み合わせると社内の事実が推測できてしまう点が問題とされています。
なぜ重要なのか
研究では、テストした複数のモデルが頻繁に機密情報を漏らし、タスク性能だけを追求した学習はむしろ漏えいを悪化させたと報告されています。PA-DRは厳密な連鎖成功率を48.7%→58.7%に上げつつ、漏えいを34.0%→9.9%に下げたとされています。
誰に関係があるのか
社内文書と外部検索を併用するAIエージェントを業務に導入・開発する企業や担当者に関係します。特に医療・金融など機密性の高い情報を扱う組織に関わる内容です。
仕事や業務でどう使えるのか
AIエージェントの「検索結果が正しいか」だけでなく「外部に何を送信しているか」を評価・監視する視点を持つきっかけになります。導入前のリスク評価の参考情報として活用できます。
注意点
本件は研究レベルの提案であり、製品やサービスとしての提供ではありません。公式情報上では、日本での提供状況や対象プランの詳細は確認できませんでした。「検索しないよう指示するだけ」では漏えいを十分に防げず、性能低下も起きたと報告されています。
公式情報
関連キーワード
- ディープリサーチエージェント
- AIエージェント
- 生成AI
- データ漏えい（プライバシー）
- 強化学習（RL）
