概要
Vercelは、AI Gatewayが処理するすべてのリクエストに対してOpenTelemetry形式のトレース(処理経過の記録)を生成する機能を発表しました。Pro・Enterpriseプランのチームは、この機能で得られるトレースを「Vercel Drains」という仕組みを使い、外部の監視・分析ツールへ送信できるようになります。
何が発表・更新されたのか
AI Gatewayは、リクエストごとにOpenTelemetryトレースを自動生成するようになりました。Pro・Enterpriseプランのチームは、Vercel DrainsからOTLP/HTTP対応の任意のエンドポイントへこのトレースを送信できます。Braintrust、Dash0、Kubiks、Sentry、Statsigとはネイティブ連携(追加設定が少なく済む連携)が用意されています。
設定は「AI Gateway Trace Drain」を作成し、対象プロジェクトとサンプリング率(全リクエストのうちどれだけを送るか)を選ぶだけです。1件のトレースには以下の情報が含まれます。
- 使用モデルとプロバイダーへのルーティング内容
- フォールバック(代替モデルへの切り替え)やリトライの発生状況
- トークン使用量とコスト
- 最初のトークンが返るまでの時間、リクエスト全体の処理時間、レスポンスステータス
- プロジェクト、デプロイ、APIキー、環境、カスタムタグの情報
なお、プロンプト本文や生成結果の内容はトレースに含まれません。
料金は、各Drainへ配信されたトレース1,000件につき0.05ドルに加え、通常のDrains利用料である転送データ1GBあたり0.50ドルがかかります。複数のプロバイダーへ試行した場合でも、配信が成功した時点で1件としてカウントされ、配信に失敗した場合は課金されません。配信済みのトレース件数は、プロジェクトやDrain、送信元ごとに確認できます。
なぜ重要なのか
AIを使ったアプリケーションでは「なぜこのモデルが選ばれたのか」「なぜ遅延が発生したのか」「コストがどこで発生しているのか」が見えにくいという課題があります。今回の機能により、リクエストの流れを外部の監視ツールでも一元的に可視化できるようになり、運用中の問題発見や改善がしやすくなります。
誰に関係があるのか
- AI Gatewayを使ってプロダクトを運用しているPro・Enterpriseプランの開発チーム
- コストやレイテンシ(応答速度)を継続的に監視したい運用担当者
- Braintrust、Dash0、Kubiks、Sentry、Statsigなど既存の監視ツールを利用している企業
仕事や業務でどう使えるのか
すでに社内でSentryなどの監視ツールを使っている場合、AI Gatewayのトレースを同じダッシュボードに集約できるため、AI機能特有の遅延やコスト増加の原因調査がしやすくなります。また、サンプリング率を調整すれば、コストを抑えながら必要な範囲だけモニタリングすることも可能です。ただし本記事内容は機能の設定・監視に関するものであり、具体的な業務フローの構築は自社の運用状況に応じて検討する必要があります。
注意点
- この機能はPro・Enterpriseプランのチームが対象です。公式情報上では、それ以外のプラン(Hobbyなど)での提供状況は確認できませんでした。
- トレースにはプロンプトや生成結果の内容は含まれないため、内容そのものの監視には別途対応が必要です。
- トレース配信には料金が発生します(配信1,000件あたり0.05ドル+データ転送1GBあたり0.50ドル)。運用規模によってはコスト試算をしておくと安心です。
- 日本国内での提供状況や料金の円換算などの詳細は、公式情報からは確認できませんでした。
公式情報
Export AI Gateway traces with Vercel Drains(Vercel Changelog)
関連キーワード
- Vercel AI Gateway
- OpenTelemetry
- Vercel Drains
- Sentry
- オブザーバビリティ(可観測性)





