Vercel AI Gateway、リクエストのトレースをDrains経由で外部ツールに出力可能に|料金と対象プランを解説

Vercel AI Gateway、リクエストのトレースをDrains経由で外部ツールに出力可能に|料金と対象プランを解説のアイキャッチ画像

本ページはプロモーションが含まれます。広告の取り扱いについてはプライバシーポリシーをご確認ください。

AIニュース重要度
★★★☆☆
3.0 / 5|知っておくと役立つ通常ニュース
知っておくと役立つ通常のアップデートのため★3としました。
目次

PR

生成AIの学び方で悩んでいませんか?

DMM 生成AI CAMP
出典:DMM 生成AI CAMP

「何から学ぶか」「続けられるか」「仕事で使えるか」が大切と分かっていても、独学では難しいですよね。

DMM 生成AI CAMP 学び放題は、DMM.comが提供する月額制の生成AIオンラインスクールです。

総額200万円相当の約1,000レッスンが学び放題。職種別・ツール別のコースを、メンターやAIチューターのサポートを受けながら継続的に学べます。

その第一歩として、入会前に中身を体験できる60分の無料セミナーが用意されています。参加すると、こんなことが分かります。

  • 自分の職種で使えるか - マーケティング・営業・人事など職種別8コースの中身を体感できる!
  • ツールごとの学び方 - ChatGPTやDifyなど、ツール別のマスターコースも確認できる!
  • 学習の進め方 - 約1,000レッスンをどう学べば短期間で身につくか、プロが提案してくれる!
  • 続けられる仕組み - 24時間対応のAIチューターやメンター相談、コミュニティの中身が分かる!
  • 生成AIの最新デモ - 生成AIの最新技術デモをその場で体験できる!

「無料セミナーで体験してから、学び放題に入会して継続的に学ぶ」という流れで始められるので、合うか分からないまま入会する心配がありません。

予約・参加は無料。入会するかはセミナーの後に決められます。

\ 予約は30秒・日時を選ぶだけ /

※無料なのはセミナーで、学び放題本体は月額制の有料サービスです。料金は公式サイトをご確認ください。
※セミナー・コース内容は変更される場合があります。

概要

Vercelは、AI Gatewayが処理するすべてのリクエストに対してOpenTelemetry形式のトレース(処理経過の記録)を生成する機能を発表しました。Pro・Enterpriseプランのチームは、この機能で得られるトレースを「Vercel Drains」という仕組みを使い、外部の監視・分析ツールへ送信できるようになります。

何が発表・更新されたのか

AI Gatewayは、リクエストごとにOpenTelemetryトレースを自動生成するようになりました。Pro・Enterpriseプランのチームは、Vercel DrainsからOTLP/HTTP対応の任意のエンドポイントへこのトレースを送信できます。Braintrust、Dash0、Kubiks、Sentry、Statsigとはネイティブ連携(追加設定が少なく済む連携)が用意されています。

設定は「AI Gateway Trace Drain」を作成し、対象プロジェクトとサンプリング率(全リクエストのうちどれだけを送るか)を選ぶだけです。1件のトレースには以下の情報が含まれます。

  • 使用モデルとプロバイダーへのルーティング内容
  • フォールバック(代替モデルへの切り替え)やリトライの発生状況
  • トークン使用量とコスト
  • 最初のトークンが返るまでの時間、リクエスト全体の処理時間、レスポンスステータス
  • プロジェクト、デプロイ、APIキー、環境、カスタムタグの情報

なお、プロンプト本文や生成結果の内容はトレースに含まれません。

料金は、各Drainへ配信されたトレース1,000件につき0.05ドルに加え、通常のDrains利用料である転送データ1GBあたり0.50ドルがかかります。複数のプロバイダーへ試行した場合でも、配信が成功した時点で1件としてカウントされ、配信に失敗した場合は課金されません。配信済みのトレース件数は、プロジェクトやDrain、送信元ごとに確認できます。

なぜ重要なのか

AIを使ったアプリケーションでは「なぜこのモデルが選ばれたのか」「なぜ遅延が発生したのか」「コストがどこで発生しているのか」が見えにくいという課題があります。今回の機能により、リクエストの流れを外部の監視ツールでも一元的に可視化できるようになり、運用中の問題発見や改善がしやすくなります。

誰に関係があるのか

  • AI Gatewayを使ってプロダクトを運用しているPro・Enterpriseプランの開発チーム
  • コストやレイテンシ(応答速度)を継続的に監視したい運用担当者
  • Braintrust、Dash0、Kubiks、Sentry、Statsigなど既存の監視ツールを利用している企業

仕事や業務でどう使えるのか

すでに社内でSentryなどの監視ツールを使っている場合、AI Gatewayのトレースを同じダッシュボードに集約できるため、AI機能特有の遅延やコスト増加の原因調査がしやすくなります。また、サンプリング率を調整すれば、コストを抑えながら必要な範囲だけモニタリングすることも可能です。ただし本記事内容は機能の設定・監視に関するものであり、具体的な業務フローの構築は自社の運用状況に応じて検討する必要があります。

注意点

  • この機能はPro・Enterpriseプランのチームが対象です。公式情報上では、それ以外のプラン(Hobbyなど)での提供状況は確認できませんでした。
  • トレースにはプロンプトや生成結果の内容は含まれないため、内容そのものの監視には別途対応が必要です。
  • トレース配信には料金が発生します(配信1,000件あたり0.05ドル+データ転送1GBあたり0.50ドル)。運用規模によってはコスト試算をしておくと安心です。
  • 日本国内での提供状況や料金の円換算などの詳細は、公式情報からは確認できませんでした。

公式情報

Export AI Gateway traces with Vercel Drains(Vercel Changelog)

関連キーワード

  • Vercel AI Gateway
  • OpenTelemetry
  • Vercel Drains
  • Sentry
  • オブザーバビリティ(可観測性)

PR

生成AIスクール選びの不安、入会前に解消できます!

DMM 生成AI CAMP
出典:DMM 生成AI CAMP

これからの働き方を左右する生成AIの学び方選び、慎重になりますよね。

数あるスクールや教材の中から、自分に合うものを見つけるのは本当に大変です。

「なんとなく話題だから」「YouTubeで見たから」

…そんな理由だけで学び方を決めていませんか?

実は、独学や教材選びで遠回りしてしまう人は少なくありません。

  • 「ツールは触ってみたけど、仕事の成果につながらない…」
  • 「情報が多すぎて、何からどの順で学べばいいのか分からない…」
  • 「質問できる相手がいなくて、結局続かなかった…」

DMM 生成AI CAMP 学び放題は、DMM.comが提供する月額制の生成AIオンラインスクール。総額200万円相当の約1,000レッスンが学び放題で、カリキュラムは生成AIの専門家が監修し、法人での導入事例もあります。

週1回×3ヶ月のライブゼミ(全8種・追加料金なし)、24時間対応のAIチューター、受講生コミュニティなど継続して学ぶための環境がそろっており、DMMの実案件の報酬ありコンペに挑戦することもできます。

スクール選びで大切なのは、「自分の職種で使える内容か」「続けられるサポートがあるか」を入会前に確かめることだと考えています。

しかし、

  • 「公式サイトだけでは、レッスンの中身までは分からない…」
  • 「サポートやコミュニティの雰囲気は、どう確かめればいい?」
  • 「入会してから、自分に合わなかったら…?」

そこで!DMM 生成AI CAMP 学び放題では、入会の前に60分の無料セミナーで中身を体験できるようになっています!

STEP 160分の無料セミナーで体験予約・参加は無料
STEP 2学び放題に入会して継続学習職種別・ツール別コース

セミナーに参加すると、入会前に知りたい情報がまとめて分かります!

  • コースの全容 - 職種別8コース+ツール別コースと約1,000レッスンの中身を体感できる!
  • 学習プロセス - 短期間で身につけるための学び方を提案してもらえる!
  • 生成AIの最新デモ - 生成AIの最新技術デモをその場で体験できる!
  • サポート体制 - 24時間対応のAIチューターやプロへの相談の仕組みが分かる!
  • コミュニティ - 受講生コミュニティや限定ウェビナーの紹介もあり!

普通なら有料の生成AI学習に関するプロのアドバイスが、60分・完全無料で受けられる機会です。

予約・参加は無料で、入会するかはセミナーの後に決められます。

合わないと感じたら、入会しなければいいだけ。失うものは60分だけです。

「なんとなく」ではなく、納得したうえで学習をスタートしましょう。

\ 予約は30秒・日時を選ぶだけ /

すでに入会を決めている方や、先にコースの詳細を確認したい方はこちらからどうぞ。

※無料なのはセミナーで、学び放題本体は月額制の有料サービスです。料金は公式サイトをご確認ください。
※セミナー・コース内容は変更される場合があります。

次に読みたいAI・IT用語

この記事を読んだあとに、あわせて知っておきたい用語をピックアップしました。

用語を読み込み中…

AI・IT用語をもっと見る →

この記事が気に入ったら
フォローしてね!

この情報が役立ったら、シェアしてね!
目次