MENU

NVIDIA AI-Q BlueprintをOCIに構築|本番運用向けデプロイ手順を解説

NVIDIA AI-Q BlueprintをOCIに構築|本番運用向けデプロイ手順を解説のアイキャッチ画像

本ページはプロモーションが含まれます。広告の取り扱いについてはプライバシーポリシーをご確認ください。

AIニュース重要度
★★★★☆
4.0 / 5|重要なアップデート
目次

概要

NVIDIA Developer Blogが、AIエージェント構築用のオープンソース参照実装「NVIDIA AI-Q Blueprint(バージョン2.0)」を、Oracle Cloud Infrastructure(OCI、オラクルのクラウド基盤)上に本番運用を想定して構築する手順を公開しました。TerraformとHelmを使い、自分のOCI環境にAI-Qのエンドポイントを構築できます。

何が発表・更新されたのか

OCI上でAI-Q 2.0をデプロイする実践ガイドが公開されました。Terraform(インフラ自動構築ツール)でVCNやOKE(Kubernetesクラスタ)、ロードバランサー、Vaultなどを作成し、Helm(Kubernetesアプリ導入ツール)でAI-Qのバックエンド・フロントエンド・PostgreSQLを導入します。所要時間は約20〜25分とされ、不要になれば1コマンド(terraform destroy)でまとめて削除できます。

AI-Qは、LangChain Deep AgentsとNVIDIA NeMo Agent Toolkit上に構築された、長い手順を計画して実行する「ロングホライズン型エージェント」の参照実装です。

なぜ重要なのか

近年のAIエージェントは、1問1答から複数ターンの対話、そして複数の手順を計画し、サブエージェントに作業を分担させる長期タスク対応へと進化しています。AI-Qはこうした構成をオープンソースで提供し、引用付きの回答や出典付きの調査レポート作成にも使えます。クラウド上で本番環境に近い形で試せる具体的手順が示された点が実務的に重要です。

誰に関係があるのか

公式情報上、対象は「Kubernetes、Terraform、シェル操作に慣れた開発者・プラットフォームエンジニア」とされています。AI-QをノートPCではなくOCI上で動かしたい人向けです。LangChainやNeMo Agent Toolkitの経験はあれば望ましいですが、必須ではないと記載されています。

仕事や業務でどう使えるのか

AI-Qは、素早い引用付き回答を返す「Shallow Research Agent」と、計画担当・調査担当のサブエージェントが連携する「Deep Agent」を、入力に応じて振り分ける構成です。社内文書を使った調査・レポート作成などの用途が想定され、モデルやツール、RAG(検索拡張生成)バックエンドなどはYAML設定やプラグインで差し替え可能とされています。

注意点

事前準備として、OCIテナンシーへのアクセス権、build.nvidia.comのNGC APIキー(nvapi-で始まる)、tavily.comのTavily APIキー(tvly-で始まる)が必要です。またterraform 1.5以降、kubectl 1.28以降、helm 3.x、oci CLIなどのローカルツールが求められます。クラウドリソースを作成するため利用料金が発生する点に注意し、検証後は削除コマンドで停止してください。なお、日本での提供状況や利用料金の詳細は、本記事の一次情報からは確認できませんでした。

公式情報

関連キーワード

  • NVIDIA AI-Q Blueprint
  • NeMo Agent Toolkit
  • LangChain Deep Agents
  • Oracle Cloud Infrastructure(OCI)
  • AIエージェント
  • Terraform / Helm / Kubernetes

次に読みたいAI・IT用語

この記事を読んだあとに、あわせて知っておきたい用語をピックアップしました。

用語を読み込み中…

AI・IT用語をもっと見る →

この記事が気に入ったら
フォローしてね!

この情報が役立ったら、シェアしてね!
目次