概要
NVIDIAは公式開発者ブログで、視覚言語モデル「NVIDIA Cosmos 3」を「NVIDIA TAO」のAgent Skills(エージェント向けスキル)とLoRA(Low-Rank Adaptation)を組み合わせてポストトレーニング(追加学習)する手法を公開しました。Woven Traffic Safetyデータセットにおいて、動画に関する質問応答の精度をゼロショット時の54.41%から93.35%まで引き上げ、これを1日未満・最小限の手作業で達成したとしています。
何が発表・更新されたのか
NVIDIAのCosmos 3は、テキスト・画像・動画・環境音・行動追跡を統合的に扱う「mixture-of-transformers(MoT)」構成の基盤モデルです。推論・計画を担うオートリグレッシブ(自己回帰型)トランスフォーマーと、将来の状態や行動を予測する拡散トランスフォーマーを組み合わせています。
今回の発表では、このCosmos 3(Nanoサイズ)に対して、TAOのAgent Skillsを使い、コーディングエージェントがデータ整形・学習コンテナの実行・ベースライン評価・LoRA設定・TAO AutoMLによるハイパーパラメータ探索までを自動で実行する仕組みが示されました。公式ブログによると、LoRAのみの1回の実行で精度は87.14%まで向上し、さらにTAO AutoMLによる自動探索を加えることで93.35%まで到達したとしています。また、LoRAによるポストトレーニングは、フルパラメータのSFT(教師ありファインチューニング)と比較して、GPU使用時間が約7分の1で済んだとも記載されています。
学習後のモデルは「Cosmos 3 Reasoner NIM」という仕組みを通じて、OpenAI互換のエンドポイントとしてそのままサービング(提供)できるとされ、独自のCUDA環境構築などの手間を減らせる点も紹介されています。
なぜ重要なのか
基盤モデルは汎用的なパターンを学習していますが、実際の現場(特有のカメラ角度、環境、エッジケースなど)に適用するには追加学習が必要になることが一般的です。この作業には従来、データ整形やインフラ構築、評価スクリプトの作成などで数日かかることが多いとされています。今回の手法は、この工程をエージェントによる自動化とLoRAの組み合わせによって「1日」「自然言語の指示数回」に圧縮できることを示した点が特徴です。
誰に関係があるのか
- 動画・画像を用いた視覚言語モデルを自社データで調整したい開発者・MLエンジニア
- 交通・監視・ロボティクスなど「物理AI(Physical AI)」領域でモデルを運用する企業の技術担当者
- 生成AIの追加学習(ファインチューニング)コストや工数を削減したいAI基盤チーム
仕事や業務でどう使えるのか
たとえば、自社の監視カメラ映像や現場動画をもとに「何が起きているか」を判定するAIを作りたい場合、汎用モデルのままでは精度が不十分なケースがあります。今回紹介された手法を使うと、データセットの用意とコーディングエージェントへの指示を通じて、モデルの適応(ドメイン特化)を短期間で試せる可能性があります。特にLoRAは計算資源を抑えられるため、GPUリソースが限られる環境での検証にも向いていると説明されています。
注意点
- 本記事の数値(精度93.35%など)は、公式ブログが示すWoven Traffic Safetyデータセットでの実験結果であり、他のデータセットやユースケースで同様の結果が得られるとは限りません。
- 実行にはHugging FaceトークンやNGC APIキー、AutoML用のLLM APIキーなど複数の外部サービス連携が必要とされています。
- 公式情報上では、日本での提供状況や対象プランの詳細、料金体系については確認できませんでした。
- 本手法はコーディングエージェント(Codexなど)やTAOのGitHubリポジトリを利用するもので、専門的な開発環境の準備が前提となっています。
公式情報
NVIDIA Developer Blog「Post-Train NVIDIA Cosmos 3 in One Day Using Agent Skills」
https://developer.nvidia.com/blog/post-train-nvidia-cosmos-3-in-one-day-using-agent-skills/
関連キーワード
- NVIDIA Cosmos
- NVIDIA TAO
- LoRA(低ランク適応)
- AutoML
- 視覚言語モデル(VLM)
- ファインチューニング





