Re Reference AI

デプロイ

デプロイに関連する用語(1件)

デプロイは、開発したAIモデルやアプリケーションを本番環境に配置して利用可能にする作業です。推論サーバーの構築、スケーリング、監視などの運用面が関わります。

用語一覧

Triton Inference Server

Triton

NVIDIAが提供する、複数のフレームワークで学習したモデルを統一的にデプロイ・実行できるオープンソースの推論サーバー

インフラ推論サーバーデプロイ