Re Reference AI
デプロイに関連する用語(1件)
デプロイは、開発したAIモデルやアプリケーションを本番環境に配置して利用可能にする作業です。推論サーバーの構築、スケーリング、監視などの運用面が関わります。
Triton
NVIDIAが提供する、複数のフレームワークで学習したモデルを統一的にデプロイ・実行できるオープンソースの推論サーバー