Re Reference AI

性能指標の用語一覧

性能指標に関連する用語（1件）

性能指標関連のインフラ（1件）

スループット

Throughput

単位時間あたりにシステムが処理できる量で、LLM推論では1秒あたりの生成トークン数やリクエスト数で表す性能指標

インフラ推論性能指標

関連するタグ