Re Reference AI
数値精度に関連する用語（3件）
数値精度は、計算に使う数値の表現ビット数（FP32、FP16、INT8など）です。精度を下げると計算が高速化しメモリも節約できるため、量子化とあわせて推論最適化の要となっています。
半精度浮動小数点 / half precision
16ビットで数値を表現する浮動小数点フォーマット。学習・推論の高速化とメモリ削減に使われる
数値を8ビットの整数で表現する、量子化でよく用いられる数値形式
数値を4ビットの整数で表現する、LLMの大幅な軽量化に用いられる量子化精度