推論

推論に関連する用語（12件）

推論（Inference）は、学習済みモデルを使って新しい入力に対する出力を生成する過程です。また、論理的な思考によって結論を導く能力（Reasoning）の意味でも使われます。

用語一覧

CoT / 思考の連鎖

最終的な答えに至る過程を段階的に言語化させることで、LLMの推論精度を高めるプロンプティング手法

Reasoning Model

出力前に長い内部推論過程を生成し、複雑な問題の精度を高めるよう最適化されたLLM

Inference

学習済みモデルへ入力を与え、出力を計算する処理

中国のDeepSeekが開発する、高いコスト効率と推論能力を特徴とするオープンウェイトの大規模言語モデルファミリー

コマンド1つでLLMをローカル環境にダウンロードし実行できる、オープンソースのツール

C/C++で実装された、CPUでも動作する軽量なLLM推論ライブラリ

Search Tree / Tree Search

各ノードが状態、各エッジが行動・選択を表す木構造を辿ることで、目標状態や最適解を探し出す探索手法

Transitivity

「甲が乙と関係し、乙が丙と関係するならば、甲も丙と関係する」という、関係の連鎖を保証する論理的性質

Grade School Math 8K

小学校レベルの算数文章題8,500問で、LLMの多段階推論能力を測定するベンチマーク

自己整合性

同じ問題に対する複数の推論過程をサンプリングし、多数決で最終的な答えを決めるプロンプティング手法

ToT / 思考の木

推論の途中経過を木構造の分岐として展開し、評価しながら有望な経路を探索するプロンプティング手法

Test-time Scaling / Test-time Compute / 推論時スケーリング

学習済みモデルの推論時に計算量を追加投入し、思考の長文化や複数候補の生成・選別によって回答品質を高めるアプローチ