テスト時スケーリングとは
Test-time Scaling / Test-time Compute / 推論時スケーリング
学習済みモデルの推論時に計算量を追加投入し、思考の長文化や複数候補の生成・選別によって回答品質を高めるアプローチ
ひとことで言うと
AIが答えを出す瞬間に「考える時間」を長く与えるほど良い答えになる、という考え方。学習をやり直さずに性能を引き上げられる。
概要
テスト時スケーリングとは、学習済みモデルの重みを変えずに、推論（テスト）時に使う計算量を増やして回答品質を高めるアプローチを指す。 具体的な手段には、Chain-of-Thoughtを長く生成させて段階的に考えさせる方法、複数の解答候補を生成して多数決や検証器で選別する方法（Best-of-NやSelf-Consistency）、探索アルゴリズムを組み合わせる方法などがある。 従来のスケーリング則が事前学習の計算量・データ量・パラメータ数の拡大を対象としてきたのに対し、テスト時スケーリングは推論時の計算量という別の軸で性能を伸ばす。 OpenAI o1やDeepSeek-R1などの推論モデルは、推論時に長い思考過程を生成するほど難問の正答率が上がる性質を示し、この軸の有効性を広く知らしめた。
背景
事前学習のスケーリングは、学習データの枯渇や計算コストの増大により限界が意識されるようになった。 一方で、難しい問題ほど人間は時間をかけて考える。モデルも推論時の計算量を増やすほど正答率が上がると確認され、再学習なしで性能を伸ばせる軸として注目された。
歴史
推論時の計算量配分を体系的に扱った研究として、2024年8月に発表された論文「Scaling LLM Test-Time Compute Optimally can be More Effective than Scaling Model Parameters」（Snellら）が知られる。同年9月のOpenAI o1の公開以降、推論モデルの性能向上を説明する概念として広く使われるようになった。
利点
- モデルを再学習せずに、推論時の設定だけで難しいタスクの正答率を引き上げられる
- 問題の難易度に応じて計算量を可変にでき、簡単な問題には少ない計算で応答できる
- 事前学習のスケーリングが計算資源やデータの制約に直面する中でも、別の軸から性能向上の余地を確保できる
欠点
- 思考過程の生成や複数候補のサンプリングによって、推論のレイテンシとコストが増える
- 計算量を増やしても性能が頭打ちになるタスクがあり、常に有効とは限らない
- 長い思考過程を生成する分、出力トークン数に応じた課金体系ではコストの見積もりが難しくなる
比較
関連用語
よくある質問
事前学習のスケーリングとどちらが重要か？
両者は排他的でなく補完関係にある。事前学習のスケーリングがモデルの基礎能力を決め、テスト時スケーリングはその能力を難しい問題に対して引き出す手段として働く。また、同じ回答品質を狙う場合、小さいモデルへ多くの推論計算を割り当てる方が総計算量を抑えられると報告されている。
テスト時スケーリングにはどんな手法が含まれるのか？
Chain-of-Thoughtを長く生成させて段階的に考えさせる方法、複数の解答候補を生成して多数決や検証器で選ぶBest-of-NやSelf-Consistency、探索アルゴリズムを組み合わせる方法など複数のアプローチが含まれる。推論モデルは、これらのうち長い思考過程の生成を学習によって内在化させたものと位置づけられる。