Reasoning（論理的推論）とは

論理的推論 / 推論能力

モデルが単純な入力→出力変換でなく、複数ステップの論理的思考を経て結論に至る能力・プロセス

ひとことで言うと

AIが答えを一発で出すのでなく、筋道を立てて考えて結論にたどり着く力のこと。

概要

Reasoning(推論)とは、LLMが単純なパターンマッチング的な入力→出力変換ではなく、複数の中間ステップを経て論理的に結論を導く能力・プロセスを指す。 計算処理としての「推論(Inference)」――学習済みモデルへ入力を与え出力を計算する処理全般――とは区別される概念で、こちらはモデルがどれだけ筋道立てて考えられるかという能力面を指す言葉として使われる。 数学の証明、コーディング、論理パズル、複数ステップの計画立案など、単一の直感的な応答では解けないタスクの遂行能力の指標として語られることが多い。 Chain-of-ThoughtやTree of Thoughtのようなプロンプティング手法や、強化学習で推論過程を内部化した推論モデルは、いずれもこのReasoning能力を引き出す・向上させるためのアプローチとして位置付けられる。

背景

初期のLLMは次のトークンを直接予測するため、複雑な問題に対して途中の思考過程を省略し誤った結論に飛びつきやすいという課題があった。 この課題への対処として、プロンプト上で推論過程を明示的に出力させる手法や、推論過程自体を学習対象とする手法が発展し、Reasoningはこれらの手法・モデルの性能を測る中心的な観点として扱われるようになった。

利点

• 複数ステップの複雑な問題に対する正答率を高められる
• 推論過程が可視化されることで、モデルの判断根拠を人間が検証しやすくなる

欠点

• 推論に要するトークン数・計算時間が増え、コストとレイテンシが増加する
• 生成される推論過程が実際の内部計算を正確に反映しているとは限らず、もっともらしいが誤った理由付けをする場合がある

比較

• 推論 — 「推論(Inference)」が学習済みモデルへ入力を与え出力を計算する処理全般を指すのに対し、Reasoningはその中でも複数ステップの論理的思考を経て結論に至る能力・プロセスを指す
• Chain-of-Thought — Chain-of-Thoughtは、Reasoning能力を引き出すための代表的なプロンプティング手法
• 推論モデル — 推論モデルは、Reasoning能力を強化学習等で内部化するよう最適化されたLLM

関連用語

よくある質問