Re Reference AI

技術

タスク難易度(Task Difficulty)とは

Task Difficulty

モデルにとっての学習・推論の困難さを表す指標で、カリキュラム学習の設計に用いられる概念

カリキュラム学習学習

概要

タスク難易度は、あるサンプルやタスクをモデルが学習・解答する際の困難さを表す概念で、損失の大きさ・不確実性・人間が定義した難易度ラベルなど様々な形で定量化される。 カリキュラム学習では、易しいタスクから難しいタスクへ段階的に学習順序を設計することで、モデルの収束を速め、最終的な汎化性能を高めることを狙う。 強化学習におけるカリキュラム設計や、LLMの指示チューニングでのデータ選別においても、タスク難易度の推定は学習効率を左右する要素として扱われる。

関連用語

カリキュラム学習汎化性能