タスク難易度(Task Difficulty)とは
Task Difficulty
モデルにとっての学習・推論の困難さを表す指標で、カリキュラム学習の設計に用いられる概念
概要
タスク難易度は、あるサンプルやタスクをモデルが学習・解答する際の困難さを表す概念で、損失の大きさ・不確実性・人間が定義した難易度ラベルなど様々な形で定量化される。 カリキュラム学習では、易しいタスクから難しいタスクへ段階的に学習順序を設計することで、モデルの収束を速め、最終的な汎化性能を高めることを狙う。 強化学習におけるカリキュラム設計や、LLMの指示チューニングでのデータ選別においても、タスク難易度の推定は学習効率を左右する要素として扱われる。