最適化
最適化に関連する用語(4件)
最適化は、目的関数を最小化・最大化するようにパラメータを調整する手法です。勾配降下法などの学習アルゴリズムから、推論効率やコストの改善まで幅広い文脈で使われます。
用語一覧
勾配降下法
Gradient Descent
損失関数の勾配の逆方向へパラメータを少しずつ更新し、損失を最小化する最適化アルゴリズム
技術学習最適化
損失関数
Loss Function / 誤差関数 / 目的関数
モデルの予測と正解とのずれを数値化し、学習の最適化目標とする関数
技術学習最適化
学習率
Learning Rate
勾配降下法においてパラメータを1回の更新でどれだけ動かすかを決めるハイパーパラメータ
技術学習最適化
Adam
Adam Optimizer / Adaptive Moment Estimation
勾配の1次・2次モーメントを推定し、パラメータごとに学習率を自動調整する適応的最適化アルゴリズム
技術学習最適化