Re Reference AI

最適化

最適化に関連する用語(4件)

最適化は、目的関数を最小化・最大化するようにパラメータを調整する手法です。勾配降下法などの学習アルゴリズムから、推論効率やコストの改善まで幅広い文脈で使われます。

用語一覧

勾配降下法

Gradient Descent

損失関数の勾配の逆方向へパラメータを少しずつ更新し、損失を最小化する最適化アルゴリズム

技術学習最適化

損失関数

Loss Function / 誤差関数 / 目的関数

モデルの予測と正解とのずれを数値化し、学習の最適化目標とする関数

技術学習最適化

学習率

Learning Rate

勾配降下法においてパラメータを1回の更新でどれだけ動かすかを決めるハイパーパラメータ

技術学習最適化

Adam

Adam Optimizer / Adaptive Moment Estimation

勾配の1次・2次モーメントを推定し、パラメータごとに学習率を自動調整する適応的最適化アルゴリズム

技術学習最適化