Re Reference AI

技術

サロゲートモデル(代理モデル)とは

Surrogate Model / 代理モデル / メタモデル

計算コストの高いシミュレーションや目的関数を、入出力データから学習した軽量なモデルで近似して代用する手法

機械学習チューニング

最終更新:

概要

サロゲートモデルは、評価に時間やコストがかかる関数(数値シミュレーション、実験、モデルの学習結果など)を、少数の入出力データから構築した近似モデルで置き換える手法。元の関数を直接何度も評価する代わりに、近似モデルの予測値を使って探索や解析を進める。 近似にはガウス過程回帰(クリギング)、多項式による応答曲面、ランダムフォレスト、ニューラルネットワークなどが使われる。代表的な用途はベイズ最適化で、ハイパーパラメータと検証性能の関係をガウス過程などのサロゲートモデルで近似し、次に試す点を選ぶ。ほかにも、流体解析や構造解析など1回の計算に数時間かかるシミュレーションの代替、デジタルツインやソフトセンサーでの高速な予測、複雑なモデルの挙動を単純なモデルで近似して説明する説明可能AIの手法(LIMEなど)にも使われる。 近似の精度はサンプル数と配置に左右されるため、実験計画法で入力点を選び、予測の不確実性が大きい領域に追加サンプルを足しながらモデルを更新する運用が一般的。

歴史

サロゲートモデルの源流は、Box と Wilson が1951年に発表した応答曲面法(Response Surface Methodology)で、実験結果を多項式で近似して最適条件を探る考え方として広まった。1998年には Jones らが、クリギング(ガウス過程)によるサロゲートモデルと期待改善量を組み合わせた EGO(Efficient Global Optimization)を発表した。以降、評価コストの高いブラックボックス関数を最適化する手法として普及した。

利点

  • 高コストなシミュレーションや実験の評価回数を減らせる
  • 近似モデルは高速に評価できるため、最適化や感度分析で大量の候補を試せる
  • ガウス過程などを使えば予測値と併せて不確実性も得られ、追加サンプルの選択に使える

欠点

  • 学習データの範囲外では近似精度が大きく落ちやすい
  • 入力の次元が多いと、十分な精度を得るために必要なサンプル数が急増する
  • 近似誤差により、元の関数とは異なる最適解を示す場合がある

関連する用語

AIソフトセンサーベイズ最適化機械学習ハイパーパラメータ最適化ランダムフォレスト説明可能AIデジタルツインニューラルネットワーク深層学習転移学習決定木勾配ブースティング

参考文献