微分可能推論とは
Differentiable Reasoning
論理的な推論の過程を、勾配降下法で最適化可能な微分可能な演算として表現するアプローチ
ひとことで言うと
論理的に考える処理を、ニューラルネットワークのように勾配で学習できる形にする方法。
概要
微分可能推論(Differentiable Reasoning)とは、記号的な論理推論の過程を、勾配降下法で最適化可能な連続値の演算として表現するアプローチ。 従来のSymbolic AIによる推論は離散的な記号操作であり、ニューラルネットワークの学習に用いる誤差逆伝播法とは相性が悪かった。 微分可能推論は、論理演算(AND・OR等)やルールの適用を、確率値やソフトな重み付けを用いた連続的な演算に置き換える。 これにより推論の過程全体をニューラルネットワークの一部として組み込み、エンドツーエンドで学習できるようにする。 神経論理プログラミングなどが代表的な研究例。
背景
Symbolic AIの厳密な論理推論と、ニューラルネットワークの学習能力を組み合わせたいというニューロシンボリックAIの目標に対し、両者を橋渡しする技術的な手段として微分可能推論が発展した。
比較
- Neuro-symbolic AI — 微分可能推論は、ニューロシンボリックAIが目指す論理推論とニューラルネットワークの統合を実現する技術的アプローチの1つ
- 神経論理プログラミング — 神経論理プログラミングは、微分可能推論の考え方を知識グラフの補完タスクに応用した代表的な手法
- Symbolic AI — Symbolic AIの離散的な記号操作による推論に対し、微分可能推論はそれを連続的な演算に置き換え勾配降下法で学習可能にする