Grounding（グラウンディング）とは

グラウンディング / 根拠付け

LLMの出力を検証可能な外部の事実情報やデータに結び付け、幻覚を抑え信頼性を高める性質・手法

ひとことで言うと

AIの答えを、実際のデータや情報源にちゃんと基づかせること。根拠のない出まかせを防ぐ。

概要

Grounding(グラウンディング)とは、LLMの出力を、検証可能な外部の事実情報・データ・文脈に結び付けることを指す。 LLMは学習データに含まれる統計的なパターンから尤もらしい文章を生成するため、その内容が実際の事実と一致しているとは限らず、事実と異なる情報をもっともらしく生成してしまうハルシネーションが課題となる。 Groundingは、検索によって取得した文書やユーザーが提供したデータ、外部ツールの実行結果などを根拠として出力を生成させることで、この問題を軽減する考え方・手法群を指す。 Retrieval-Augmented Generation(RAG)は、Groundingを実現する代表的な手法の1つで、外部知識ソースから関連情報を検索し、それをプロンプトに含めたうえで回答を生成させる。 生成された回答に出典・引用元を明示させることも、Groundingを高める実践として広く行われる。

背景

LLM単体では、パラメータに埋め込まれた学習時点の知識に基づいて応答を生成するため、学習データにない最新情報や社内固有の情報には対応できず、また事実と異なる内容を自信ありげに生成してしまう場合がある。 この課題に対処するため、外部の情報源を明示的に参照させ、出力の根拠を事実に結び付けるGroundingという考え方が重視されるようになった。

歴史

1990年、認知科学者Stevan HarnadがSymbol Grounding Problem(記号接地問題)を提唱し、記号システムがどのように実世界の意味と結び付くかという問題を提起した。これがGroundingという語の学術的な起源の1つ。 2020年、Lewisらが Retrieval-Augmented Generation(RAG)を提案し、外部知識の検索結果を根拠として言語モデルの出力を生成する手法を発表。LLM時代のGroundingの代表的な実現手法として広く普及した。

利点

• ハルシネーションを抑え、事実に基づいた回答の精度を高められる
• 出典を明示させることで、回答の検証・追跡が容易になる
• 学習データにない最新情報や社内固有情報にも対応できる

欠点

• 根拠となる情報源自体が誤っている・古い場合、その誤りをそのまま反映してしまう
• 検索や外部ツール呼び出しの分だけレイテンシとコストが増加する

比較

• RAG — RAGは、外部知識の検索結果を根拠として出力させることでGroundingを実現する代表的な手法
• ハルシネーション — Groundingが出力を事実情報に結び付ける手法・性質を指すのに対し、ハルシネーションは根拠のない誤った情報が生成される現象そのものを指す

関連用語

よくある質問

参考文献

• Research PaperRetrieval-Augmented Generation for Knowledge-Intensive NLP Tasks