技術

プロンプトエンジニアリングとは

Prompt Engineering

LLMから望む出力を引き出すために、プロンプトの書き方を設計・改善する手法

ひとことで言うと

AIから望む答えを引き出すために、質問の仕方を工夫すること。

概要

プロンプトエンジニアリングとは、LLMから望む出力を得るために、プロンプトの構成・表現・与える例示などを設計・調整する手法や実践の総称。モデルの重みを変更せず入力側の工夫のみで性能を引き出せるため、ファインチューニングと比べて低コストに試行錯誤できる点が特徴。指示を明確にする、出力形式を指定する、少数の例を示す(few-shotプロンプティング)、段階的に考えさせる(Chain-of-Thoughtプロンプティング)など、様々な手法パターンが確立されている。業務での定型的な利用が増えるにつれて、有効なプロンプトをテンプレート化・バージョン管理して再利用する「プロンプト管理」も実務上の課題になっている。

背景

LLMの出力はプロンプトの内容に敏感であり、同じタスクでも表現や構成次第で性能や再現性が変わる。この性質から、プロンプトを体系的に設計・検証する実践知がプロンプトエンジニアリングとして整理されるようになった。

歴史

2020年: GPT-3の登場により、few-shotプロンプティングでモデルの重みを変更せずにタスク性能を引き出せることが広く示される。 2022年: Chain-of-Thoughtプロンプティングが提案され、複雑な推論タスクの精度向上に寄与。 2022-2023年: ChatGPTの普及に伴い、プロンプトエンジニアリングが一般利用者にも広がる実践スキルとして注目される。

ワークフロー

タスクと期待する出力形式を定義 → 初期プロンプト案を作成し出力を確認 → 指示の明確化・出力形式の指定・few-shot例の追加などを試行して改善 → 効果が確認できたパターンをテンプレート化し再利用・バージョン管理する。

コード例

few-shot形式のプロンプト例

prompt = """次の例に倣って、文章の感情をPositive/Negativeで分類してください。

文章: 商品の到着がとても早くて満足しました。
感情: Positive

文章: サポートの対応が遅く、不満が残りました。
感情: Negative

文章: 期待していたほどの性能ではなかった。
感情:"""

利点

モデルの再学習が不要で、短時間に出力を改善できる
タスクやドメインに応じて柔軟に調整できる

欠点

モデルやバージョンが変わると、同じプロンプトでも効果は変わり得る
複雑なプロンプトは設計・検証・保守のコストがかかる
ファインチューニングと比べ、モデルの根本的な知識や挙動そのものは変えられない

比較

プロンプト — プロンプトエンジニアリングは、プロンプトそのものを設計・改善する実践
ファインチューニング — プロンプトエンジニアリングは入力側の工夫にとどまるのに対し、ファインチューニングはモデルの重みを直接調整する
Chain-of-Thought — Chain-of-Thoughtはプロンプトエンジニアリングの代表的な手法の1つ
コンテキストエンジニアリング — プロンプトエンジニアリングが指示文言そのものの書き方を扱うのに対し、コンテキストエンジニアリングは指示・例・ツール定義・検索結果等を含む入力全体の構成を扱う、より広い実践

よくある質問

プロンプトエンジニアリングは今後も必要？

モデルの指示追従性能が向上するにつれて単純な指示の工夫の重要性は下がる可能性があるが、タスク固有の出力形式指定や複雑な推論を要する用途では引き続き有効な手法とされる。

参考文献

DocumentationOpenAI Prompt Engineering Guide
Research PaperLanguage Models are Few-Shot Learners