Claudeとは
Anthropicが開発する、安全性とアライメントを重視した大規模言語モデルファミリー
ひとことで言うと
Anthropicが作っている、安全性を重視したAIモデルシリーズ。
概要
Claudeとは、AI安全性研究企業のAnthropicが開発する大規模言語モデルのファミリー。 デコーダのみのTransformerアーキテクチャを基盤とし、有用性・無害性・誠実性(Helpful, Harmless, Honest)を重視したアライメント手法「Constitutional AI」を用いて学習される点が特徴とされる。 対話・コーディング支援・長文書の要約・エージェント的なタスク実行など幅広い用途で利用され、Claude CodeのようなAI開発者向けツールの基盤モデルとしても提供されている。 Constitutional AIは、人間が個別に良し悪しを評価する代わりに、あらかじめ定めた原則(憲法)に照らしてモデル自身に出力を評価・改善させる訓練手法で、人手による評価の手間を抑えつつアライメントの一貫性を高める狙いがある。
背景
AnthropicはOpenAIの元研究者らによって2021年に設立された企業で、AIの安全性研究を主軸としており、Claudeはその研究成果を反映したモデルとして開発されている。
歴史
2023年3月: Anthropicが最初の商用モデルClaudeを公開。 2023年7月: コンテキストウィンドウを拡大したClaude 2を発表。 2024年3月: Opus・Sonnet・Haikuの3サイズで構成されるClaude 3ファミリーを発表。 2024年6月: Claude 3.5 Sonnetを発表。 以降もSonnet・Opus・Haikuの各系統でモデルの更新を継続している。
アーキテクチャ
自己注意機構を積み重ねたデコーダのみのTransformer構成を基本とし、AIに倫理的な原則(憲法)を与え自らの出力を評価・改善させるConstitutional AIという手法を用いたアライメントを経て学習される。
利点
- 長文コンテキストの処理やコーディング支援タスクで高い評価を得ている
- 安全性・アライメント研究を重視した設計思想に基づいて開発されている
欠点
- モデルの重みが非公開のクローズドウェイトであり、自前でのホスティングやカスタマイズに制約がある
- API利用のコストが発生し、大量利用時のコスト管理が必要になる
比較
関連用語
よくある質問
Constitutional AIとは？
モデルに倫理的な原則(憲法)を与え、その原則に基づいてモデル自身に出力を評価・改善させることで、人間のフィードバックへの依存を減らしつつアライメントを行う、Anthropicが提案した手法。
参考文献
- Research PaperConstitutional AI: Harmlessness from AI Feedback
- Official WebsiteAnthropic