Re Reference AI

モデル

フロンティアモデルとは

Frontier Model / フロンティアAI

その時点で最も高い能力を持つ一群の基盤モデルを指す、主に安全性・政策の文脈で使われる言葉

LLM安全性

ひとことで言うと

その時代の「いちばん賢い最先端のAIモデルたち」を指す言葉。能力が高いぶん新しいリスクもあるとして、安全対策やルール作りの話でよく使われる。

概要

フロンティアモデルとは、その時点で最も高い能力を持つ一群の基盤モデルを指す。 技術的な定義よりもAIの安全性やガバナンスの文脈で使われることが多く、能力の高さゆえに新たなリスクをもたらしうるモデルとして、開発企業の自主的な安全対策や各国の規制の対象として語られる。 開発各社は、フロンティアモデルの公開前に危険な能力の評価やレッドチーミングを行う枠組みを整備している。

背景

モデルの能力向上に伴い、最先端モデルには従来と質の異なるリスク管理が必要だという認識が政府と開発企業の双方で強まった。 規制や自主的枠組みの対象を特定するために、開発の最前線にあるモデル群を指す言葉が必要とされた。

歴史

2023年7月にAnthropic・Google・Microsoft・OpenAIの4社が設立した業界団体「Frontier Model Forum」などを通じて、政策と安全性の文脈で定着した。

利点

  • その時点で最も高い能力を持つモデル群を特定できるため、規制や自主的な安全対策の対象を明確にしやすい
  • 危険な能力の評価やレッドチーミングなど、開発企業が足並みを揃えて安全対策を講じる際の共通の議論の土台になる

欠点

  • 技術的な性能基準による厳密な定義がなく、どのモデルをフロンティアモデルと呼ぶかは論者や文脈によって幅がある
  • 評価・安全対策の対象となる基準は曖昧なため、規制の実効性やモデル間の公平な扱いを保つことは難しくなりうる

比較

  • 基盤モデル基盤モデルが汎用的な事前学習モデル全般を指すのに対し、フロンティアモデルはその中でも最も高い能力を持つモデル群を指す、主に安全性・政策文脈の言葉

関連用語

基盤モデルレッドチーミングアライメントAGI

よくある質問

フロンティアモデルには具体的な性能基準があるのか?

計算量や特定のベンチマークスコアといった厳密な基準で定義されているわけではなく、その時点で最も高い能力を持つ一群のモデルという相対的な概念として使われる。Frontier Model Forumのような業界団体や各国の規制当局が、対象を判断する際の目安を独自に示すことはある。

参考文献

関連Zenn記事