Re Reference AI

インフラ

OpenRouterとは

数百種類のLLMを複数プロバイダから単一のOpenAI互換APIで呼び出せるモデルルーティングサービス

APIインフラ

最終更新:

概要

OpenRouterは、OpenAI・Anthropic・Google・Meta・Mistral・DeepSeekなど多数のプロバイダが提供するLLMを、単一のAPIエンドポイントから利用できるようにするサービス。 APIはOpenAI互換の形式で提供されており、既存のOpenAI SDKのbase_urlをOpenRouterに向け、モデル名を「プロバイダ名/モデル名」の形式で指定するだけで、様々なモデルを切り替えて呼び出せる。 同じモデルを複数のプロバイダがホストしている場合、リクエストごとにコストや可用性を考慮して送信先を選び、障害時には別のプロバイダへ自動でフォールバックする。 利用料金はOpenRouter上のクレジットでまとめて支払う仕組みのため、プロバイダごとに個別のアカウントやAPIキーを用意する必要がない。 また、モデルやアプリケーションごとのトークン使用量を集計したランキングを公開しており、どのモデルが実際に使われているかを把握する指標としても参照されている。 自前でLLM Gatewayを構築・運用せずに複数モデルを比較・併用したい開発者向けの、ホスティング型の選択肢として広く使われている。

歴史

2023年: Alex AtallahとLouis Vichyがニューヨークで創業。 2025年: Andreessen Horowitz主導のシードラウンドとMenlo Ventures主導のシリーズAで、合計約4,000万ドルを調達。 2026年5月: CapitalG主導のシリーズBで1億1,300万ドルを調達し、評価額は約13億ドルに。 2026年8月: Stripeが70億ドル超でOpenRouterを買収することで合意したと報じられる。

コード例

OpenAI SDKからOpenRouter経由でモデルを呼び出す

from openai import OpenAI

client = OpenAI(
    base_url="https://openrouter.ai/api/v1",
    api_key="<OPENROUTER_API_KEY>",
)

completion = client.chat.completions.create(
    model="anthropic/claude-sonnet-5",
    messages=[{"role": "user", "content": "こんにちは"}],
)

print(completion.choices[0].message.content)

利点

  • 1つのAPIキーとOpenAI互換APIで多数のプロバイダのモデルを切り替えられる
  • プロバイダ障害時の自動フォールバックにより可用性を確保しやすい
  • 支払いをクレジットに一本化でき、プロバイダごとの契約が不要

欠点

  • リクエストが第三者のサービスを経由するため、データの取り扱いやレイテンシを考慮する必要がある
  • プロバイダと直接契約する場合と比べ、利用できる機能や料金体系に差異が生じる場合もある

比較

  • LLM Gateway — LLM Gatewayは自社で構築・運用する構成も含む一般的な概念で、OpenRouterはそれをホスティング型のサービスとして提供するもの
  • Bedrock — BedrockはAWS上で複数の基盤モデルを提供するマネージドサービスで、OpenRouterは特定のクラウドに依存せず多数のプロバイダを横断する

関連する用語

LLM GatewayOmniRouteBedrockModel RouterLLMソブリンAIマイクロサービスOllama CloudストリーミングStructured Output

参考文献