Re Reference AI

APIとは?関連技術・用語一覧

API(Application Programming Interface)は、ソフトウェア同士が機能やデータをやり取りするための接続仕様です。AI分野ではLLMの推論機能をHTTP経由で利用するためのインターフェースとして広く使われています。

APIに関連する用語(8件)

API関連の技術(2件)

ストリーミング

Streaming

LLMが生成したトークンを、完成を待たずに逐次クライアントへ送信する応答方式

技術LLMAPI

Structured Output

構造化出力 / JSON Mode

LLMの出力を、あらかじめ定義したJSONスキーマなど決まったデータ構造に厳密に従わせる機能

技術プロンプトエンジニアリングAPI

API関連のインフラ(6件)

Bedrock

Amazon Bedrock

AWSが提供する、複数のAIプロバイダの基盤モデルを単一APIで呼び出せるフルマネージドサービス

インフラAWSマネージドサービスAPI

LLM Gateway

LLMゲートウェイ

複数のLLMプロバイダへのAPI呼び出しを単一の窓口に集約し、ルーティング・認証・コスト管理などを一元化するミドルウェア

インフラAPIインフラ

Model Router

モデルルーター / LLMルーター

リクエストの内容や要求される品質・コストに応じて、複数のLLMから最適なモデルを自動的に選択して振り分ける仕組み

インフラAPI推論最適化

OpenRouter

数百種類のLLMを複数プロバイダから単一のOpenAI互換APIで呼び出せるモデルルーティングサービス

インフラAPIインフラ

OmniRoute

多数のLLMプロバイダを単一のOpenAI互換エンドポイントにまとめ、自動フォールバックやルーティングを行うオープンソースのAIゲートウェイ

インフラAPIインフラ

Ollama Cloud

Ollamaクラウドモデル / Ollama cloud models

OllamaのコマンドやAPIのまま、Ollamaのクラウド上で大きなモデルを実行できるサービス

インフラ推論API

関連するタグ

インフラLLMプロンプトエンジニアリング推論最適化推論