API

APIに関連する用語（5件）

API（Application Programming Interface）は、ソフトウェア同士が機能やデータをやり取りするための接続仕様です。AI分野ではLLMの推論機能をHTTP経由で利用するためのインターフェースとして広く使われています。

用語一覧

Streaming

LLMが生成したトークンを、完成を待たずに逐次クライアントへ送信する応答方式

Amazon Bedrock

AWSが提供する、複数のAIプロバイダの基盤モデルを単一APIで呼び出せるフルマネージドサービス

構造化出力 / JSON Mode

LLMの出力を、あらかじめ定義したJSONスキーマなど決まったデータ構造に厳密に従わせる機能

LLMゲートウェイ

複数のLLMプロバイダへのAPI呼び出しを単一の窓口に集約し、ルーティング・認証・コスト管理などを一元化するミドルウェア

モデルルーター / LLMルーター

リクエストの内容や要求される品質・コストに応じて、複数のLLMから最適なモデルを自動的に選択して振り分ける仕組み