インフラ

大量の演算を並列処理できる専用プロセッサで、深層学習の学習・推論を支える計算基盤

NVIDIA製GPU上で汎用並列計算を行うための並列計算プラットフォーム・プログラミングモデル

埋め込みベクトルを高速に類似検索できるよう設計されたデータベース

Googleが開発した、ニューラルネットワークの行列演算に特化した専用プロセッサ

スマートフォンやPCなど、エッジデバイス上でニューラルネットワークの推論を効率的に処理する専用プロセッサ

PagedAttentionによりGPUメモリを効率利用する、高スループットなオープンソースLLM推論・サービングエンジン

コマンド1つでLLMをローカル環境にダウンロードし実行できる、オープンソースのツール

GUI操作でローカルLLMのダウンロード・実行・チャットができる、デスクトップアプリケーション

C/C++で実装された、CPUでも動作する軽量なLLM推論ライブラリ

OllamaやOpenAI互換APIと連携できる、セルフホスト型のオープンソースLLMチャットUI

AMD GPUで汎用計算するためのオープンソースの並列計算プラットフォーム

NVIDIA GPU上での推論を高速化する、NVIDIA製の推論最適化SDK

AWSが提供する、複数のAIプロバイダの基盤モデルを単一APIで呼び出せるフルマネージドサービス

機械学習の実験管理・モデル管理・デプロイをフレームワーク非依存で扱うオープンソースプラットフォーム

LLMを組み込んだアプリケーションの開発・評価・デプロイ・運用を継続的に行うための一連のプラクティスと基盤

クラウド上のサーバーではなく、スマートフォンやIoT機器等の端末上でAIモデルを推論する仕組み

NVIDIAが提供する、複数のフレームワークで学習したモデルを統一的にデプロイ・実行できるオープンソースの推論サーバー

Pythonの並列・分散処理を簡単に書けるようにする、機械学習ワークロード向けのオープンソース分散実行フレームワーク

学習済みモデル・データセット・ライブラリを公開・共有するオープンソースのAIコミュニティプラットフォーム

複数のLLMプロバイダへのAPI呼び出しを単一の窓口に集約し、ルーティング・認証・コスト管理などを一元化するミドルウェア

Meta(旧Facebook)が開発した、高次元ベクトルの類似検索・クラスタリング向けオープンソースライブラリ

アプリケーションのトレース・メトリクス・ログを収集するためのベンダー中立なオブザーバビリティ標準

コード補完だけでなく、複数ファイルの編集やエージェント機能をエディタに統合したAI搭載の統合開発環境

リクエストの内容や要求される品質・コストに応じて、複数のLLMから最適なモデルを自動的に選択して振り分ける仕組み

自国のデータ・インフラ・人材を用いて、国家が自律的にAI能力を構築・管理するという考え方

RadixAttentionによる接頭辞キャッシュの再利用を特徴とする、オープンソースのLLM推論サービング基盤

LLM推論に特化した独自チップLPUを開発する半導体企業と、その高速推論クラウドサービス

ZeROによる分散学習を中心に、大規模モデルの学習・推論を効率化するMicrosoftのオープンソースライブラリ

機械学習の実験管理を中心とするMLOpsプラットフォーム。LLM向けのトレース・評価機能も提供

VS Codeをフォークし、チャットや複数ファイル編集などのAI機能をエディタに統合したAI IDE

顔検出・姿勢推定・手指トラッキング等のリアルタイム推論パイプラインをモバイル/Web/エッジ上に構築できるGoogleのオープンソースフレームワーク

テキスト認識・バーコードスキャン・顔検出等の学習済みモデルをAndroid/iOSアプリへ組み込める、Googleのオンデバイス機械学習SDK

マイクロコントローラ等の超低消費電力・低リソース組み込み機器上で機械学習モデルを動作させる技術分野

撮像回路にAI推論用のプロセッサとメモリを一体化し、撮像からAI処理までをセンサー単体で完結できるイメージセンサー

PIRやミリ波レーダー等の人感センサーにAIによる誤検知抑制・環境学習機能を組み合わせ、人の在不在を高精度に検知するセンサー

IoT機器・AIスマートスピーカー等を組み合わせ、家電の遠隔操作や生活パターンの学習による自動化を実現する住宅

PythonでMCPサーバー・クライアントを簡潔なデコレータ構文で構築できる、事実上標準のMCPフレームワーク

AIエージェント機能「Cascade」を統合したAIネイティブの統合開発環境(IDE)

フルマネージドで提供される、ベクトル検索に特化したクラウドデータベースサービス

スキーマ定義とハイブリッド検索(ベクトル+キーワード)を備えたオープンソースのベクトルデータベース

大規模なベクトルデータの分散処理に対応したオープンソースのベクトルデータベース

Rustで実装された、高速な検索性能とフィルタリング機能を特徴とするオープンソースのベクトルデータベース

アプリケーションに組み込みやすい、軽量なオープンソースのベクトルデータベース

PostgreSQLにベクトル型と類似検索機能を追加する、オープンソースの拡張機能