Re Reference AI

ローカルLLM

ローカルLLMに関連する用語(4件)

ローカルLLMは、クラウドAPIを使わず手元のマシンで動作させるLLMです。プライバシー保護・オフライン動作・コスト管理の利点があり、llama.cppやOllamaなどのツールで手軽に実行できます。

用語一覧

Ollama

コマンド1つでLLMをローカル環境にダウンロードし実行できる、オープンソースのツール

インフラローカルLLM推論

LM Studio

GUI操作でローカルLLMのダウンロード・実行・チャットができる、デスクトップアプリケーション

インフラローカルLLMGUI

Open WebUI

OllamaやOpenAI互換APIと連携できる、セルフホスト型のオープンソースLLMチャットUI

インフラUIローカルLLM

ローカルLLM

Local LLM

クラウドAPIを介さず、自分のPCやオンプレミス環境で実行するLLMの運用形態

技術ローカルLLMプライバシー