Re Reference AI

インフラ

LM Studioとは

GUI操作でローカルLLMのダウンロード・実行・チャットができる、デスクトップアプリケーション

ローカルLLMGUI

ひとことで言うと

画面操作だけで、自分のパソコンでAIモデルを試せるアプリ。

概要

LM Studioとは、Windows・Mac・Linux上で動作する、ローカルLLMをGUI操作でダウンロード・実行できるデスクトップアプリケーション。 Hugging Face上で公開されているGGUF形式等のモデルを検索・ダウンロードし、コマンドラインを使わずにチャット画面から対話できる。 ローカルAPIサーバーとしての機能も備えており、OpenAI互換のエンドポイントを通じて他のアプリケーションから呼び出すこともできる。 非エンジニアでも数クリックでローカルLLMを試せる手軽さから、プログラミング不要でモデルの挙動を確認したい個人開発者やAI初学者にもよく使われている。 モデルのロード時に使用するGPU/CPUの割り当てやコンテキスト長といった詳細設定もGUI上から調整でき、開発者向けの柔軟さと初心者向けの手軽さを両立させている。

背景

llama.cpp等のライブラリはコマンドライン操作が前提であり、非エンジニアや手軽に試したいユーザーにとって導入のハードルになっていた。 LM Studioは、モデルの検索・ダウンロード・実行・対話までをGUI上で完結できるようにし、このハードルを下げるために開発された。

歴史

2023年5月: Element Labs(創業者Yagil Burowski)がLM Studioを公開し、GUI操作でローカルLLMを試せるデスクトップアプリケーションとして普及した。

アーキテクチャ

内部では、GGUF形式のモデルをllama.cpp等の推論バックエンドで実行する構成を取っている。 GUI上でモデルのパラメータ(コンテキストウィンドウ長・GPUオフロード量等)を調整できる。

コード例

OpenAI互換ローカルサーバーへの接続(概念例)

from openai import OpenAI

client = OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")

response = client.chat.completions.create(
    model="local-model",
    messages=[{"role": "user", "content": "日本の首都はどこですか？"}],
)
print(response.choices[0].message.content)

利点

  • コマンドライン操作なしに、GUIだけでローカルLLMを導入・利用できる
  • ローカルAPIサーバー機能により、既存のOpenAI互換クライアントからも利用できる
  • モデルの検索・比較・パラメータ調整をGUI上で視覚的に行える

欠点

  • ソフトウェア自体はオープンソースではなく、内部実装の詳細を自由に改変できない
  • 実行するPCのハードウェア性能に、扱えるモデルサイズや速度が制約される
  • Ollama等のCLIツールと比べ、サーバー用途での自動化・スクリプト連携はしづらい

比較

  • Ollama — LM StudioがGUI中心であるのに対し、OllamaはCLI中心のローカルLLM実行ツール
  • llama.cpp — LM Studioは、内部でllama.cpp等の推論エンジンを利用している

関連用語

Ollamallama.cpp量子化ローカルLLM

よくある質問

LM Studioは無料？

個人利用は無料で提供されている。 商用利用の条件については提供元の利用規約の確認が必要。

LM StudioとOllamaはどちらを使うべき？

GUIでモデルの検索・比較・パラメータ調整をしたい場合はLM Studioが向く。 コマンドラインでの自動化やスクリプトからの呼び出しを重視する場合はOllamaが向くとされる。

参考文献

関連Zenn記事