Re Reference AI

インフラ

Open WebUIとは

OllamaやOpenAI互換APIと連携できる、セルフホスト型のオープンソースLLMチャットUI

UIローカルLLM

ひとことで言うと

自分のサーバーで動かせる、ChatGPTのようなチャット画面のツール。

概要

Open WebUIとは、Ollamaや各種OpenAI互換APIと接続して利用できる、セルフホスト型のオープンソースチャットUI。 ChatGPTのようなチャット画面を自分のサーバーやPC上に構築でき、複数のローカルモデルの切り替え、RAG用のドキュメントアップロード、複数ユーザーでの利用管理といった機能を備える。 元々は「Ollama WebUI」という名称でOllama専用のフロントエンドとして始まり、対応範囲を広げて現在の名称になった。 モデルの応答を評価するレーティング機能や、複数モデルの応答を並べて比較する機能なども備えており、社内で複数のローカルモデルを試験導入する際の検証環境としても使われる。

背景

Ollama等でローカルにLLMを動かせるようになっても、コマンドラインでのやり取りは一般利用者には扱いにくい。 Open WebUIは、使い慣れたチャット形式のインターフェースを通じて、ローカルLLMを手軽に利用できるよう開発された。

歴史

2023年: OllamaのフロントエンドとしてOllama WebUIが公開される。 その後、Ollama以外のOpenAI互換APIにも対応範囲を広げ、Open WebUIへと改称された。

アーキテクチャ

バックエンドとしてOllamaや各種LLM APIへ接続し、Web UI上でチャット・モデルの切り替え・RAG用ドキュメントの管理等を行える構成を取る。 Dockerコンテナとして提供されており、自前のサーバーへ比較的容易にセルフホストできる。

利点

  • ChatGPTのような使い慣れたチャットUIを、ローカル・自社環境で利用できる
  • Ollama等のローカルLLMとOpenAI互換APIの両方に対応し、柔軟にバックエンドを選べる
  • 複数ユーザーでの利用管理やモデル比較機能を備え、社内での試験導入にも使いやすい

欠点

  • UIやRAG等の機能面では、専業のLLMアプリケーションプラットフォームほど高度な設定はできない場合がある
  • セルフホストするための、Docker等の実行環境の準備・運用知識を要する
  • バックエンドとなるOllama等の推論性能に、応答速度が依存する

比較

  • OllamaOpen WebUIは、Ollama等をバックエンドに利用するチャットUIとしてよく組み合わせて使われる
  • RAGOpen WebUIは、アップロードしたドキュメントをもとに回答するRAG的な機能を備える

関連用語

OllamaRAGllama.cpp

よくある質問

Open WebUIはOllamaがないと使えない?

いいえ。 OllamaだけでなくOpenAI互換のAPIエンドポイントにも接続できるため、クラウドのLLM APIと組み合わせても利用できる。

Open WebUIの名前の由来は?

元々はOllama専用のフロントエンドとして「Ollama WebUI」の名称で開発され、対応範囲をOpenAI互換API全般へ広げたことに合わせて「Open WebUI」に改称された。

参考文献

関連Zenn記事