Re Reference AI

インフラ

Ollama Cloudとは

Ollamaクラウドモデル / Ollama cloud models

OllamaのコマンドやAPIのまま、Ollamaのクラウド上で大きなモデルを実行できるサービス

推論API

最終更新:

ひとことで言うと

自分のPCでは動かせない大きなAIモデルを、いつものOllamaの使い方のままインターネット越しに動かせるサービス。

概要

Ollama Cloudとは、ローカルLLM実行ツールのOllamaから、Ollamaが運用するクラウド上のモデルを利用できるサービス。 ローカルのGPUやメモリでは動かせない大規模なオープンウェイトモデルを、ローカルモデルと同じ ollama run コマンドやAPIで実行できる。クラウドで動くモデルは gpt-oss:120b-cloud のように名前に -cloud が付き、利用前に ollama signin でOllamaのアカウントにサインインする。 ローカルのOllamaを経由せず、APIキーを使って ollama.com のAPIを直接呼び出すこともできる。 既存のOllama対応アプリケーションやツールから、接続先やモデル名を変えるだけでクラウドのモデルに切り替えられる点が特徴。一方で、推論はローカルではなくクラウドで行われるため、データが外部に送信される点や、利用量に上限がある点に注意が必要。

歴史

2025年9月、Ollamaがクラウドモデルをプレビュー版として発表した。

コード例

サインインしてクラウドモデルを実行する

ollama signin
ollama run gpt-oss:120b-cloud

関連する用語

OllamaローカルLLMオープンウェイトモデルllama.cppBedrockLLM GatewayModel RouterOpenRouterOmniRouteスループットオンデバイスAIGPU

参考文献