Re Reference AI

モデル

Llamaとは

LLaMA

Metaが開発する、研究・商用利用向けに重みを公開しているオープンウェイトの大規模言語モデルファミリー

LLMMetaオープンウェイト

ひとことで言うと

Metaが公開している、誰でも使えるAIモデルシリーズ。

概要

Llama(LLaMA)とは、Metaが開発し重みを公開しているオープンウェイトの大規模言語モデルファミリー。 クローズドウェイトのGPTClaudeGeminiと異なり、モデルの重みを研究者・企業がダウンロードして自前の環境で実行・ファインチューニングできる点が特徴で、オープンウェイトLLMのエコシステム(ファインチューニング手法、量子化ツール、派生モデル等)の発展を大きく後押しした。 Llama 2以降はコミュニティによる利用を前提とした比較的緩やかなライセンスで公開され、これをベースにした派生モデルやファインチューニング済みモデルが数多く公開されるオープンウェイトLLMのエコシステムの中心的存在になった。

背景

Metaは、モデルの重みを公開することで研究コミュニティ全体の技術発展を加速させ、特定ベンダーへの依存を避けたい企業のニーズにも応えるという方針のもとLlamaシリーズを開発している。

歴史

2023年2月: Metaが研究者向けにLLaMA(第1世代)を公開。 当初は申請制だったが重みが流出し広く一般に出回る。 2023年7月: 商用利用も許可するライセンスでLlama 2を公開。 2024年4月: Llama 3を公開。 2024年7月: 4050億パラメータのLlama 3.1を公開。 2025年4月: MoEアーキテクチャを採用したLlama 4を公開。

アーキテクチャ

デコーダのみのTransformerアーキテクチャを基本とし、世代を追うごとに学習データ量や学習手法が改良されている。 Llama 4ではMoE(専門家混合)アーキテクチャが採用されている。

利点

  • 重みが公開されており、自前の環境でのホスティング・ファインチューニング・改変が可能
  • 研究・商用問わず利用できるライセンスにより、独自のエコシステムが発展している

欠点

  • モデルを自前で運用する場合、GPU等のインフラを自社で用意・管理する必要がある
  • GPTClaude等の最新のクローズドウェイトモデルと比べ、性能面で一歩後れを取る場合がある

比較

  • LLMLlamaは、オープンウェイトのLLMエコシステムを広げた代表的なモデルファミリー
  • ファインチューニングLlamaは重みが公開されているため、独自データでのファインチューニングに広く利用される
  • MoELlama 4では、MoEアーキテクチャが採用されている

関連用語

LLMファインチューニングMoEMistral

よくある質問

Llamaは無料で商用利用できる?

Llama 2以降は商用利用も許可するライセンスで公開されているが、月間アクティブユーザー数等のライセンス条件が版によって定められており、利用前に確認が必要。

参考文献

関連Zenn記事