Re Reference AI

モデル

DeepSeekとは

中国のDeepSeekが開発する、高いコスト効率と推論能力を特徴とするオープンウェイトの大規模言語モデルファミリー

LLMオープンウェイト推論

ひとことで言うと

中国のDeepSeekが作っている、コストを抑えつつ高性能なAIモデルシリーズ。

概要

DeepSeekとは、中国のAI企業DeepSeekが開発する大規模言語モデルのファミリー。 MoE(専門家混合)アーキテクチャを活用した学習・推論コストの効率化や、強化学習を用いた推論能力の獲得に注力しており、比較的低い学習・利用コストで最先端に近い性能を実現したとされる点で大きな注目を集めた。 多くのモデルの重みが公開されており、研究・商用の両面で広く利用されている。 2025年初頭に公開されたDeepSeek-R1は、強化学習中心の訓練プロセスで高い推論性能を達成しつつ利用コストを抑えたことから、欧米の主要AI企業のモデルと比較されるほどの注目を集めた。 特に数学・コーディング領域のベンチマークで高いスコアを示し、公開当初は米国株式市場のAI関連銘柄にも影響を与えるほどの反響を呼んだ。

背景

DeepSeekは、中国のクオンツファンドHigh-Flyerを母体として設立された企業で、限られた計算資源の中でも高性能なモデルを開発する効率性を重視したアプローチを追求している。

歴史

2024年12月: MoEアーキテクチャを採用した大規模モデルDeepSeek-V3を公開し、報告された学習コストの低さで注目を集める。 2025年1月: 強化学習により推論能力を獲得した推論モデルDeepSeek-R1を公開し、オープンウェイトの推論モデルとして大きな反響を呼ぶ。

アーキテクチャ

DeepSeek-V3ではMoEアーキテクチャを採用し、総パラメータ数に対して実際の推論で使う有効パラメータ数を抑えることで計算コストを削減している。 DeepSeek-R1は、このベースモデルに対し強化学習で学習することで、出力前に長い推論過程を生成する挙動を獲得している。

利点

  • MoEアーキテクチャ等の工夫により、高い性能を比較的低い学習・推論コストで実現している
  • モデルの重みが公開されており、研究・商用双方での利用や検証がしやすい
  • 数学・コーディング等、推論を要するベンチマークで高いスコアを示している

欠点

  • 開発元の情報管理やデータの取り扱いについて、利用にあたり組織のポリシー確認を要する場合がある
  • 急速に開発が進む分野であり、モデルの評価や比較が定まりきっていない部分がある
  • 中国国外での利用にあたり、データの取り扱いやセキュリティポリシーの観点から導入を制限する組織もある

比較

  • MoEDeepSeek-V3は、MoEアーキテクチャを大規模に活用した代表的なモデル
  • 推論モデルDeepSeek-R1は、強化学習により推論能力を獲得した代表的なオープンウェイトの推論モデル
  • RLHFDeepSeek-R1の学習には、強化学習を用いた手法が採用されている

関連用語

MoE推論モデルRLHFLLMGRPO

よくある質問

DeepSeek-V3とDeepSeek-R1の違いは?

DeepSeek-V3は汎用的な大規模言語モデル。 DeepSeek-R1は、V3をベースに強化学習で推論能力を強化した、数学やコーディング等の推論タスクに強い派生モデル。

DeepSeekのモデルは自前の環境で動かせる?

多くのモデルの重みが公開されているため、十分なGPUリソースがあれば自前の環境でホスティングできるが、大規模モデルはパラメータ数が非常に大きく、相応の計算資源が必要になる。

参考文献

関連する年表

LLMの歴史

Transformerの登場から、ChatGPTによる一般普及、オープンウェイトモデルの拡大、推論特化モデルの登場まで、大規模言語モデル(LLM)全体の主要な流れをベンダー横断でたどる。

モデル8件のイベント / 2017 - 2025

関連Zenn記事