Re Reference AI

インフラ

iGPU(内蔵GPU)とは

Integrated GPU / 内蔵GPU / 統合GPU

CPUと同じチップやパッケージに統合され、メインメモリを共有して動作するGPU

ハードウェアローカルLLM

最終更新:

ひとことで言うと

CPUに組み込まれているGPU。グラフィックボードを追加しなくても、画面表示や一部のAI処理をこなせる。

概要

iGPU(Integrated GPU、内蔵GPU)とは、CPUと同じチップやパッケージに統合されたGPUのこと。独立したグラフィックボードとして搭載するdGPU(Discrete GPU)と対になる言葉。IntelのCoreプロセッサーに内蔵されたIntel Graphics(Arc)、AMDのRyzenプロセッサーのRadeon Graphics、AppleのMシリーズチップのGPUなどがある。 専用のVRAMを持たず、システムのメインメモリをCPUと共有して使う。そのため、消費電力や発熱、コストを抑えられる一方、演算性能とメモリ帯域はハイエンドのdGPUに比べて低い。 ローカルLLMの用途では、メインメモリを大きく割り当てられることが利点になる。dGPUのVRAMに収まらない大きなモデルでも、メモリさえ足りれば読み込める。生成速度はメモリ帯域に左右されるため、大容量・広帯域のユニファイドメモリを備えたAppleのMシリーズや、AMDのRyzen AI Maxシリーズなどが選ばれることがある。 llama.cppのVulkanやMetalのバックエンド、IntelのOpenVINOなどを使ってiGPUで推論できる。

関連する用語

ミニPCGPUローカルLLMNPUllama.cppOpenVINOTPUOllamaLM StudioOpen WebUIGroqインテリジェントビジョンセンサー