並列計算
並列計算に関連する用語（5件）
並列計算は、複数の計算資源で処理を同時実行して高速化する技術です。GPUによる行列演算の並列化や、複数GPU・ノードにまたがる分散学習がAIの大規模化を支えています。
用語一覧
GPU
Graphics Processing Unit / グラフィックス処理装置
大量の演算を並列処理できる専用プロセッサで、深層学習の学習・推論を支える計算基盤
インフラハードウェア並列計算
CUDA
Compute Unified Device Architecture
NVIDIA製GPU上で汎用並列計算を行うための並列計算プラットフォーム・プログラミングモデル
インフラ並列計算NVIDIA
TPU
Tensor Processing Unit
Googleが開発した、ニューラルネットワークの行列演算に特化した専用プロセッサ
インフラハードウェア並列計算
ROCm
Radeon Open Compute
AMD GPUで汎用計算するためのオープンソースの並列計算プラットフォーム
インフラAMD並列計算
DeepSpeed
ZeRO
ZeROによる分散学習を中心に、大規模モデルの学習・推論を効率化するMicrosoftのオープンソースライブラリ
インフラフレームワーク並列計算