Re Reference AI
分散処理に関連する用語（3件）
分散処理は、複数のマシンやプロセッサに処理を分担させる技術です。大規模モデルの学習ではデータ並列・テンソル並列などの手法で数千のGPUを協調させます。
Pythonの並列・分散処理を簡単に書けるようにする、機械学習ワークロード向けのオープンソース分散実行フレームワーク
Distributed Learning / Distributed Training
複数のデバイスやマシンで計算を分担しモデルを学習させる手法
Microservices / マイクロサービスアーキテクチャ
アプリケーションを独立してデプロイ・スケールできる小さなサービス群に分割するアーキテクチャスタイル