Attentionとは?関連技術・用語一覧
Attention(注意機構)は、入力系列の中でどの部分に注目すべきかを動的に計算する仕組みです。Transformerアーキテクチャの中核をなし、現代のLLMの性能を支える基盤技術です。
Attentionに関連する用語(3件)。定義・仕組みはAttentionの用語ページで解説。
Attention関連のアーキテクチャ(2件)
Attention関連の技術(1件)
Attention関連の年表
Transformerの歴史
自己注意機構(Self-Attention)のみで構成されるTransformerアーキテクチャが2017年に登場して以降、自然言語処理から画像・音声まで広がっていった変遷をたどる。
アーキテクチャ7件のイベント / 2017 - 2023
GPTの歴史
OpenAIが2018年のGPT-1から一貫して開発してきたGPTシリーズの変遷。ChatGPTによる一般普及からGPT-5に至るまでの主要リリースをたどる。
モデル8件のイベント / 2018 - 2025
LLMの歴史
Transformerの登場から、ChatGPTによる一般普及、オープンウェイトモデルの拡大、推論特化モデルの登場まで、大規模言語モデル(LLM)全体の主要な流れをベンダー横断でたどる。
モデル8件のイベント / 2017 - 2025