Re Reference AI

モデル

AlphaGoとは

アルファ碁

深層学習とモンテカルロ木探索を組み合わせ、囲碁で人間のトップ棋士に初めて勝利したGoogle DeepMindのAI

強化学習探索アルゴリズム

ひとことで言うと

囲碁で世界トップ棋士に初めて勝ったAI。「AIはまだ囲碁では人間に勝てない」という常識を覆し、AIブームの象徴になった。

概要

AlphaGoとは、Google DeepMindが開発した囲碁AIで、深層学習モンテカルロ木探索を組み合わせ、人間のトップ棋士に初めて勝利したシステムを指す。 盤面の評価と着手の選択をニューラルネットワークで行い、探索と組み合わせる構成で、長く人間優位が続くとされていた囲碁を攻略した。 2017年の後継AlphaGo Zeroは、人間の棋譜を使わず自己対戦のみで学習し、元のAlphaGoを上回った。 深層強化学習の可能性を広く示した節目として、AIの歴史で語られる。

歴史

2016年3月に李世乭(イ・セドル)九段との五番勝負に4勝1敗で勝利した。2017年には自己対戦のみで学習するAlphaGo Zeroが発表された。

アーキテクチャ

モンテカルロ木探索MCTS)による先読みと、着手の確率分布を出力する方策ネットワーク、盤面の勝率を評価する価値ネットワークを組み合わせる。初代AlphaGoは人間の棋譜による教師あり学習で方策ネットワークを事前学習した後、自己対戦による強化学習で改良した。後継のAlphaGo Zeroは人間の棋譜を一切使わず、単一のネットワークが方策と価値の両方を出力し、自己対戦とMCTSのみで学習した。

ワークフロー

現在の盤面からMCTSで候補手を探索 → 方策ネットワークが有望な手を絞り込み、価値ネットワークが盤面の優劣を評価 → 探索結果をもとに着手を選択 → 対局終了後、その結果を教師信号として方策・価値ネットワークを更新する(自己対戦の場合)。

利点

  • 深層学習と探索の組み合わせにより、人間の直感的な判断が重要とされてきた囲碁で人間トップ棋士を上回る強さを実現した
  • AlphaGo Zeroは人間の棋譜を使わず自己対戦のみで学習し、人間の知識に依存しない学習法の有効性を示した
  • 後継のAlphaZeroは、同じ学習の枠組みをチェスや将棋など他のボードゲームにも一般化できることを示した

欠点

  • 学習には大量の自己対戦と計算資源を要し、当時としては膨大な計算コストがかかった
  • 囲碁のようにルールが明確でシミュレーション可能な環境に特化しており、現実世界の不確実性を伴うタスクへの直接適用は難しい
  • 対局中の判断根拠を人間が解釈し尽くすのは難しく、AIの手の意味を人間側が後付けで解釈する必要がある

関連用語

モンテカルロ木探索強化学習Q学習深層学習

よくある質問

AlphaGoとAlphaGo Zeroの違いは?

AlphaGoは人間の棋譜による事前学習を経てから自己対戦で強化したのに対し、AlphaGo Zeroは人間の棋譜を一切使わず、自己対戦のみで学習した。

AlphaZeroとの関係は?

AlphaZeroは、AlphaGo Zeroの学習手法を囲碁以外のチェスや将棋にも一般化した後継システム。

参考文献

関連Zenn記事