微信团队开源围棋AI技术PhoenixGo,复现AlphaGo Zero论文
本文介绍了腾讯微信翻译团队开源的人工智能围棋项目 PhoenixGo,该项目是对 DeepMindAlphaGo Zero论文《Mastering the game of Go without human knowledge》的实现。
PhoenixGo 是腾讯微信翻译团队开发的人工智能围棋程序。据介绍,该项目由几名工程师在开发机器翻译引擎之余,基于 AlphaGo Zero 论文实现,做了若干提高训练效率的创新,并利用微信服务器的闲时计算资源进行自我对弈,缓解了 Zero 版本对海量资源的苛刻需求。
4 月底,在 2018 世界人工智能围棋大赛上,PhoenixGo 取得冠军。参赛队伍包括绝艺,LeelaZero、TSGo、石子旋风、Golois,HEROZ Kishi、Baduki 等来自中、日、韩、欧美等国家和地区的人工智能围棋高手。
5 月 11 日,PhoenixGo 在 Github 上正式开源,以下是技术细节:
项目地址:https://github.com/Tencent/PhoenixGo
如果你在研究中使用 PhoenixGo,请按以下方式引用库:
@misc{PhoenixGo2018,author = {Qinsong Zeng and Jianchang Zhang and Zhanpeng Zeng and Yongsheng Li and Ming Chen and Sifan Liu}title = {PhoenixGo},year = {2018},journal = {GitHub repository},howpublished = {\url{https://github.com/Tencent/PhoenixGo}} }
构建和运行
在 Linux 上
1 要求
支持 C++11 的 GCC;
Bazel(0.11.1);
(可选)CUDA 和 cuDNN(支持 GPU);
(可选)TensorRT(加速 GPU 上的计算,建议使用 3.0.4 版本)。
2 构建
复制库,并进行构建配置:
git clone https://github.com/Tencent/PhoenixGo.gitcd PhoenixGo ./configure
./configure 将询问 CUDA 和 TensorRT 的安装位置,如果必要指定二者的位置。
然后使用 bazel 进行构建:
bazel build //mcts:mcts_main
TensorFlow 等依赖项将会自动下载。构建过程可能需要很长时间。
3 运行
下载和提取训练好的网络:
wget https://github.com/Tencent/PhoenixGo/releases/download/trained-network-20b-v1/trained-network-20b-v1.tar.gz tar xvzf trained-network-20b-v1.tar.gz
以 gtp 模式运行,使用配置文件(取决于 GPU 的数量和是否使用 TensorRT):
bazel-bin/mcts/mcts_main --config_path=etc/{config} --gtp --logtostderr --v=1
该引擎支持 GTP 协议,这意味着它可以和具备 GTP 能力的 GUI 一起使用,如 Sabaki。
--logtostderr 使 mcts_main 向 stderr 写入日志消息,如果你想将消息写入文件,将 --logtostderr 改成 --log_dir={log_dir} 即可。
你可以按照此说明更改配置文件:https://github.com/Tencent/PhoenixGo#configure-guide
4 分布模式
如果不同的机器上有 GPU,PhoenixGo 支持分布式 worker。
构建分布式 worker:
bazel build //dist:dist_zero_model_server
在分布式 worker 上运行 dist_zero_model_server,每个 worker 对应一个 GPU:
CUDA_VISIBLE_DEVICES={gpu} bazel-bin/dist/dist_zero_model_server --server_address="0.0.0.0:{port}" --logtostderr
在 config 文件中填充 worker 的 ip:port(etc/mcts_dist.conf 是 32 个 worker 的配置示例),并运行分布式 master:
bazel-bin/mcts/mcts_main --config_path=etc/{config} --gtp --logtostderr --v=1
在 Windows 上
正在进行。
配置指南
以下是 config 文件中的一些重要选项:
num_eval_threads:应与 GPU 的数量一致;
num_search_threads:应比 num_eval_threads * eval_batch_size 大一些;
timeout_ms_per_step:每步使用的时间;
max_simulations_per_step:每步要做多少模拟;
gpu_list:使用哪块 GPU,用逗号隔开;
model_config -> train_dir:训练好的网络的存储目录;
model_config -> checkpoint_path:使用哪个检查点,如果没设定,则从 train_dir/checkpoint 中获取;
model_config -> enable_tensorrt:是否使用 TensorRT;
model_config -> tensorrt_model_path:如果 enable_tensorrt,使用哪个 TensorRT 模型;
max_search_tree_size:树节点的最大数量,根据存储容量进行更改;
max_children_per_node:每个节点的子节点的最大数量,根据存储容量进行更改;
enable_background_search:在对手下棋的时候思考;
early_stop:如果结果不再更改,则 genmove 可能在 timeout_ms_per_step 之前返回;
unstable_overtime:如果结果仍然不稳定,则更多地考虑 timeout_ms_per_step * time_factor;
behind_overtime:如果赢率低于 act_threshold,则更多地考虑 timeout_ms_per_step * time_factor。
分布模式的选项:
enable_dist:启动分布模式;
dist_svr_addrs:分布式 worker 的 ip:port,多条线,每条线中有一个 ip:port;
dist_config -> timeout_ms:RPC 超时。
async 分布模式的选项:
Async 模式是在有大量分布式 worker 的时候使用的(多余 200),而在 sync 模式中需要过多的 eval 线程和搜索线程。
etc/mcts_async_dist.conf 是 256 个 worker 模式的 config 示例。
enable_async:开启 async 模式
enable_dist:开启分布模式
dist_svr_addrs:每个命令行 ip:port 的多行、用逗号分开的列表
eval_task_queue_size:根据分布 worker 的数量调整
num_search_threads:根据分布式 worker 的数量调整
参看 mcts/mcts_config.proto 更详细的了解 config 选项。
命令行选项
mcts_main 接受以下命令行选项:
--config_path:配置文件路径;
--gtp:作为 GTP 引擎来运行,如果禁用,则只能进行 genmove;
--init_moves:围棋棋盘上最初的落子;
--gpu_list:覆写配置文件中的 gpu_list;
--listen_port:与 --gtp 一起使用,在 TCP 协议端口上运行 gtp 引擎;
--allow_ip:与 --listen_port 一起使用,是允许连接的客户端 ip 列表;
--fork_per_request:与 --listen_port 一起使用,表示是否 fork 每个请求。
Glog 选项还支持:
--logtostderr:向 stderr 写入日志消息;
--log_dir:向该文件夹中的文件写入日志消息;
--minloglevel:记录级别:0 - INFO、1 - WARNING、2 - ERROR;
--v:详细记录,--v=1 即记录调试日志,--v=0 即关闭记录。
mcts_main --help 支持更多命令行选项。