安裝horovod

安裝ompi

準備ompi安裝包

1. 下載ompi：https://github.com/open-mpi/ompi/releases

版本建議大於4.0.0。
因爲發現openmpi-4.0.0裏面沒有configure，只找到config，因此我自己用的是openmpi-4.0.1.tar.gz。

2. 把ompi壓縮包上傳到要安裝horovod的服務器。

安裝ompi

1. 我沒有完全按照horovod指向的教程來，而是根據ompi的README.md做了些許修改：

# 解壓安裝包
gunzip -c openmpi-4.0.1.tar.gz | tar xf -
cd openmpi-4.0.1

# 配置
/configure --prefix=/usr/local

# make
make -j 16
sudo make install

修改環境變量

我個人習慣在~/.bashrc裏面添加：

vim ~/.bashrc

加入如下語句：

export PATH=/usr/local/lib/openmpi:$PATH

使新的環境變量生效：

source ~/.bashrc

安裝horovod

安裝

pip install horovod

Building wheel for horovod (setup.py) 這一步需要等待良久。

測試安裝成功

用如下命令測試horovod是否安裝成功：

import horovod.tensorflow as hvd
print(hvd.__path__)