使用分佈式框架horovod 未能提升加速訓練

原創 roxxo 2020-04-21 17:47

 使用分佈式框架horovod ，初步使用了單機多卡 ，跑測的estimator， 數據集大概十幾個分類，1萬張照照片，調用4個gpu

從圖裏看出訓練時長17個小時左右 ，與之前單機單卡訓練時長和準確率沒有太大區別，浪費資源啊！

看了horvord的訓練模式，分別起了4個進程，而不是一個進程

該操作 與TF 的experimental.MultiWorkerMirroredStrategy操作用法一樣，相對使用起來方便一些

發表評論
所有評論
還沒有人評論，想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章

Linux ubuntu18.04 anaconda Python3 Tensorflow-gpu Keras Pytorch Opencv 計算機視覺深度學習環境安裝

環境 linux Ubuntu18.04 cuda10.2 cudnn7   1.安裝Anaconda 下載Anaconda3-xxx-Linux-x86_64.sh 運行命令安裝：bash Anaconda3-5.2.0-Linux-x

程序员鱼大 2020-07-04 16:50:09

Tensorflow常用函數（二）

tf.lin_space(start, stop, num, name=None) create a sequence of num evenly-spaced values are generated beginning at

wf592523813 2020-07-08 08:32:10

Mac安裝Tensorflow，運行項目報錯: module compiled against API version 0xa but this version of numpy is 0x9

1、安裝Tensorflow $ sudo easy_install pip$ sudo easy_install --upgrade six$ sudo pip install tensorflow 當前最新的tensorflow版本1

铁真木 2020-07-08 01:58:44

ImportError: libcudnn.so.7: cannot open shared object file錯誤以及非root用戶安裝cudnn

關於ImportError: libcudnn.so.7: cannot open shared object file錯誤以及非root用戶安裝cudnn 使用 Tensorflow 的時候出現了錯誤Tensorflow:Imp

MirrorN 2020-07-07 23:30:35

tensorflow從0開始（1）

爲什麼使用tensorflow 初入此行，覺得machine learing的思想還挺好，準備開始學習下，至於爲什麼選擇tensorflow，個人沒什麼經驗去做比對，只是個感覺：  1. tensorflow是google brai

江洋大盗与鸭子 2020-07-07 06:51:53

Win 10下 pip安裝 Tensorflow(沒有安裝Anaconda)

目錄： 1.快速安裝Tensorflow 2.import問題解決 感謝博客https://blog.csdn.net/weixin_38109583/article/details/93376954提供的鏡像鏈接   #########

改不了昵称呀 2020-07-06 20:25:43

解決升級tensorflow到2.0的 報錯

  今天在升級tensorflow 後，運行相關腳本 ，有兩個報錯   一個是報如下 報AttributeError: module 'tensorflow' has no attribute 'decode_raw' 網上度娘沒查到，

roxxo 2020-07-06 19:53:47

win10 查看Tensorflow 是GPU還是CPU

1."win+R"輸入“cmd”打開終端 2.輸入 >>>python >>> from tensorflow.python.client import device_lib >>> print(device_lib.list_local

改不了昵称呀 2020-07-06 19:48:09

1. Keras/Tensorflow 2.0 自定義數據集 Dataset

在學習Tensorflow的過程中，發現大多數教程都是基於現有的數據集進行訓練、優化。 例如：MNIST識別教程，一個 (x_train, y_train), (x_test, y_test) = mnist.load_data() 即

Drknown 2020-07-06 02:19:56

利用ImageDataGenerator構建數據集

ImageDataGenerator屬於Keras的圖片預處理模塊，在Tensorflow 2.0中已集成了Keras的API。 本文利用ImageDataGenerator來完成一個基本的機器學習流程： 檢查並瞭解數據 建立輸入管道 建

Drknown 2020-07-06 02:19:56

tensorflow搭建簡單迴歸模型

前言 這是使用tensorflow 搭建一個簡單的迴歸模型，用於熟悉tensorflow的基本操作和使用方法。 模型說明 這是一個簡單的線性迴歸模型 損失函數是均方誤差 這個有機器學習基礎的同學應該很熟悉了。 模型數據 造

方naoke 2020-07-05 00:28:46

分類問題中 one-hot向量格式

one-hot向量   one-hot向量將類別變量轉換爲機器學習算法易於利用的一種形式的過程，這個向量的表示爲一項屬性的特徵向量，也就是同一時間只有一個激活點（不爲0），這個向量只有一個特徵是不爲0的，其他都是0，特別稀疏。   舉個例

ding_programmer 2020-07-04 17:00:45

linux windows mac 下TensorFlow不同版本與cuda版本之間的對應關係

https://www.tensorflow.org/install/source#common_installation_problems 經過測試的構建配置 Linux CPU 版本 Python 版本 編譯器 構建工具 tensor

程序员鱼大 2020-07-04 16:50:20

卷積神經網絡 Tensorflow

import tensorflow as tf #通過tf.get_variable的方式創建過濾器的權重變量和偏置項變量 filter_weight = tf.get_variable('weights',[5,3,3,16]

杨Laughing 2020-07-03 12:03:23

【Tensorflow】tf.clip_by_value()的使用

tf.clip_by_value(A, min, max)：輸入一個張量A，把A中的每一個元素的值都壓縮在min和max之間。 小於min的讓它等於min，大於max的元素的值等於max。 例如： import tensorflow a

nuohanfengyun 2020-07-03 08:12:44