原创 新書出版:《分佈式機器學習——系統、工程與實戰》
0x01 廣告 經過一年多的努力,我的書 《分佈式機器學習——系統、工程與實戰》終於上架了,在這裏打個廣告。 詳細信息請參見: https://item.jd.com/10079265638834.html http://product.
原创 [源碼解析] TensorFlow 分佈式之 ClusterCoordinator
[源碼解析] TensorFlow 分佈式之 ClusterCoordinator 目錄[源碼解析] TensorFlow 分佈式之 ClusterCoordinator1. 思路1.1 使用1.2 問題點2. 定義2.1 Schedule
原创 [源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V2
[源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V2 目錄[源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V21. 如何使用1.1 訓練方法1.2
原创 [源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V1
[源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V1 目錄[源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V11. 思路1.1 總體邏輯1.2 使用
原创 [源碼解析] TensorFlow 分佈式之 MirroredStrategy 分發計算
[源碼解析] TensorFlow 分佈式之 MirroredStrategy 分發計算 目錄[源碼解析] TensorFlow 分佈式之 MirroredStrategy 分發計算0x1. 運行1.1 基類 Strategy1.2 Str
原创 [源碼解析] TensorFlow 分佈式之 MirroredStrategy
[源碼解析] TensorFlow 分佈式之 MirroredStrategy 目錄[源碼解析] TensorFlow 分佈式之 MirroredStrategy1. 設計&思路1.1 主要邏輯1.2 使用1.3 分析思路2. 定義2.1
原创 [源碼解析] TensorFlow 之 分佈式變量
[源碼解析] TensorFlow 之 分佈式變量 目錄[源碼解析] TensorFlow 之 分佈式變量1. MirroredVariable1.1 定義1.2 相關類1.2.1 類體系1.2.2 DistributedValues定義使
原创 [源碼解析] TensorFlow 分佈式 DistributedStrategy 之基礎篇
[源碼解析] TensorFlow 分佈式 DistributedStrategy 之基礎篇 目錄[源碼解析] TensorFlow 分佈式 DistributedStrategy 之基礎篇1. StrategyBase1.1 初始化1.2
原创 [翻譯] 使用 TensorFlow 進行分佈式訓練
[翻譯] 使用 TensorFlow 進行分佈式訓練 目錄[翻譯] 使用 TensorFlow 進行分佈式訓練0x00 摘要1. 概述2. 策略類型2.1 MirroredStrategy2.2 TPUStrategy2.3 MultiWo
原创 [源碼解析] TensorFlow 分佈式環境(8) --- 通信機制
[源碼解析] TensorFlow 分佈式環境(8) --- 通信機制 目錄[源碼解析] TensorFlow 分佈式環境(8) --- 通信機制1. 機制1.1 消息標識符1.1.1 定義1.1.2 創建1.2 Rendezvous1.2
原创 [源碼解析] TensorFlow 分佈式環境(7) --- Worker 動態邏輯
[源碼解析] TensorFlow 分佈式環境(7) --- Worker 動態邏輯 目錄[源碼解析] TensorFlow 分佈式環境(7) --- Worker 動態邏輯1. 概述1.1 溫故1.2 知新2. 註冊子圖2.1 GrpcW
原创 [源碼解析] TensorFlow 分佈式環境(6) --- Master 動態邏輯
[源碼解析] TensorFlow 分佈式環境(6) --- Master 動態邏輯 目錄[源碼解析] TensorFlow 分佈式環境(6) --- Master 動態邏輯1. GrpcSession1.1 運行1.2 GrpcRemot
原创 [源碼解析] TensorFlow 分佈式環境(5) --- Session
[源碼解析] TensorFlow 分佈式環境(5) --- Session 目錄[源碼解析] TensorFlow 分佈式環境(5) --- Session1. 概述1.1 Session 分類1.2 會話流程1.2.1 MasterSe
原创 [源碼解析] TensorFlow 分佈式環境(4) --- WorkerCache
[源碼解析] TensorFlow 分佈式環境(4) --- WorkerCache 目錄[源碼解析] TensorFlow 分佈式環境(4) --- WorkerCache1. WorkerCache1.1 如何使用1.2 配置1.3 工
原创 [源碼解析] TensorFlow 分佈式環境(3)--- Worker 靜態邏輯
[源碼解析] TensorFlow 分佈式環境(3)--- Worker 靜態邏輯 目錄[源碼解析] TensorFlow 分佈式環境(3)--- Worker 靜態邏輯1. 繼承關係1.1 角色概念1.2 接口1.3 WorkerInte