原创 [源碼解析] TensorFlow 分佈式之 ClusterCoordinator

[源碼解析] TensorFlow 分佈式之 ClusterCoordinator 目錄[源碼解析] TensorFlow 分佈式之 ClusterCoordinator1. 思路1.1 使用1.2 問題點2. 定義2.1 Schedule

原创 [源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V2

[源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V2 目錄[源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V21. 如何使用1.1 訓練方法1.2

原创 [源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V1

[源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V1 目錄[源碼解析] TensorFlow 分佈式之 ParameterServerStrategy V11. 思路1.1 總體邏輯1.2 使用

原创 [源碼解析] TensorFlow 分佈式之 MirroredStrategy 分發計算

[源碼解析] TensorFlow 分佈式之 MirroredStrategy 分發計算 目錄[源碼解析] TensorFlow 分佈式之 MirroredStrategy 分發計算0x1. 運行1.1 基類 Strategy1.2 Str

原创 [源碼解析] TensorFlow 分佈式之 MirroredStrategy

[源碼解析] TensorFlow 分佈式之 MirroredStrategy 目錄[源碼解析] TensorFlow 分佈式之 MirroredStrategy1. 設計&思路1.1 主要邏輯1.2 使用1.3 分析思路2. 定義2.1

原创 [源碼解析] TensorFlow 之 分佈式變量

[源碼解析] TensorFlow 之 分佈式變量 目錄[源碼解析] TensorFlow 之 分佈式變量1. MirroredVariable1.1 定義1.2 相關類1.2.1 類體系1.2.2 DistributedValues定義使

原创 [源碼解析] TensorFlow 分佈式 DistributedStrategy 之基礎篇

[源碼解析] TensorFlow 分佈式 DistributedStrategy 之基礎篇 目錄[源碼解析] TensorFlow 分佈式 DistributedStrategy 之基礎篇1. StrategyBase1.1 初始化1.2

原创 [翻譯] 使用 TensorFlow 進行分佈式訓練

[翻譯] 使用 TensorFlow 進行分佈式訓練 目錄[翻譯] 使用 TensorFlow 進行分佈式訓練0x00 摘要1. 概述2. 策略類型2.1 MirroredStrategy2.2 TPUStrategy2.3 MultiWo

原创 [源碼解析] TensorFlow 分佈式環境(8) --- 通信機制

[源碼解析] TensorFlow 分佈式環境(8) --- 通信機制 目錄[源碼解析] TensorFlow 分佈式環境(8) --- 通信機制1. 機制1.1 消息標識符1.1.1 定義1.1.2 創建1.2 Rendezvous1.2

原创 [源碼解析] TensorFlow 分佈式環境(7) --- Worker 動態邏輯

[源碼解析] TensorFlow 分佈式環境(7) --- Worker 動態邏輯 目錄[源碼解析] TensorFlow 分佈式環境(7) --- Worker 動態邏輯1. 概述1.1 溫故1.2 知新2. 註冊子圖2.1 GrpcW

原创 [源碼解析] TensorFlow 分佈式環境(6) --- Master 動態邏輯

[源碼解析] TensorFlow 分佈式環境(6) --- Master 動態邏輯 目錄[源碼解析] TensorFlow 分佈式環境(6) --- Master 動態邏輯1. GrpcSession1.1 運行1.2 GrpcRemot

原创 [源碼解析] TensorFlow 分佈式環境(5) --- Session

[源碼解析] TensorFlow 分佈式環境(5) --- Session 目錄[源碼解析] TensorFlow 分佈式環境(5) --- Session1. 概述1.1 Session 分類1.2 會話流程1.2.1 MasterSe

原创 [源碼解析] TensorFlow 分佈式環境(4) --- WorkerCache

[源碼解析] TensorFlow 分佈式環境(4) --- WorkerCache 目錄[源碼解析] TensorFlow 分佈式環境(4) --- WorkerCache1. WorkerCache1.1 如何使用1.2 配置1.3 工

原创 [源碼解析] TensorFlow 分佈式環境(3)--- Worker 靜態邏輯

[源碼解析] TensorFlow 分佈式環境(3)--- Worker 靜態邏輯 目錄[源碼解析] TensorFlow 分佈式環境(3)--- Worker 靜態邏輯1. 繼承關係1.1 角色概念1.2 接口1.3 WorkerInte

原创 [源碼解析] TensorFlow 分佈式環境(2)---Master 靜態邏輯

[源碼解析] TensorFlow 分佈式環境(2)---Master 靜態邏輯 目錄[源碼解析] TensorFlow 分佈式環境(2)---Master 靜態邏輯1. 總述2. 接口2.1 接口規範2.2 MasterInterface