原创 tensorflow學習筆記(四十三):使用 tfdbg 來 debug

由於 tensorflow 在訓練的時候是在後臺運行的,所以使用 python 的 debug 工具來 debug tensorflow 的執行過程是不可行的,爲此,官方提供了一款debug 工具,名爲 tfdbg 有很多人覺得,

原创 c++複雜聲明

void (*funcPtr)(); 上面聲明瞭一個指向函數的指針,當碰到這樣一個比較複雜的聲明時,最好的方法是從 中間開始和向外擴展: 從中間開始:即 從變量名開始 像外擴展:即 先注意右邊最近的項,已右括號結束,再注意左邊的

原创 MXNET學習筆記(一):Module類(1)

Module 是 mxnet 提供給用戶的一個高級封裝的類。有了它,我們可以很容易的來訓練模型。 Module 包含以下單元的一個 wraper symbol : 用來表示網絡前向過程的 symbol。 optimizer: 優

原创 pytorch: 如何優雅的將 int list 轉成 one-hot形式

雖然 pytorch 已經升級到 0.2.0 了,但是,貌似依舊沒有簡單的 api 來幫助我們快速將 int list 轉成 one-hot。那麼,如何優雅的實現 one-hot 代碼呢? def one_hot(ids, out

原创 pytorch學習筆記(十一):fine-tune 預訓練的模型

torchvision 中包含了很多預訓練好的模型,這樣就使得 fine-tune 非常容易。本文主要介紹如何 fine-tune torchvision 中預訓練好的模型。 安裝 pip install torchvision

原创 pytorch學習筆記(二十): ignite (寫更少的代碼訓練模型)

最近自己想寫一個高級一點的抽象來更方便的訓練 pytorch 網絡, 無意間發現, pytorch 用戶下面有個 ignite repo, 好奇就看了一下這是個什麼東西. 原來是 pytorch 已經提供了一個高級抽象庫來訓練 p

原创 python代碼長度過長時候換行的幾種方式

字符串過長 # 三個雙引號, print(a) 出來的是兩行 a = """hello world hello world""" # 三個單引號, print(b) 出來的是兩行 b = ''' hello world he

原创 一段代碼搞懂 gpu memory

一段代碼搞懂 gpu memory GPU 的 memory 分爲 三種,io速度從快到慢排序爲: local memory shared memory global memory 其中 shared memory 的io 速

原创 mxnet-Gluon(一):mxnet-Gluon 入門

沐神已經提供了一份官方的文檔,爲什麼要寫這麼一篇博客: 沐神提供的中文文檔質量是非常高的,地址,但是感覺需要看一段時間才能上手 Gluon, 本博客結構模仿 pytorch 的60分鐘入門博客編寫,旨在用最快的時間可以直接上手Gl

原创 softmax交叉熵與最大似然估計

其實我們常用的 softmax 交叉熵損失函數,和 最大似然估計是等價的。 首先來看 softmax 交叉熵目標函數是什麼樣子的: 對於N個樣本 obj=−∑nNy(n)jlogf(x(n);w)j=−∑nNlogf(x(n)

原创 MXNET學習筆記(二):模型的保存與加載

當序列化 NDArray 的時候,我們序列化的是NDArray 中保存的 tensor 值。當序列化 Symbol 的時候,我們序列化的是 Graph。 Symbol序列化 當序列化 Symbol 的時候,通常使用 json 文件

原创 tensorflow學習筆記(四十四):用Queue保存更復雜的關係

當查看 tensorflow 中提供的 Queue 的類的時候,會發現有個 dtypes 參數,這個參數代表 Queue 中元素是什麼類型的,如果 dtypes=[tf.string, tf.int64] ,這個表示,Queue

原创 python裝飾器

從參考資料給的例子分析: def log(func): def wrapper(*args, **kw): print('call %s():' % func.__name__) retur

原创 Learning to Learn by Gradient Descent by Gradient Descent網絡前向計算圖

Learning to Learn By Gradient Descent by Gradient Descent 前向計算圖(黃色線表示梯度流動方向) Optimization as a Model For Few-Shot

原创 sql:case when

select distinct Date, sum(case Result when '勝' then 1 else 0 end) as '勝', sum(case Result when '負' then 1 else 0 en