原创 MXNet學習7——Logistic Regression

概要 之前介紹了Linear Regression,其實也是官方教程的代碼,這裏對照着原有的線性迴歸實現 Logistic Regression。 正文 import numpy as np import mxnet as mx

原创 numpy.unravel_index 說明

官網的api說明如下: numpy.unravel_index(indices, dims, order='C') Converts a flat index or array of flat indices into a tuple o

原创 MXNet學習8——自己寫operator實現Logistic Regression

概要 上一篇博客介紹了Logistic Regression,其中最主要的symbol是官方已經實現好的例子,不知道細節是怎麼樣的,而且結果看着十分奇怪,所以打算自己實現一個,參考官方的例子,How to Create New Opera

原创 MXNet學習4——Mixed Programing

概要 前面的文章中講到了Symbol和NDArray,介紹瞭如何從零開始訓練神經網絡。這種混雜風是MXNet相較與其他深度學習框架的不同的地方,值得一提的是MXNet名字中的”MX”同樣也蘊含着混合(mixed)的意思。官方提供了很多的方

原创 MXNet學習1——數據模擬

寫在前面: 最近在學習神經網絡,正好趕上國內外一大批深度學習框架開源,亂花漸欲迷人眼。看了挺多對比文章再結合自身的需求,最終選擇了MXNet(0.9)。事實上一開始選擇的是Tensorflow(r0.12),然而本身基礎太差卻又恰好遇到到

原创 MXNet學習6——Linear Regression

概要 前面的文章介紹了MXNet的基礎知識,類似於語法知識,這一節介紹MXNet使用機器學習的一個基本模型–線性迴歸。線性迴歸內部的具體實現不會涉及,我們是在上層使用,而MXNet這類的深度學習框架意義就在這裏。官方代碼請點擊這裏 正文

原创 MXNet學習5——Data Parallelism with Multi-devices

概要 上一篇文章講到Mixed Programing,主要描述了混合Symbol和NDArray從頭搭建網絡並訓練,這一篇緊接上文介紹MXNet中如何設計程序並行訓練。官方代碼請看這裏 正文 MXNet是可以自動將計算並行化的,如果有多個

原创 MXNet學習2——Module

概要 本節介紹MXNet中一個重要的概念,Module(模塊),涉及到的內容包括簡單的神經網絡,模型的構造,參數的訓練以及更新,模型預測等。通過本節大概瞭解Module中一些重要的屬性和方法,對於MXNet的機制有初步的瞭解,需要注意的是

原创 Centos7下joshua6.0.5完整的安裝過程

之前在linux下安裝joshua一直出錯,嘗試了很久,後來在一個比較乾淨的centos7下安裝,終於成功了,記錄一下步驟防止忘記。需要特別注意的是boost的安裝,直接關係到之後joshua能否正常運行。另外,以下的步驟只要把相關文件下

原创 MXNet學習3——Symbol

概要 本節介紹MXNet中的Symbol(模塊)。Symbol是MXNet中另一個重要的概念,可以通過 mxnet.symbol 或者 mxnet.sym 使用。一個symbol表示一個具有多輸出的符號表達式,表達式由多個運算組成,運算可

原创 理解word2vec的訓練過程

生成詞向量是自然語言處理中的基本過程,此前對此只知道使用但是一直不知道其原理。 最近補課,仔細學習了word2vec,上網查資料的時候發現很多博客資料上講到的主要是理論,不好全面理解;而對於介紹應用的文章又偏重於某個工具的使用而不是訓練