原创 商業與機器學習
目錄背景ML SurpriseML的10大陷阱業務中ML從無到有的5個階段 背景 關於機器學習（Machine Learning，ML）技術方面的文章和書籍已經非常多了。但是關於企業、商業和ML結合的一些思路方法卻非常少。最近看了Co
2019-04-02 05:51:04
原创 Fast.ai Machine Learning for coders - Lesson 1
之前一直在吳恩達的公開課那塊學習，一方面學習了一些算法以及思想，另一方面也瞭解了一些理論。現在開始看 fast.ai，以實踐著稱。作者Jeremy Howard並不是學術圈的人，是工業界的人，在Kaggle 2010和2011上得
2018-11-07 02:42:17
原创 吳恩達Deeplearning.ai 知識點梳理（course 5，week 3）
本週主要講了多種sequence to sequence結構，包括conditional language model，beam searching，bleu，attention，speech recognition，以及trig
2018-09-26 02:25:46
1
原创 吳恩達Deeplearning.ai 知識點梳理（course 5，week 2）
本週主要講Word Embeddings， Word Embedding Intro Word Representation 之前我們表示word，都是採用one-hot進行表示。這種方式有一個缺點，就是詞和詞之間是正交的
2018-09-17 07:22:18
原创 吳恩達Deeplearning.ai 知識點梳理（course 5，week 1）
本週主要講的是RNN，LSTM。 序列數據在很多場景下都有出現，下面是幾個序列模型的例子。 幾個例子 例如語音識別（序列-序列），音樂生成（1-序列），情感分類（序列-1）等等。 輸入句子是向量xx ，每一個詞
2018-09-09 19:58:09
原创 What are good ways to handle discrete and continuous inputs together?
Rescale bounded continuous features: All continuous input that are bounded, rescale them to [-1, 1] through x = (2x - m
2018-09-09 19:58:09
原创 DNN反向傳播推導的嚴格表述
近期把DNN的反向傳播又好好的研究了一下。之前一直有疑慮是因爲很多文檔裏邊出現∂z(l+1)∂z(l)∂z(l+1)∂z(l) 這種表達式，然後z(l+1)z(l+1) 和z(l)z(l) 還是矩陣，這下就變得非常煩人了，因爲沒有哪本
2018-09-04 20:17:44
原创 深度學習中的Matrix Calculus (1)： Jacobian And Chain Rule
在深度學習裏邊，一個最重要的過程是Back Propagation，也就是計算梯度用於做梯度下降優化。然而在BP中，充斥着大量的矩陣微分運算以及各種轉化技巧，導致沒有學過矩陣論或者矩陣分析的童鞋感到壓力山大，所以《深度學習反向求導》這
2018-09-04 20:17:43
原创 吳恩達機器學習筆記week 8
本週主要講的是聚類和降維。 聚類 聚類是一種無監督的學習，應用實例有把一堆文章按主題分類，將T恤的尺寸分成幾類，例如SML號等。這裏講的是K-Means。 K-Means其實原理很簡單，主要是三步： 初始化K類的初始中心點。
2018-09-04 20:17:43
原创 吳恩達機器學習課筆記week 6
其實這節課主要還是再將ML Strategy，但是我覺得有幾個點很好，總結在這裏： 評價模型時： 首先有一個對Hypothesis的評價指標，錯誤率啊，正確率啊，等等。 然後肯定也得有train/val/test數據集了。這裏是小數
2018-09-04 20:17:42
原创 吳恩達機器學習課筆記week 3
本週主要講分類、邏輯迴歸以及正則化 分類 分類問題的幾個例子 判別一個郵件是/不是垃圾郵件 判別一個轉賬交易是/不是欺詐交易 判別腫瘤是惡性/良性 也就是說輸出的y的取值是{0,1}{0,1} ，0一般表示negative class
2018-09-04 20:17:41
原创 吳恩達機器學習課筆記week 4
本週將的是非線性Hypothesis。 爲什麼需要non-linear hypothesis？ 如果我們只是用多項式來表達的話，特徵數會以多項式的複雜度上升。比方說有N個輸入，2次的特徵，那麼我們就需要O(N^2)個特徵，3次的話，就
2018-09-04 20:17:41
原创 Matrix Calculus Reference Links
http://explained.ai/matrix-calculus/index.html 基本的內容，主要涵蓋多元微積分的Jacobian矩陣等。 https://www.comp.nus.edu.sg/~cs5240/lectur
2018-09-04 20:17:41
1
原创 基本產品與商業邏輯
這是一個隨筆。 週末開車出去玩，途中一直在聽劉潤《五分鐘商學院》，聽到一個案例，覺得不錯，記錄在這裏。 產品，或者說基本的商業邏輯其實很簡單，總結成幾句話就是：人無我有，人有我優，人優我廉。這個可以說是高度精煉了整個產品/
2018-09-04 20:17:41
原创 深度學習中的Matrix Calculus (2)： Trace And Matrix Differential
本篇主要內容就是矩陣標量函數的求導，基本思路就是： 給標量函數套上跡trace； 利用跡和矩陣微分的性質進行化簡，化簡到df=tr((∂f∂x)Tdx)df=tr((∂f∂x)Tdx) 就可以了 然後就可以得到∂f∂x∂
2018-09-04 20:17:41