原创 隱馬爾科夫模型HMM（三）鮑姆-韋爾奇算法求解HMM參數
文章目錄HMM模型參數求解概述鮑姆-韋爾奇算法的推導鮑姆-韋爾奇算法流程總結 HMM模型參數求解概述 HMM模型參數求解根據已知的條件可以分爲兩種情況。 第一種情況較爲簡單，就是我們已知D個長度爲T的觀測序列和對應的隱藏狀態序列，
2020-07-03 13:01:58
13
原创 圖：定義與存儲
文章目錄圖的定義與基本術語圖Graph的定義ADT圖的存儲結構 圖的定義與基本術語 圖Graph的定義 圖是一種網狀數據結構，形式化定義如下： 集合DataObject中的所有元素具有相同的特性，V中數據元素常稱爲頂點(vert
2020-07-03 13:01:58
原创 LSA、PSLA、LDA和lda2vec進行主題建模
文章目錄概述LSA代碼實現PLSALDA代碼實現深度學習中的 LDA：lda2vec 在自然語言理解任務中，我們可以通過一系列的層次來提取含義——從單詞、句子、段落，再到文檔。在文檔層面，理解文本最有效的方式之一就是分析其主題。在
2019-08-23 07:34:14
19
原创 LSTM與BI-LSTM
文章目錄從RNN到LSTMLSTM模型結構剖析LSTM之遺忘門LSTM之輸入門LSTM之細胞狀態更新LSTM之輸出門LSTM前向傳播算法LSTM反向傳播算法推導關鍵點BiLSTM 從RNN到LSTM 在RNN模型裏，我們講到了RN
2019-08-23 07:34:14
4
原创 RNN(循環神經網絡)
文章目錄RNN概述RNN模型RNN前向傳播算法RNN反向傳播算法推導RNN小結 DNN的特例CNN的模型和前向反向傳播算法，這些算法都是前向反饋的，模型的輸出和模型本身沒有關聯關係。今天我們就討論另一類輸出和模型間有反饋的神經網絡
2019-08-23 07:34:14
原创 DNN
文章目錄前向傳播從感知機到神經網絡DNN的基本結構DNN前向傳播算法數學原理DNN前向傳播算法反向傳播算法(BP)DNN反向傳播算法要解決的問題DNN反向傳播算法的基本思路DNN反向傳播算法過程損失函數和激活函數的選擇均方差損失函
2019-08-23 07:34:14
原创 條件隨機場
文章目錄概率無向圖模型模型定義概率無向圖模型:概率無向圖模型的因子分解條件隨機場的模型表示linear-chain 條件隨機場CRF 的定義CRF 的參數化形式CRF 的簡化形式條件隨機場的矩陣形式條件隨機場的概率計算問題前向-後
2019-08-06 07:13:01
原创 Attention is all you need(Transform)
文章目錄從宏觀看Transformer將張量引入圖景現在我們開始“編碼”從宏觀視角看自注意力機制從微觀視角看自注意力機制什麼是查詢向量、鍵向量和值向量向量？通過矩陣運算實現自注意力機制“大戰多頭怪”使用位置編碼表示序列的順序殘差模
2019-07-30 06:59:00
原创 卷積神經網絡
文章目錄卷積神經網絡卷積層卷積參數共享原則池化層卷積神經網絡的組成 卷積神經網絡 卷積神經網絡（Convolutional Neural Network，CNN）是一種前饋神經網絡，它的人工神經元可以響應一部分覆蓋範圍內的周圍單元
2019-07-30 06:59:00
原创 pytorch-1
文章目錄TensorVariableVariable的創建和使用三、標量求導計算圖四、矩陣求導計算圖五、Variable放到GPU上執行六、Variable轉Numpy與Numpy轉VariableDataset和DataLoad
2019-07-30 06:59:00
3
原创 十大排序算法（python）
文章目錄十大排序算法排序算法介紹非線性時間比較類排序：線性時間非比較類排序：相關概念交換排序1冒泡排序（Bubble Sort）2 快速排序(Quick Sort)插入排序3 簡單插入排序(Insert Sort)4希爾排序(Sh
2019-07-30 06:59:00
原创 常用的查找算法(python)
文章目錄基本概念無序表查找有序表查找線性索引查找稠密索引分塊索引倒排索引五、二叉排序樹平衡二叉樹散列表（哈希表）散列函數的構造方法處理散列衝突散列表查找性能分析 基本概念 查找（Searching）就是根據給定的某個值，在查找表中
2019-07-30 06:59:00
原创 隱馬爾科夫模型HMM（四）維特比算法解碼隱藏狀態序列
HMM最可能隱藏狀態序列求解概述 在HMM模型的解碼問題中，給定模型λ=(A,B,Π)和觀測序列O={o1,o2,...oT}O =\{o_1,o_2,...o_T\}O={o1,o2,...oT}，求給定觀測序列O條件下，
2019-07-18 05:58:22
原创 隱馬爾科夫模型HMM（二）前向後向算法評估觀察序列概率
文章目錄HMM問題一：求觀測序列的概率暴力求解用前向算法求HMM觀測序列的概率前向算法。HMM前向算法求解實例用後向算法求HMM觀測序列的概率HMM常用概率的計算 HMM問題一：求觀測序列的概率 首先我們回顧下HMM模型的問題一。
2019-07-11 09:29:51
7