原创 卷積LSTM網絡應用於時空序列預測

時空序列預測問題是輸入的是按照某一時刻之前若干個時刻表示空間信息的二維矩陣,預測某一時刻後面若干個時刻的空間狀態。可以形式化爲: 卷積LSTM(Convolutional LSTM)是把卷積神經網絡的思想和循環神經網絡的思想融合

原创 哈夫曼編碼(Huffman Coding)原理、運行步驟、python實現

哈夫曼編碼是貪心算法的一個典型應用。哈夫曼編碼利用每條數據出現的頻率(概率),從信息論的角度出發,將這些數據重新編碼。哈夫曼編碼的編碼結果是給出現頻率較高的數據一個較短的編碼,給出現頻率較低的數據一個較長的編碼。 讓我們舉個例子說

原创 Vijos 1067Warcraft III 守望者的煩惱(動態規劃+矩陣快速冪)

背景 守望者warden,長期在暗夜精靈的的首都艾薩琳內擔任視察監獄的任務,監獄是成長條行的,守望者warden擁有一個技能名叫“閃爍”,這個技能可以把她傳送到後面的監獄內查看,她比較懶,一般不查看完所有的監獄,只是從入口進入,然

原创 十大排序算法一句話概括

一句話概括十大排序算法的思想 冒泡排序:兩個相鄰元素比較,如果順序相反則交換位置。 插入排序:假設前面的數字都已經排好序,再向有序數組中插入一個元素,使得插入後的數組有序。 選擇排序:選擇未排序數組中最大或者最小的數組放在前面。

原创 極大似然估計、貝葉斯分類器

貝葉斯分類器解決的是分類問題。 假設模型的輸入特徵爲x,輸出結果爲y。首先我們需要弄明白幾個概念: 先驗概率:p(y) 後驗概率:p(y|x) 似然函數:p(x|y) 證據因子:p(x) 極大似然估計 極大似然估計可以看做是一

原创 線性代數常用知識點總結

正交矩陣 實矩陣A滿足: AAT=E {AA\mathop{ {} } \nolimits^{ {T} } =E} AAT=E 則A爲正交矩陣其中E爲單位矩陣。正交矩陣是標準正交基按列排列起來得到的矩陣。 正交矩陣是酉矩陣的在實數

原创 主成分分析(PCA)算法的介紹、解釋和證明

算法的目標 主成分分析(PCA)算法的目標是將一組p維的樣本數據降爲d維;需要滿足兩個條件: 樣本數據各點與其映射到d維中的點的距離儘量近。 樣本數據映射到d維之後,他們的投影之間的相互距離儘可能遠。 (其實這兩個條件是等價的

原创 吳恩達機器學習公開課

本文主要總結吳恩達老師機器學習公開課的知識點。課程共8次編程作業已經上傳到我的GitHub上了。這是作業鏈接 迴歸和分類 迴歸問題是指用已知數據擬合一個合適的假設函數h(x),或者可以理解爲曲線,來預測新輸入的變量的輸出結果,如給

原创 梯度提升決策樹(GBDT)算法簡介

梯度提升決策樹(GBDT:GradientBoostingDecisionTree)算法是集成學習中boosting的一種。總體思路是利用每個弱學習器計算當前輸出與真實值的殘差,然後講每個學習器輸出的殘差進行累加,以求接近真實值。

原创 決策樹(分類與迴歸)

決策樹算法的大概流程 首先我們要知道,決策樹是根據訓練集構造一個樹結構,每個分叉相當於一次判斷,每個葉子節點就是模型的輸出。如下圖所示: 步驟1:就對於每一個節點,選取最優分叉屬性。選擇最優屬性的方法有很多種,最常見的是信息

原创 Educational Codeforces Round 60 (Rated for Div. 2), problem: (C) Magic Ship 二分法

本題分析可知每天風向加自主航行可保證船不遠離目標。可以知道最大天數應爲m*(x1+y1),如果這些天不能抵達目的地則爲永遠不能到達,可以將本題轉化爲二分法查找類問題,用二分法查找找到可以到達目的地座標的最小的天數即可,算法複雜度爲

原创 快速理解正則表達式

正則表達式是用於匹配某個具有一定規律的字符串的方法。正則表達式本身是一個字符串形式,它描述了一個字符串集合。 正則表達式的一般形式 正則表達式的一般形式爲: ‘[]{}’。簡單來說就是匹配什麼樣的字符串幾次,即[什麼字符]{幾次

原创 快速冪算法原理和求解過程

數的快速冪 快速冪算法可以在O(logn)時間內完成對一個數求k次冪的操作。用了分治的思想,比如想要求a20,則只需求一次a10,然後在相乘即可。 遞歸方法求解 此方法較爲直觀。 int pow1(int a,int k){ i

原创 16KDD Convolutional Neural Networks for Steady Flow Approximation

本文簡介 以前空氣動力學的計算方法是傳統CFD算法,但是它需要的計算開銷大。本文提出了用CNN的方法,預測2D和3D的非均勻穩定層流(non-uniform steady laminar flow),在誤差允許範圍內比CFD快很多

原创 貝葉斯分類器

貝葉斯分類器解決的是分類問題。 假設模型的輸入特徵爲x,輸出結果爲y。首先我們需要弄明白幾個概念: 先驗概率:p(y) 後驗概率:p(y|x) 似然函數:p(x|y) 證據因子:p(x) 極大似然估計 極大似然估計可以看做是一