原创 注意力 && Seq2seq模型
Attention Mechanism 注意力機制借鑑了人類的注意力思維方式，以獲得需要重點關注的目標區域 在 編碼器—解碼器（seq2seq) 中，解碼器在各個時間步依賴相同的背景變量（context vector）
2020-06-17 13:04:02
1
原创 自增主鍵的前世今生
引入： 使用MySQL建表時，我們通常會創建一個自增字段(AUTO_INCREMENT)，並以此字段作爲主鍵 本文將分三點闡述： 你可能不知道的自增主鍵 應對變化的自增主鍵 [坑]如果自增主鍵用完怎麼辦 1.你可能不知道的
2020-06-17 12:03:52
原创 What is this Process and Why is it Running【一】
在電腦被木馬攻擊之後一般情況下會產生與原有進程相似度極高的兩個及以上進程，爲了快速的解決木馬， 就要能盡最快速度分辨出哪些進程是正常的，哪些是不正常的。 提出一個通用的解決辦法，就是當找到相應的木馬進程之後，可以嘗試對某一個甚至某
2020-06-17 11:15:43
6
原创 Multilayer Perceptron & Classify image
MLP 以多層感知機爲例，概述多層神經網絡 隱藏層 此圖爲多層感知機的神經網絡圖，它含有一個隱藏層，該層中有5個隱藏單元。 表達公式 具體來說，給定一個小批量樣本X∈Rn×d\boldsymbol{X} \in \mathbb
2020-06-17 11:15:33
原创 詞嵌入之 Word2Vec
詞嵌入基礎 循環神經網絡的從零開始實現中使用 one-hot 向量表示單詞，雖然它們構造起來很容易，但通常並不是一個好選擇。 原因： one-hot 詞向量無法準確表達不同詞之間的相似度，如我們常常使用的餘弦相似度 任意單詞間
2020-06-17 11:15:33
原创 工欲善其事必先利其器_論彙編 IDE 的找尋
首先，貼圖爲證，先來見證結果。 好了，開始說正事… 論 Masm 的選取，歷經千辛萬苦，當然你可以選擇： VMware+MS-Dos MasmPlus DosBox + Masn + debug 【Tip】：第二種選擇在
2020-06-17 11:15:33
1
原创 Model fusion
Quote： Modeling and tuning 在此文中介紹到的多種機器學習類型中，我們通常會用到其中的 2 個甚至 2 個以上。如果我們要同時利用這些個模型，就需要將分別的訓練結果結合起來作爲總的訓練結果。 此
2020-06-07 22:49:55
原创 Comparison and Analysis of parseInt() method
Situation: 在只能存儲 32 位大小的有符號整數的環境背景下，給定一個字符串，將其轉換爲整數。 字符串 → 整數 將字符串參數作爲有符號的十進制整數進行解析 Java parseInt() 【專業的】 JD
2020-04-12 18:28:07
原创 CPU Sched - CPU 調度
Introduction 本文將介紹 CPU 高級策略之 CPU 調度，針對一系列調度策略展開。 THE CRUX Q： 如何制定調度策略？ 如何開發一個基本框架考慮調度策略？ 需要做哪些關鍵的假設？ 哪些指標是最重要的？ 最
2020-03-06 17:10:40
原创 Advanced Optimization
基於凸優化和梯度下降優化算法，進一步展開闡述 : Momentum; AdaGrad; RMSProp; AdaDelta; Adam Momentum 在隨機梯度下降中，我們提到，目標函數有關自變量的梯度代表了目標函數在自變
2020-02-23 19:39:45
原创 機器翻譯及其相關技術介紹
機器翻譯(MT)_實踐 將一段文本從一種語言自動翻譯爲另一種語言 用神經網絡解決這個問題通常稱爲神經機器翻譯（NMT）。 主要特徵：輸出是單詞序列而不是單個單詞。 輸出序列的長度可能與源序列的長度不同。 實現一個從英語到法語的
2020-02-22 05:43:04
2
原创 批量歸一化 && 殘差網絡
基於此前對於CNN的介紹 Fundamentals of Convolutional Neural Networks LeNet && ModernCNN 就深層次 CNN 的結構進一步探討歸一化和殘差網絡。 批量歸一化（Ba
2020-02-22 05:43:04
原创 Language Model & Data Sampling
語言模型 一段自然語言文本可以看作是一個離散時間序列，給定一個長度爲TTT的詞的序列w1,w2,…,wTw_1, w_2, \ldots, w_Tw1,w2,…,wT。 語言模型的目標就是評估該序列是否合理，即計算該序列的概
2020-02-22 05:43:04
原创 注意力機制和Seq2seq模型
Attention Mechanism 注意力機制借鑑了人類的注意力思維方式，以獲得需要重點關注的目標區域 在 編碼器—解碼器（seq2seq) 中，解碼器在各個時間步依賴相同的背景變量（context vector）
2020-02-22 05:43:04
原创 從追尋 flag 到認識 Robots Protocol（Robots協議）
Robots Protocol robots 協議，首先了解robots.txt robots.txt 是搜索引擎中訪問網站的時候要查看的第一個文件【是一種存放於網站根目錄下的ASCII編碼的文本文件】，它通常告訴網站搜索引擎的漫
2020-02-22 05:43:04