原创 C中的回調函數

將一個函數 A() 以指針形式作爲另外一個函數B(&A)的參數,可以在不改變原始程序的情況下,修改A()的實現方式。 如:A爲一個排序算法 sort(),用快速排序實現。我們在 B 函數中調用了sort()。當我們不想使用快排了,我們需要

原创 同步,異步,阻塞,非阻塞

同步:A 向 B 發一條消息,A必須等到B的迴應之後才結束等待狀態; 異步:A 向 B 發一條消息,A可以在發出請求之後,去幹別的事,當 B 完成信息準備後,發出一個通知信號告訴 A。回調函數(callback())可認爲就是一種通知信號

原创 TensorFlow CUBLAS_STATUS_NOT_INITIALIZED

 failed to create cublas handle: CUBLAS_STATUS_NOT_INITIALIZED 解決辦法: 命令前加  sudo 執行

原创 Network IN Network的理解

  上面二圖就是Network IN Network 具體我們可以來看第二張圖的一個MLPconverlution,一個MLPconverlution塊其實可以分爲兩步:一個正常的卷積,與一個1*1的卷積(或者說“選擇性”的全連接網絡

原创 dpkg: 處理歸檔 cuda-repo-ubuntu1604-8-0-local-ga2_8.0.61-1_amd64.deb (--install)時出錯: 無法訪問歸檔文件

ubantu 16.04,在安裝cuda時,在非root用戶下執行 sudo dpkg -i cuda-repo-ubuntu1604-8-0-local-ga2_8.0.61-1_amd64.deb 出現以下錯誤: dpkg: 處理歸檔

原创 空間域、頻域、高通濾波、低通濾波

最近由於深度學習做圖像,要看圖像處理的知識,看了幾篇博客,圖和大部分文字來自與那些博客,把知識點總結了一下: ① 通過觀察灰度分佈來描述一幅圖像稱爲空間域,觀察圖像變化的頻率被稱爲頻域。  ② 頻域濾波是在頻率域對圖像做處理的一種方法。步

原创 排序小feature(計數排序和基數排序)

基數排序爲什麼從低位開始排: [例如] 一個無序數列{655 392 694 436 29 826 171 180}; 先從最高位排序:{826 694 655 436 392 171 180 29}; 再對次高位排序:只能對高位是6

原创 信息熵,交叉熵,KL散度,JS散度之間的關係

(1)信息熵介紹: 對於連續型隨機變量,假設P爲隨機變量X的概率分佈,則p(x)爲隨機變量X在X = x處的概率,隨機變量X在x處的香農信息量爲: 香農信息量用於刻畫消除隨機變量X在x處的不確定性所需的信息量的大小。很容易看到:當 X

原创 C++ 之 引用

1.引用必須在聲明時將其初始化,不能先聲明後賦值。#include <iostream> using namespace std; int main() { int rats = 10; //聲明引用,旦未初始化 i

原创 C++ setw() 與 setfill()

在C++中,setw(int n)用來控制輸出間隔,(n-1個空格)。setw()默認填充的內容爲空格,可以setfill()配合使用設置其他字符填充。cout<<setfill('*')<<setw(5)<<'a'<<endl;則輸出:

原创 分分鐘理解機器學習梯度下降

介紹一下關於機器學習梯度下降自己的理解:上圖來自 Neural Networks and Deep Learning(美)Michael Nielsen 著如上圖所示,假設我們需要找到二元函數 C(v1,v2) 的最小值,根據微積分:  

原创 反向傳播的直觀理解 (以及爲什麼反向傳播是一種快速的算法)

解釋:公式 46 其實就是微分的定義公式,”W + εej  ”代表對於由 j 個 weight 構成的單位向量 W,在其他權重都不變的情況下,使得 Wj 微小的改變 ε(W爲單位向量,ej = 1,ε可正可負)。這個公式是向量形式。解釋

原创 解釋性語言和編譯性語言

解釋性語言和編譯性語言的定義:計算機不能直接理解高級語言,只能直接理解機器語言,所以必須要把高級語言翻譯成機器語言,計算機才能執行高級語言編寫的程序。翻譯的方式有兩種,一個是編譯,一個是解釋。兩種方式只是翻譯的時間不同。解釋性語言的定義:

原创 簡述爲什麼輸出層在使用sigmoid做激勵函數時, 代價函數用交叉熵比平方差更好

符號: C : 代價函數 w:weight b:biasη:學習速率在使用平方差作代價函數時:                                                                a = σ(z)

原创 pyhon編碼問題之由 u'\uxxx' 轉 \uxxx

u'\u5949\u8d24\n\u897f\u6e21\n\u5949\u8d24\u4e1c\u542f\u6276\u680f\u8def\uff0c\u897f\u81f3\u5357\u6a2a\u6cfe\u6e2f\uff0