原创 第二講:操作系統運行環境

1、計算機硬件介紹 1.1,處理器 堆棧指針:一種寄存器,指向內存當前棧的頂端 cpu的兩種模式:內核態、用戶態。 當在內核態運行時,可以訪問整個硬件。在用戶態時有關IO和內存保護的所有指令時不可以使用的。用戶程序必須使用 系

原创 lecture9,CNN Architectures

question CNN爲什麼具有一定的旋轉不變性(translation invariance)? 1,AlexNet 2,VGGNet 3,GoogleNet 4,ResNet 5,NetworkInNetwork

原创 第四講,網絡應用(下)

4.1,P2P應用原理與文件分發 具體應用如BitTorrent 4.2,P2P應用:索引技術 1,集中式索引,如Napster。存在單節點失效,性能瓶頸,版權問題的缺點。 2,洪泛式查詢,完全分佈式架構,依賴TCP連接,會給

原创 numpy庫函數補充

1, np.argsort : Returns the indices that would sort an array. 在 KNN 中取前 K 個最小值時就可以使用這個函數 >>> x = np.array([3, 1, 2]

原创 lecture 3,Loss Function and Optimization

1,處理指數計算問題時,爲了防止overflow 的處理方法(我還是存在疑問,這相當與求超級大的數的導數): f = np.array([123, 456, 789]) # example with 3 classes and e

原创 第二講,計算機網絡概述(下)

2.1,計算機網絡性能 1,網絡的“帶寬”通常是數字信道所能傳送的“最高數據率”,單位: b/s (bps) 2,四種分組延遲: 節點處理延遲,時間通常很短。 排隊延遲 傳輸延遲 (等於分組長度/鏈路帶寬) 傳播延遲 3,時延

原创 lecture6,Training Neural Networks, Part I

1,to be done 1,slides 21頁中爲什麼w 的梯度可以爲全負值 (我認爲只能爲全正值,因爲x 爲正,wx+b 對w 的gradient爲x ,而activation function對wx+b 的gradien

原创 13章,拷貝控制

13.1,拷貝、賦值與銷燬 13.1.1拷貝構造函數 直接初始化與拷貝初始化的區別:直接初始化使用函數匹配,拷貝初始化是將右側對象拷貝到正在創建的對象中 A(const A&) EX1: 1,拷貝構造函數的定義: 一個構

原创 lecture4,backpropagation and nerual network

1,computational graphs,一系列簡單的計算過程組成的一張圖,易於求導(理論指導爲鏈式法則) a,. feedward b,backward:前一個輸入當作未知數求導,因爲前一個輸入包含着與未知數w的關係。即

原创 第三講,應用層

3.1 網絡應用的體系結構 1,客戶機/服務器結構 2,點對點結構,相比C/S結構優點是高度可伸縮,缺點是難於管理。 3,混合結構,如Napster(社交網絡中出現過,hhhh)。文件傳輸使用P2P結構,文件搜索採用C/S結構

原创 lecture10,Recurrent Neural Network

Question 爲什麼要避免梯度消失?當前層的loss的在對權值矩陣(注意:每個時刻的權值矩陣是相同的)求導時,由於鏈式法則,得到的是一個求和項,其中每一項對應與前面一層對權值矩陣的求導,而在rnn中梯度消失是指求和項中當前層較

原创 lecture7,Training Neural Networks, Part 2

1,Fancier optimization sgd存在的問題: Very slow progress along shallow dimension, jitter along steep direction。if loss

原创 11章,關聯容器

11.2,關聯容器概述 11.2.2關鍵字類型的要求 用來阻止一個容器中元素的操作的類型也是容器類型的一部分: bool compareIsbn(const Sales_data &lhs,const Sales_data &r

原创 R-CNN

Rich feature hierarchies for accurate object detection and semantic segmentation Here is the paper link. To under

原创 Variational Auto-Encoder tutuiral

文章來源: https://arxiv.org/pdf/1606.05908.pdf 點贊 收藏 分享 文章舉報 陳卓爲 發佈了57 篇原創文章 · 獲贊 4 ·