一、前言
自然語言是人類智慧的結晶,自然語言處理是人工智能中最爲困難的問題之一,而對自然語言處理的研究也是充滿魅力和挑戰的。 通過經典的斯坦福cs224n教程,讓我們一起和自然語言處理共舞!也希望大家能夠在NLP領域有所成就!
二、先修知識(學習的過程中可以遇到問題後再複習)
- 瞭解python基礎知識
- 瞭解高等數學、概率論、線性代數知識
- 瞭解基礎機器學習算法:梯度下降、線性迴歸、邏輯迴歸、Softmax、SVM、PAC(先修課程斯坦福cs229 或者周志華西瓜書)
- 具有英語4級水平(深度學習學習材料、論文基本都是英文,一定要閱讀英文原文,進步和提高的速度會加快!!!!)
- 以上知識要求內容可在最下方的知識工具中查找
三、每週學習時間安排
每週具體學習時間劃分爲4個部分:
- 1部分安排週一到週二
- 2部分安排在週四到週五
- 3部分安排在週日
- 4部分作業是本週任何時候空餘時間
- 週日晚上提交作業運行截圖
- 週三、週六休息^_^
(以下的部分鏈接在手機端無法正常顯示,請複製鏈接到電腦瀏覽器打開)
四、分節學習內容
第1部分學習任務:
(1)觀看自然語言處理課學習緒論,瞭解深度學習的概括和應用案例以及訓練營後續的一些學習安排
學習時長:11/30—12/2
緒論視頻地址: https://m.weike.fm/lecture/10194068
(2)自然語言處理和深度學習簡介,觀看課件lecture01、視頻1、學習筆記
學習時長:11/30—12/4
- 課件: lecture01(鏈接地址: https://github.com/learning511/cs224n-learning-camp/blob/master/lecture-notes/cs224n-2017-lecture1.pdf )
- 觀看視頻1(鏈接地址: https://www.bilibili.com/video/av30326868/?spm_id_from=333 .788.videocard.0)
- 學習筆記:自然語言處理與深度學習簡介(鏈接地址: http://www.hankcs.com/nlp/cs224n-introduction-to-nlp-and-deep-learning.html )
第4部分作業:Assignment 1.1-1.2(鏈接地址: https://github.com/learning511/cs224n-learning-camp/blob/master/Assignmnet.md )
- 1.1 Softmax 算法
- 1.2 Neural Network Basics 神經網絡基礎實現
完成時間:任何空餘時間
作業截止提交時間:12/9號之前
作業提交指南:
將作業發送到訓練營公共郵箱即可,訓練營以打卡爲主,不用提交作業。以下爲注意事項:
<0> 課程資料:鏈接 ( https://pan.baidu.com/share/init?surl=p1J9kyoNZIwqCRmaX6lvoQ )密碼:zwjr
<1> 訓練營代碼公共郵箱:[email protected]
<2> 將每週作業壓縮成zip文件,文件名爲“學號+作業編號”,例如:"NLP010037-01.zip"
<3> 注意不要改變作業中的《方法名》《類名》不然會檢測失敗!!
下圖爲提交示例:
課程資料:
課程主頁: https://web.stanford.edu/class/cs224n /
中文筆記: http://www.hankcs.com/nlp/cs224n-introduction-to-nlp-and-deep-learning.html
課程視頻: https://www.bilibili.com/video/av30326868/?spm_id_from=333 .788.videocard.0
實驗環境推薦使用Linux或者Mac系統,以下環境搭建方法皆適用:
· Docker環境配置: https://github.com/ufoym/deepo
· 本地環境配置: https://github.com/learning511/cs224n-learning-camp/blob/master/environment.md
註冊一個github賬號:github.com
後續發佈的一些project和exercise會在這個github下:
https://github.com/learning511/cs224n-learning-camp
重要的一些資源:
深度學習斯坦福教程: http://deeplearning.stanford.edu/wiki/index.php/UFLDL%E6%95%99%E7%A8%8B
廖雪峯python3教程: https://www.liaoxuefeng.com/article/001432619295115c918a094d8954bd493037b03d27bf9a9000
github教程: https://www.liaoxuefeng.com/wiki/0013739516305929606dd18361248578c67b8067c8c017b000
莫煩機器學習教程: http://morvanzhou.github.io/tutorials /
深度學習經典論文: https://github.com/floodsung/Deep-Learning-Papers-Reading-Roadmap
斯坦福cs229代碼(機器學習算法python徒手實現): https://github.com/nsoojin/coursera-ml-py
吳恩達機器學習新書:machine learning yearning: https://github.com/AcceptedDoge/machine-learning-yearning-cn
清華大學NLP實驗室總結機器閱讀論文、數據集: https://github.com/thunlp/RCPapers
本人博客(機器學習基礎算法專題): https://blog.csdn.net/dukuku5038/article/details/82253966
本人博客(深度學習專題): https://blog.csdn.net/column/details/28693.html
斯坦福cs20I課件: https://github.com/learning511/cs224n-learning-camp/tree/master/cs20is
AI比賽經驗+開源代碼彙總: https://blog.csdn.net/dukuku5038/article/details/84195750
知識工具
爲了讓大家逐漸適應英文閱讀,複習材料我們有中英兩個版本,但是推薦大家讀英文
數學工具
斯坦福資料:
- 線性代數(鏈接地址: http://web.stanford.edu/class/cs224n/readings/cs229-linalg.pdf )
- 概率論(鏈接地址: http://101.96.10.44/web.stanford.edu/class/cs224n/readings/cs229-prob.pdf )
- 凸函數優化(鏈接地址: http://101.96.10.43/web.stanford.edu/class/cs224n/readings/cs229-cvxopt.pdf )
- 隨機梯度下降算法(鏈接地址: http://cs231n.github.io/optimization-1 /)
中文資料:
- 機器學習中的數學基本知識(鏈接地址: https://www.cnblogs.com/steven-yang/p/6348112.html )
- 統計學習方法(鏈接地址: http://vdisk.weibo.com/s/vfFpMc1YgPOr )
- 大學數學課本(從故紙堆裏翻出來^_^)
編程工具
斯坦福資料:
- Python複習(鏈接地址: http://web.stanford.edu/class/cs224n/lectures/python-review.pdf )
- TensorFlow教程(鏈接地址: https://github.com/open-source-for-science/TensorFlow-Course#why-use-tensorflow )
中文資料:
- 廖雪峯python3教程(鏈接地址: https://www.liaoxuefeng.com/article/001432619295115c918a094d8954bd493037b03d27bf9a9000 )
- 莫煩TensorFlow教程(鏈接地址: https://morvanzhou.github.io/tutorials/machine-learning/tensorflow /)
摘自微信公衆號: 深度之眼