1.數學

數學是學不完的，也沒有幾個人能像博士一樣紮實地學好數學基礎，入門人工智能領域，其實只需要掌握必要的基礎知識就好。AI的數學基礎最主要是高等數學、線性代數、概率論與數理統計三門課程，這三門課程是本科必修的。這裏整理了一個簡易的數學入門文章。

數學基礎：高等數學 https://zhuanlan.zhihu.com/p/36311622

數學基礎：線性代數 https://zhuanlan.zhihu.com/p/36584206

數學基礎：概率論與數理統計 https://zhuanlan.zhihu.com/p/36584335

機器學習的數學基礎資料下載：

1.機器學習的數學基礎.docx 中文版，對高等數學、線性代數、概率論與數理統計三門課的公式做了總結

2) 斯坦福大學機器學習的數學基礎.pdf 原版英文材料，非常全面，建議英語好的同學直接學習這個材料下載鏈接: https://pan.baidu.com/s/1LaUlrJzy98CG1Wma9FgBtg 提取碼: hktx

推薦教材相比國內浙大版和同濟版的數學教材，通俗易懂，便於初學者更好地奠定數學基礎下載鏈接：https://blog.csdn.net/Datawhale/article/details/81744961

2.統計學

入門教材：

深入淺出統計學

進階教材：

商務與經濟統計

視頻

可汗學院統計學：http://open.163.com/special/Khan/khstatistics.html

3.編程

入門人工智能領域，推薦Python這門編程語言。

1) Python安裝：

關於python安裝包，我推薦下載Anaconda，Anaconda是一個用於科學計算的Python發行版，支持 Linux, Mac, Windows系統，提供了包管理與環境管理的功能，可以很方便地解決多版本Python並存、切換以及各種第三方包安裝問題。

下載地址：https://www.anaconda.com/download/ 推薦選Anaconda （python 3.7版本）

IDE：推薦使用pycharm，社區版免費下載地址：https://www.jetbrains.com/

安裝教程： Anaconda+Jupyter notebook+Pycharm： https://zhuanlan.zhihu.com/p/59027692

Ubuntu18.04深度學習環境配置(CUDA9+CUDNN7.4+TensorFlow1.8)： https://zhuanlan.zhihu.com/p/50302396

2) python入門的資料推薦

a.廖雪峯python學習筆記 https://blog.csdn.net/datawhale/article/category/7779959

b.python入門筆記作者李金，這個是jupyter notebook文件，把python的主要語法演示了一次，值得推薦。下載鏈接: https://pan.baidu.com/s/1IPZI5rygbIh5R5OuTHajzA 提取碼: 2bzh

c.南京大學python視頻教程這個教程非常值得推薦，python主要語法和常用的庫基本涵蓋了。查看地址：https://www.icourse163.org/course/0809NJU004-1001571005?from=study

看完這三個資料，python基本入門了，可以使用scikit-learn等機器學習庫來解決機器學習的問題了。

3）補充

代碼規範： https://zhuanlan.zhihu.com/p/59763076

numpy練習題： https://zhuanlan.zhihu.com/p/57872490 pandas練習題： https://zhuanlan.zhihu.com/p/56644669

數據分析/挖掘

1.數據分析的基礎書籍：

《利用python進行數據分析》這本書含有大量的實踐案例，你將學會如何利用各種Python庫（包括NumPy，Pandas、Matplotlib以及IPython等）高效地解決各式各樣的數據分析問題。如果把代碼都運行一次，基本上就能解決數據分析的大部分問題了。

2.特徵工程：

https://blog.csdn.net/Datawhale/article/details/83033869

3.數據挖掘項目：

https://blog.csdn.net/datawhale/article/details/80847662

機器學習

1.公開課 - 吳恩達《Machine Learning》

這絕對是機器學習入門的首選課程，沒有之一！即便你沒有紮實的機器學習所需的紮實的概率論、線性代數等數學基礎，也能輕鬆上手這門機器學習入門課，並體會到機器學習的無窮趣味。

課程主頁 https://www.coursera.org/learn/machine-learning

下載鏈接：https://pan.baidu.com/s/16065BpNAP7JEx_PpFHLSOw 提取碼：xcmi

中文視頻 網易雲課堂搬運了這門課，並由黃海廣等人翻譯了中文字幕。

觀看地址：https://study.163.com/course/introduction.htm?courseId=1004570029&trace_c_p_k2=d107b2ac93794ae79c941899f93332a1

中文筆記及作業代碼 https://github.com/fengdu78/Coursera-ML-AndrewNg-Notes

2.公開課 - 吳恩達 CS229

吳恩達在斯坦福教授的機器學習課程 CS229 與吳恩達在 Coursera 上的《Machine Learning》相似，但是有更多的數學要求和公式的推導，難度稍難一些。該課程對機器學習和統計模式識別進行了廣泛的介紹。主題包括：監督學習（生成/鑑別學習、參數/非參數學習、神經網絡、支持向量機）；無監督學習（聚類、降維、核方法）；學習理論（偏差/方差權衡；VC理論；大幅度利潤）；強化學習和自適應控制。本課程還將討論機器學習的最新應用，如機器人控制、數據挖掘、自主導航、生物信息學、語音識別以及文本和Web數據處理。

課程主頁：http://cs229.stanford.edu/

中文視頻

http://open.163.com/special/opencourse/machinelearning.html

中文筆記

https://kivy-cn.github.io/Stanford-CS-229-CN/#/

速查表

這份給力的資源貢獻者是一名斯坦福的畢業生 Shervine Amidi。作者關於 CS229 整理了一份超級詳細的速查表 https://zhuanlan.zhihu.com/p/56534902

作業代碼

https://github.com/Sierkinhane/CS229-ML-Implements

3.公開課 - 林軒田《機器學習基石》

課程介紹

臺灣大學林軒田老師的《機器學習基石》課程由淺入深、內容全面，基本涵蓋了機器學習領域的很多方面。其作爲機器學習的入門和進階資料非常適合。而且林老師的教學風格也很幽默風趣，總讓讀者在輕鬆愉快的氛圍中掌握知識。這門課比 Ng 的《Machine Learning》稍難一些，側重於機器學習理論知識。

中文視頻

https://www.bilibili.com/video/av36731342

中文筆記

https://redstonewill.com/category/ai-notes/lin-ml-foundations/

配套教材

配套書籍爲《Learning From Data》，在線書籍主頁：http://amlbook.com/

4.公開課 - 林軒田《機器學習技法》

課程介紹

《機器學習技法》課程是《機器學習基石》的進階課程。主要介紹了機器學習領域經典的一些算法，包括支持向量機、決策樹、隨機森林、神經網絡等等。難度要略高於《機器學習基石》，具有很強的實用性。

中文視頻

https://www.bilibili.com/video/av36760800

中文筆記

https://redstonewill.com/category/ai-notes/lin-ml-techniques/

5.書籍 - 《機器學習》

周志華的《機器學習》被大家親切地稱爲“西瓜書”。這本書非常經典，講述了機器學習核心數學理論和算法，適合有作爲學校的教材或者中階讀者自學使用，入門時學習這本書籍難度稍微偏高了一些。

這本書配合《機器學習實戰》這本書，效果很好！

6.書籍 - 《統計學習方法》

李航的這本《統計學習方法》堪稱經典，包含更加完備和專業的機器學習理論知識，作爲夯實理論非常不錯。

課講 PPT

https://github.com/fengdu78/lihang-code/tree/master/ppt

讀書筆記

http://www.cnblogs.com/limitlessun/p/86111 03.html

https://github.com/SmirkCao/Lihang

參考筆記

https://zhuanlan.zhihu.com/p/36378498

代碼實現

https://github.com/fengdu78/lihang-code/tree/master/code

7.書籍 - 《Scikit-Learn 與 TensorFlow 機器學習實用指南》

在經過前面的學習之後，這本《Scikit-Learn 與 TensorFlow 機器學習實用指南》非常適合提升你的機器學習實戰編程能力。這本書分爲兩大部分，第一部分介紹機器學習基礎算法，每章都配備 Scikit-Learn 實操項目；第二部分介紹神經網絡與深度學習，每章配備 TensorFlow 實操項目。如果只是機器學習，可先看第一部分的內容。

全書代碼

https://github.com/ageron/handson-ml

8.實戰 - Kaggle 比賽

比賽是提升自己機器學習實戰能力的最有效的方式，首選 Kaggle 比賽。

Kaggle 主頁

https://www.kaggle.com/

Kaggle 路線

https://github.com/apachecn/kaggle

9.工具 - Scikit-Learn 官方文檔

Scikit-Learn 作爲機器學習一個非常全面的庫，是一份不可多得的實戰編程手冊。

官方文檔

https://scikit-learn.org/stable/index.html

中文文檔（0.19）

http://sklearn.apachecn.org/#/

深度學習

1.公開課 - 吳恩達《Deep Learning》

在吳恩達開設了機器學習課程之後，發佈的《Deep Learning》課程也備受好評，吳恩達老師的課程最大的特點就是將知識循序漸進的傳授給你，是入門學習不可多得良好視頻資料。整個專題共包括五門課程：01.神經網絡和深度學習；02.改善深層神經網絡-超參數調試、正則化以及優化；03.結構化機器學習項目；04.卷積神經網絡；05.序列模型。

課程視頻

網易雲課堂：https://mooc.study.163.com/university/deeplearning_ai#/c Coursera: https://www.coursera.org/specializations/deep-learning

課程筆記

之前編寫過吳恩達老師機器學習個人筆記黃海廣博士帶領團隊整理了中文筆記地址：https://github.com/fengdu78/deeplearning_ai_books

參考論文

吳恩達老師在課程中提到了很多優秀論文，黃海廣博士整理如下： https://github.com/fengdu78/deeplearning_ai_books/tree/master/%E5%8F%82%E8%80%83%E8%AE%BA%E6%96%87

課程PPT及課後作業

吳恩達深度學習課程，包含課程的課件、課後作業和一些其他資料： https://github.com/stormstone/deeplearning.ai

2.公開課 - Fast.ai《程序員深度學習實戰》

說到深度學習的公開課，與吳恩達《Deep Learning》並駕齊驅的另一門公開課便是由Fast.ai出品的《程序員深度學習實戰》。這門課最大的特點便是“自上而下”而不是“自下而上”,是絕佳的通過實戰學習深度學習的課程。

視頻地址

B站地址(英文字幕)： https://www.bilibili.com/video/av18904696?from=search&seid=10813837536595120136 CSDN地址(2017版中文字幕): https://edu.csdn.net/course/detail/5192

課程筆記

英文筆記原文： https://medium.com/@hiromi_suenaga/deep-learning-2-part-1-lesson-1-602f73869197 由ApacheCN組織進行的中文翻譯： https://github.com/apachecn/fastai-ml-dl-notes-zh

3.公開課-CS230 Deep Learning

課程介紹

斯坦福的深度學習課程CS230在4月2日剛剛開課，對應的全套PPT也隨之上線。從內容來看，今年的課程與去年的差別不大，涵蓋了CNNs, RNNs, LSTM, Adam, Dropout, BatchNorm, Xavier/He initialization 等深度學習的基本模型，涉及醫療、自動駕駛、手語識別、音樂生成和自然語言處理等領域。

Datawhale整理了該門課程的詳細介紹及參考資料 https://mp.weixin.qq.com/s/kA-L8t5mGq6jExMBRjyg4g

4.書籍-復旦教授邱錫鵬《神經網絡與深度學習》

本書是入門深度學習領域的極佳教材，主要介紹了神經網絡與深度學習中的基礎知識、主要模型（前饋網絡、卷積網絡、循環網絡等）以及在計算機視覺、自然語言處理等領域的應用。 https://mp.weixin.qq.com/s/-NaDpXsxvu4DpXqVNXIAvQ

5.書籍 -《深度學習》

完成以上學習後，想要更加系統的建立深度學習的知識體系，閱讀《深度學習》準沒錯。該書從淺入深介紹了基礎數學知識、機器學習經驗以及現階段深度學習的理論和發展，它能幫助人工智能技術愛好者和從業人員在三位專家學者的思維帶領下全方位瞭解深度學習。

書籍介紹

《深度學習》通常又被稱爲花書，深度學習領域最經典的暢銷書。由全球知名的三位專家IanGoodfellow、YoshuaBengio和AaronCourville撰寫，是深度學習領域奠基性的經典教材。全書的內容包括3個部分：第1部分介紹基本的數學工具和機器學習的概念，它們是深度學習的預備知識；第2部分系統深入地講解現今已成熟的深度學習方法和技術；第3部分討論某些具有前瞻性的方向和想法，它們被公認爲是深度學習未來的研究重點。該書被大衆尊稱爲“AI聖經”。

在線閱讀

該書由衆多網友衆包翻譯，電子版在以下地址獲得： https://github.com/exacity/deeplearningbook-chinese

6.書籍 -《深度學習 500 問》

當你看完了所有的視頻，研習了AI聖經，一定充滿了滿腦子問號，此時不如來深度學習面試中常見的500個問題。

書籍介紹

DeepLearning-500-questions，作者是川大的一名優秀畢業生談繼勇。該項目以深度學習面試問答形式，收集了 500 個問題和答案。內容涉及了常用的概率知識、線性代數、機器學習、深度學習、計算機視覺等熱點問題，該書目前尚未完結，卻已經收穫了Github 2.4w stars。

項目地址

https://github.com/scutan90/DeepLearning-500-questions

7.工具 - TensorFlow 官方文檔

進行深度學習怎麼離得開TensorFlow

官方文檔

https://www.tensorflow.org/api_docs/python/tf

中文文檔

https://github.com/jikexueyuanwiki/tensorflow-zh

7.工具 - PyTorch官方文檔

PyTorch是進行深度學習的另一個主流框架

官方文檔

https://pytorch.org/docs/stable/index.html

中文文檔(版本0.3)

https://github.com/apachecn/pytorch-doc-zh

強化學習

1.公開課 - David Silver《Reinforcement Learning》

同吳恩達的課程對於機器學習和深度學習初學者的意義一樣，David Silver的這門課程絕對是大多數人學習強化學習必選的課程。課程從淺到深，把強化學習的內容娓娓道來，極其詳盡。不過由於強化學習本身的難度，聽講這門課還是有一定的門檻，建議還是在大致瞭解這個領域之後觀看該視頻學習效果更佳，更容易找到學習的重點。另外，由於強化學習領域飛速地發展，最前沿的知識（特別是與深度學習相關的）沒有被涵蓋在這個課程中，需要另外補充。

課程介紹

該課程對強化學習領域做了相當詳盡的講解，其主要內容有：馬爾可夫決策過程（強化學習的基礎理論）、動態規劃、免模型預測（蒙特卡洛學習、時序差分學習和λ時序差分強化學習）、免模型控制（On-policy Learning和Off-policy Learning）、價值函數的近似表示、策略梯度算法、集成學習與計劃、探索與利用以及實例演示。

視頻地址

B站地址(中文字幕)： https://www.bilibili.com/video/av45357759?from=search&seid=9547815852611563503 課程原地址： https://www.youtube.com/watch?v=2pWv7GOvuf0

課程資料

課程PPT： http://www0.cs.ucl.ac.uk/staff/d.silver/web/Teaching.html 課程筆記： https://www.zhihu.com/people/qqiang00/posts

2.公開課 - 李宏毅《深度強化學習》

David Silver的課程雖然內容詳盡，但前沿的很多內容都沒有被包括在內，這時，臺大李宏毅的《深度強化學習》就是學習前沿動態的不二之選。李宏毅老師講課非常幽默風趣，並且淺顯易懂，而且對於大多數初學者來說，中文教學可謂是福音。當然，這門課程也有着沒有對理論知識做太多詳盡地展開、內容主要圍繞着深度強化學習進行等缺陷，但這並不妨礙其成爲初學者們的首選之一。

課程介紹

該課程上線於2018年，基本涵蓋了當年的前沿技術，其主要內容有：策略梯度算法（David Silver的課程中提到的算法大多都在這部分的內容中提到，但其主要是從神經網絡的角度出發）、Q-learning（這部分涵蓋了大量的Q-learning優化的講解）、Actor-Critic、Sparse Reward 和 Imitation Learning。

視頻地址

B站地址(中文字幕)： https://www.bilibili.com/video/av24724071?from=search&seid=9547815852611563503 課程原地址： https://www.youtube.com/watch?v=2pWv7GOvuf0

課程資料

課程PPT： http://speech.ee.ntu.edu.tw/~tlkagk/courses_MLDS18.html 課程筆記： https://blog.csdn.net/cindy_1102/article/details/87905272

前沿 Paper

Arxiv

Arxiv Stats

Arxiv 機器學習最新論文檢索，主頁地址： https://arxiv.or g/list/stat.ML /recent?ref=bestofml.com

Arxiv Sanity Preserver

Andrej Karpathy 開發了 Arxiv Sanity Preserver，幫助分類、搜索和過濾特徵，主頁地址： ht tp://www.arxiv-sanity.com/?ref=bestofml.co m

Papers with Code

Papers with Code(Browse state-of-the-art)

這個網站叫做 Browse state-of-the-art。它將 ArXiv 上的最新深度學習論文與 GitHub 上的開源代碼聯繫起來。該項目目前包含了 651 個排行榜，1016 個深度學習任務，795 個數據集，以及重磅的 10257 個含復現代碼的優秀論文。簡直就是一個尋找論文和代碼的利器。它將 1016 個深度學習任務分成了 16 大類，涉及了深度學習的各個方面。

主頁地址： https://paperswithcode.com/sota

舉兩個例子：

（1）CV：https://paperswithcode.com/area/computer-vision （2）NLP：https://paperswithcode.com/area/natural-language-processing

介紹：https://redstonewill.com/2039/

Papers with Code(Sorted by stars)

這份資源收集了 AI 領域從 2013 - 2018 年所有的論文，並按照在 GitHub 上的標星數量進行排序。GitHub 項目地址： https://github.com/zziz/pwc

Deep Learning Papers(Reading Roadmap)

如果你是深度學習領域的新手，你可能會遇到的第一個問題是“我應該從哪篇論文開始閱讀？”下面是一個深入學習論文的閱讀路線圖！GitHub 項目地址： https://github.com/floodsung/Deep-Learning-Papers-Reading-Roadmap

這份深度學習論文閱讀路線分爲三大塊：

1 Deep Learning History and Basics 2 Deep Learning Method 3 Applications

Deep Learning Object Detection

目標檢測（Object Detection）是深度學習 CV 領域的一個核心研究領域和重要分支。縱觀 2013 年到 2019 年，從最早的 R-CNN、Fast R-CNN 到後來的 YOLO v2、YOLO v3 再到今年的 M2Det，新模型層出不窮，性能也越來越好！本資源對目標檢測近幾年的發展和相關論文做出一份系統介紹，總結一份超全的文獻 paper 列表。

GitHub 項目地址： https://github.com/hoya012/deep_learning_object_detection

介紹：https://redstonewill.com/1934/

知名會議

NeurIPS：https://nips.cc/ ICML：https://icml.cc/ ICLR：https://iclr.cc/ AAAI：https://aaai.org/Conferences/AAAI-19/ IJCAI：https://www.ijcai.org/ UAI：http://www.auai.org/uai2019/index.php

計算機視覺：

CVPR：http://cvpr2019.thecvf.com/ ECCV：https://eccv2018.org/program/main-conference/ ICCV：http://iccv2019.thecvf.com/

自然語言處理：

ACL：http://www.aclcargo.com/ EMNLP：https://www.aclweb.org/portal/content/emnlp-2018 NAACL：https://naacl2019.org/

知名期刊

JAIR：https://www.jair.org/index.php/jair JMLR：http://www.jmlr.org/

其它

機器人方面，有 CoRL（學習）、ICAPS（規劃，包括但不限於機器人）、ICRA、IROS、RSS；對於更理論性的研究，有 AISTATS、COLT、KDD。

理論應用

自然語言處理

NLP是什麼

自然語言處理（NLP，Natural Language Processing）是研究計算機處理人類語言的一門技術，目的是彌補人類交流（自然語言）和計算機理解（機器語言）之間的差距。NLP包含句法語義分析、信息抽取、文本挖掘、機器翻譯、信息檢索、問答系統和對話系統等領域。

課程推薦

① CS224n 斯坦福深度自然語言處理課 17版中文字幕 https://www.bilibili.com/video/av41393758/?p=1 課程筆記：http://www.hankcs.com/?s=CS224n%E7%AC%94%E8%AE%B0 2019版課程主頁：http://web.stanford.edu/class/cs224n/ （需科學上網） ② 自然語言處理 - Dan Jurafsky 和 Chris Manning B站英文字幕版：https://www.bilibili.com/video/av35805262/ 學術激流網：http://academictorrents.com/details/d2c8f8f1651740520b7dfab23438d89bc8c0c0ab

書籍推薦

① Python自然語言處理中英文版

入門讀物，整本書不僅涉及了語料庫的操作，也對傳統的基於規則的方法有所涉及。全書包括了分詞（tokenization）、詞性標註（POS）、語塊（Chunk）標註、句法剖析與語義剖析等方面，是nlp中不錯的一本實用教程。

② 自然語言處理綜論中英文版

By Daniel Jurafsky和James H. Martin 權威性槓槓的！經典的NLP教科書，涵蓋了經典自然語言處理、統計自然語言處理、語音識別和計算語言學等方面。

③ 統計自然語言處理基礎中英文版

By Chris Manning和HinrichSchütze 更高級的統計NLP方法，在統計基本部分和n元語法部分介紹地都很不錯

博客推薦

我愛自然語言處理網站 http://www.52nlp.cn/

TFIDF、文檔相似度等等網站上都有通俗易懂的解釋

語言日誌博客（Mark Liberman）http://languagelog.ldc.upenn.edu/nll/ natural language processing blog https://nlpers.blogspot.com/

美國Hal Daumé III維護的一個natural language processing的博客，經常評論最新學術動態，值得關注。有關於ACL、NAACL等學術會議的參會感想和對論文的點評

5.項目推薦

基於LSTM的中文問答系統 https://github.com/S-H-Y-GitHub/QA 基於RNN的文本生成器 https://github.com/karpathy/char-rnn 基於char-rnn的汪峯歌詞生成器 https://github.com/phunterlau/wangfeng-rnn 用RNN生成手寫數字 https://github.com/skaae/lasagne-draw

開源NLP工具包

中文NLP相關： https://github.com/crownpku/Awesome-Chinese-NLP 英文NLP相關：

NLTK http://www.nltk.org/ TextBlob: http://textblob.readthedocs.org/en/dev/ Gensim: http://radimrehurek.com/gensim/ Pattern: http://www.clips.ua.ac.be/pattern Spacy:: http://spacy.io Orange: http://orange.biolab.si/features/ Pineapple: https://github.com/proycon/pynlpl

相關論文

100 Must-Read NLP Papers https://github.com/mhagiwara/100-nlp-papers

計算機視覺

計算機視覺的應用

計算機視覺的應用	無人駕駛
	無人安防
	人臉識別
	車輛車牌識別
	以圖搜圖
	VR/AR
	3D重構
	無人機
	醫學圖像分析
	其他

2.課程推薦

Stanford CS223B 比較適合基礎，適合剛剛入門的同學，跟深度學習的結合相對來說會少一點，不會整門課講深度學習，而是主要講計算機視覺，方方面面都會講到

李飛飛：CS231n課程 https://mp.weixin.qq.com/s/-NaDpXsxvu4DpXqVNXIAvQ

3.書籍推薦

1）入門學習：《Computer Vision：Models, Learning and Inference》 2）經典權威的參考資料：《Computer Vision：Algorithms and Applications》 3）理論實踐：《OpenCV3編程入門》

風控模型（評分卡模型）

1.評分卡模型簡介

評分卡模型時在銀行、互金等公司與借貸相關業務中最常見也是最重要的模型之一。簡而言之它的作用就是對客戶進行打分，來對客戶是否優質進行評判。根據評分卡模型應用的業務階段不用，評分卡模型主要分爲三大類：A卡（Application score card）申請評分卡、B卡（Behavior score card）行爲評分卡、C卡（Collection score card）催收評分卡。其中申請評分卡用於貸前，行爲評分卡用於貸中，催收評分卡用於貸後，這三種評分卡在我們的信貸業務的整個生命週期都至關重要。

2.推薦書籍

《信用風險評分卡研究——基於SAS的開發與實施》

3.評分卡模型建模過程

（1）樣本選取：確定訓練樣本、測試樣本的觀察窗（特徵的時間跨度）與表現窗（標籤的時間跨度），且樣本的標籤定義是什麼？一般情況下風險評分卡的標籤都是考慮客戶某一段時間內的延滯情況。（2）特徵準備：原始特徵、衍生變量（3）數據清洗：根據業務需求對缺失值或異常值等進行處理（4）特徵篩選：根據特徵的IV值（特徵對模型的貢獻度）、PSI（特徵的穩定性）來進行特徵篩選，IV值越大越好（但是一個特徵的IV值超過一定閾值可能要考慮是否用到未來數據），PSI越小越好（一般建模時取特徵的PSI小於等於0.01）（5）對特徵進行WOE轉換，即對特徵進行分箱操作，注意在進行WOE轉換時要注重特徵的可解釋性（6）建立模型，在建立模型過程中可根據模型和變量的統計量判斷模型中包含和不包含每個變量時的模型質量來進行變量的二次篩選。（7）評分卡模型一般關注的指標是KS值（衡量的是好壞樣本累計分部之間的差值）、模型的PSI(即模型整體的穩定性）、AUC值等。

知識圖譜

1.知識圖譜是什麼

知識圖譜是一種結構化數據的處理方法，它涉及知識的提取、表示、存儲、檢索等一系列技術。從淵源上講，它是知識表示與推理、數據庫、信息檢索、自然語言處理等多種技術發展的融合。

3.主要內容

知識提取

構建kg首先需要解決的是數據，知識提取是要解決結構化數據生成的問題。我們可以用自然語言處理的方法，也可以利用規則。

使用規則：
- 正則表達式：
  
  正則表達式（Regular Expression， regex）是字符串處理的基本功。數據爬取、數據清洗、實體提取、關係提取，都離不開regex。推薦資料入門：
  - 精通正則表達式
  - regexper 可視化：例 [a-z]*(\d{4}(\D+)))
  - pythex 在線測試正則表達式 http://pythex.org/

推薦資料進階： * re2 一個更快的Cython實現 https://pypi.python.org/pypi/re2/ * Parsley 更人性化的正則表達語法 http://parsley.readthedocs.io/en/latest/tutorial.html

* 中文分詞和詞性標註

    分詞也是後續所有處理的基礎，詞性（Part of Speech, POS）就是中學大家學過的動詞、名詞、形容詞等等的詞的分類。一般的分詞工具都會有詞性標註的選項。

推薦資料入門： * jieba 中文分詞包 https://github.com/fxsjy/jieba * 中文詞性標記集 https://github.com/memect/kg-beijing/wiki/中文詞性標記集

推薦資料進階： * genius 採用 CRF條件隨機場算法 https://github.com/duanhongyi/genius * Stanford CoreNLP分詞 https://blog.csdn.net/guolindonggld/article/details/72795022

*  命名實體識別

   命名實體識別（NER）是信息提取應用領域的重要基礎工具，一般來說，命名實體識別的任務就是識別出待處理文本中三大類（實體類、時間類和數字類）、七小類（人名、機構名、地名、時間、日期、貨幣和百分比）命名實體。

推薦資料： * Stanford CoreNLP 進行中文命名實體識別 https://blog.csdn.net/guolindonggld/article/details/72795022

使用深度學習：
```
使用自然語言處理的方法，一般是給定schema，從非結構化數據中抽取特定領域的三元組（spo），如最近[百度舉辦的比賽](http://lic2019.ccf.org.cn/kg)就是使用DL模型進行信息抽取。
```
- 序列標註
  
  使用序列生出模型，主要是標記出三元組中subject及object的起始位置，從而抽取信息。推薦資料：
  - 序列標註問題 https://www.cnblogs.com/jiangxinyang/p/9368482.html

* seq2seq

  使用seq2seq端到端的模型，主要借鑑文本摘要的思想，將三元組看成是非結構化文本的摘要，從而進行抽取，其中還涉及Attention機制。

推薦資料： * seq2seq詳解 https://blog.csdn.net/irving_zhang/article/details/78889364 * 詳解從Seq2Seq模型到Attention模型 https://caicai.science/2018/10/06/attention%E6%80%BB%E8%A7%88/

知識表示

知識表示（Knowledge Representation，KR，也譯爲知識表現）是研究如何將結構化數據組織，以便於機器處理和人的理解的方法。

需要熟悉下面內容：

JSON和YAML
- json庫 https://docs.python.org/2/library/json.html
- PyYAML是Python裏的Yaml處理庫 http://pyyaml.org/wiki/PyYAML
RDF和OWL
- RDF和OWL語義 http://blog.memect.cn/?p=871
JSON-LD
- JSON-LD主頁 http://json-ld.org/

知識存儲

需要熟悉常見的圖數據庫

知識鏈接的方式：字符串、外鍵、URI
PostgreSQL及其JSON擴展
- Psycopg包操作PostgreSQL http://initd.org/psycopg/docs/
圖數據庫 Neo4j和OrientDB
- Neo4j的Python接口 https://neo4j.com/developer/python/
- OrientDB：http://orientdb.com/orientdb/
RDF數據庫Stardog
- Stardog官網：http://stardog.com/

知識檢索

需要熟悉常見的檢索技術

ElasticSearch

ES教程： http://joelabrahamsson.com/elasticsearch-101/

相關術語及技術路線

本體
RDF
Apache Jena
D2RQ
- Protege構建本體系列
protege
protege使用
- 開發語言
python或java
- 圖數據庫技術
Neo4j
AllegroGraph
- 可視化技術
d3.js
Cytoscape.js
- 分詞技術
jieba
hanlp

最新AI學習路線附帶資料與鏈接

1.數學

2.統計學

3.編程

1) Python安裝：

2) python入門的資料推薦

3）補充

數據分析/挖掘

1.數據分析的基礎書籍：

2.特徵工程：

3.數據挖掘項目：

機器學習

1.公開課 - 吳恩達《Machine Learning》

2.公開課 - 吳恩達 CS229

課程主頁：http://cs229.stanford.edu/

中文視頻

中文筆記

速查表

作業代碼

3.公開課 - 林軒田《機器學習基石》

課程介紹

中文視頻

中文筆記

配套教材

4.公開課 - 林軒田《機器學習技法》

課程介紹

中文視頻

中文筆記

5.書籍 - 《機器學習》

讀書筆記

公式推導

課後習題

6.書籍 - 《統計學習方法》

課講 PPT

讀書筆記

參考筆記

代碼實現

7.書籍 - 《Scikit-Learn 與 TensorFlow 機器學習實用指南》

全書代碼

8.實戰 - Kaggle 比賽

Kaggle 主頁

Kaggle 路線

9.工具 - Scikit-Learn 官方文檔

官方文檔

中文文檔（0.19）

深度學習

1.公開課 - 吳恩達《Deep Learning》

課程視頻

課程筆記

參考論文

課程PPT及課後作業

2.公開課 - Fast.ai《程序員深度學習實戰》

視頻地址

課程筆記

3.公開課-CS230 Deep Learning

課程介紹

4.書籍-復旦教授邱錫鵬《神經網絡與深度學習》

5.書籍 -《深度學習》

書籍介紹

在線閱讀

6.書籍 -《深度學習 500 問》

書籍介紹

項目地址

7.工具 - TensorFlow 官方文檔

官方文檔

中文文檔

7.工具 - PyTorch官方文檔

官方文檔

中文文檔(版本0.3)

強化學習

1.公開課 - David Silver《Reinforcement Learning》

課程介紹

視頻地址

課程資料

2.公開課 - 李宏毅《深度強化學習》

課程介紹

視頻地址

課程資料

前沿 Paper

Arxiv