轉自：https://blog.csdn.net/tianfuliu/article/details/60888016
深度學習，我起初對其感覺既陌生又熟悉；陌生的是我完全不懂它背後的數學原理，熟悉是深度學習炒的太火，你不想知道都不可能；換句話說我腦海中沒有建立深度學習的大樹，只有硬生生的“深度學習”這個詞。而本文我想簡單介紹一下我通過學習之後建立起的深度學習的簡單樹，而這個所謂的樹指的是機器學習、深度學習、神經網絡之間的一些關係。
首先我想簡單介紹一下，人工智能（Artificial Intelligence : AI）、機器學習（Machine Learning）、深度學習(Deep Learning)之間的關係。請看一下下圖（引用http://tech.163.com/16/0907/07/C0BHQND400097U80.html），初步瞭解這三者的關係。
從上圖可知，人工智能包括了機器學習，而機器學習又包括了深度學習；同時我們可以根據下面的時間序列看出整個人工智能的發展歷程。我們的重點在於深度學習，具體的人工智能與機器學習需要閱讀更多文獻，在此就不在深入探討。
深度學習、人工神經網絡（Artifical Neural Network : ANN)兩概念是互相交叉，因爲深度學習的概念源於人工神經網絡，因爲神經網絡的網絡層的不斷提取特徵才形成了具有深度的model，而在這個model裏面一些參數從最初的隨機設定的值通過不斷的學習是的這些值不斷趨於使得代價函數（可以理解爲與目標的距離）最小化的某個值。如果非得說出一個關係，個人認爲是深度學習是人工神經網絡的發展，而深度學習算法中目前最火的必然是卷積神經網絡（Convolutional Neural Network : CNN）。
總結（個人理解）
人工智能：實現計算機對人的意識、思維等信息的模擬過程，實現計算機能夠模擬人的意識去完成相關任務或事情。
機器學習：計算機通過獲得的數據利用數學、統計學、概率論等相關知識建立相關模型去模擬或者學習，使得結果與目標不斷接近。機器學習是人工智能的核心。
深度學習：使用包含複雜結構或由多重非線性變換構成的多個處理層對數據進行高層抽象（構成深度）的算法，深度學習是機器學習的分支。
人工神經網絡：利用計算機通過數學方法模擬人類神經網絡的，通過不斷迭代過程進行不斷學習的算法。
卷積神經網絡：一種神經網絡模型，具有卷積層與池化層；在大型圖像處理中得到較好的效果，這也就是本人爲甚要對其進行研究的原因（將其運用在圖像分類中）