方向導數和梯度在高等數學偏導數那一部分提到，兩者相互關聯，可能會弄混，簡單來說方向導數是一個值而梯度是一個向量。瞭解梯度的概念可以在以後的機器學習或者深度學習模型優化用到梯度下降時更容易理解，接下來讓我們看看一些關於方向導數和梯度的細節。
一、方向導數
對於多元函數，如果說偏導數表示的是多元函數在沿座標軸的變化率，那麼可以說方向導數是沿着任意一指定方向的變化率，不一定是沿着座標軸。
這裏給出方向導數的數學表達式：
看起來這個公式很嚇人，其實其中，對於L 的單位向量是e=(cos α,cos β),而這正表示函數 f 沿着 L 方向的變化率。當我們讓e=（1，0）時上述式子其實是 f 對於 x 的偏導數，即沿着 x 軸的變化率，而當讓e=（0，1）時，上述式子便是 f 對於 y的偏導數，即沿着 y 軸的變化率（讀者可以自行驗證）。
明白了方向導數表示的意義，那麼方向導數怎麼求呢？很簡單的一個式子，對於二元函數，給出求方向導數的公式：
解釋一下這個式子，方向導數等於函數在 x 處的偏導數乘以單位向量的 x 部分加上在 y 處的偏導乘以單位向量的 y 部分，得到的值就是方向導數。從中也可以看出要求方向導數要先求它在 x 和 y 的偏導數，然後再求它方向的單位向量，最後做乘積加和得到結果。
二、梯度
看完方向導數之後接下來看梯度是怎麼一回事。在二元函數的情形下，如果函數 f(x,y) 具有一階連續偏導，對於函數任意一點 
可以通過公式直觀地看方向導數和梯度的關係：
當 Θ = 0 時，e 與梯度方向相同時，方向導數最大，函數增加最快
當 Θ = pi 時，e 與梯度方向相反時，方向導數最小，函數減少最快
當 Θ = pi/2 時，e 與梯度方向垂直時，方向導數爲0， 函數變化率爲零
三、總結
其實現在可以知道，方向導數是函數在各個方向的斜率，而梯度是斜率最大的那個方向，梯度的值是方向導數最大的值。因此我們如果沿着梯度下降能夠下降的最快。
注：博主第一次寫，理解也有很多偏差，如果不能夠幫助你們很好的理解，建議看這個知乎網址：
https://www.zhihu.com/question/36301367