偏導數:
假設 f(x,y)=x+y**2
偏導數就是在一個給定值(x0,y0)點初,先固定y的值,將y看成常數,對x求偏導相當於只有x一個自變量和求導數是一樣的
再固定x ,將x看成常數,對y求偏導相當於只有y一個自變量和求導數是一樣的
………………………………………………………………………………………………………………………………
方向導數 的意思是 如果我有一個面,函數表達式是f,那麼這個面上隨便選取一個點,那麼這個點可以走向任何一個方向。在每個方向都可以求導數,如圖M0點就是我找到的那個點,如果我想要讓M0走到M這個方向
那麼這個方向在M0點的方向導數就是
其中 φ 是M0M 與X軸的夾角
可以化簡成 ( ,)(,)
(,) 就是M0 M這條線的方向 的單位向量
……………………………………………………………………………………………………………………
梯度公式的表達式是:簡化成( ,)(,)
( ,)(,)發現了什麼沒有?梯度和方向導數是有關係滴……
……………………………………………………………………………………………………………………
利用點積的定義 來把( ,)(,)化簡一下就是||
剛看到這裏的時候我居然是懵的,自慚形愧!我一個學數學專業出身的人居然在研究生時候忘記了點積的幾何定義,在我印象中只記得點積的代數定義:
但是他的幾何定義:我居然忘記了
……………………………………………………………………………………………………
( ,)(,)方向導數不就是梯度和M0M這條線的單位向量嘛 他們的點積化爲幾何定義表示不就是
|| 梯度的模乘以單位向量的模 1 乘以 夾角的餘弦值!! 注意這裏是
是M0M方向和梯度的夾角,注意這裏不是φ了 φ是M0M方向與X軸的夾角!
而梯度是 那什麼時候梯度值等於方向導數值呢??就是等於1的時候 也就是M0M這條線的方向是梯度方向時
而梯度方向是啥??梯度方向就是某個點它的函數值上升最快的方向!!!
我們平時說的梯度下降法 就是梯度的反方向而已!!!
這就是它們之間的關係
………………………………………………………………………………………………………………………………
再看一遍 它們的公式定義
方向導數: 記住φ 是方向與x軸的夾角
梯度:
方向導數和梯度的關係: = || φ 是方向與x軸的夾角 是方向和梯度的夾角
梯度的模 ||
…………………………………………………………………………………………………………
知識來源於 :嗶哩嗶哩中的貝米少年發的機器學習的數學基礎課