對抗攻擊的粗糙理解
——構造對抗樣本欺騙機器的學習
對抗攻擊的開山之作 《Intriguing properties of neural networks》中提到了神經網絡的兩個現象。
第一個是高維神經網絡的神經元並不是代表着某一個特徵,而是所有特徵混雜在所有神經元中;第二個是在原樣本點上加上一些針對性的但是不易察覺的擾動,就很容易導致神經網絡的分類錯誤。
第二個性質就是對抗攻擊的理論基礎,後來Goodfellow 在《 Explaining and Harnessing Adversarial Examples》中提出原因並非是深層神經網絡的高度非線性和過擬合,即使是線性模型也存在對抗樣本。我們可以粗淺地認爲對抗攻擊之所以能夠成功的原因是誤差放大效應。
補充知識 對張量的解釋
1個數字爲標量,0維張量
1串數字爲向量,1維張量,數組
**思維上的理解:**其他維度頂一個點,對一個維度進行寫入。例如:三維,x、y頂一個點,對z維進行寫入
程序中向張量中寫數據的方式:
三維:寫二維加三維
四維:寫三維加四維
五維:寫思維加五維
圖片(長、寬、顏色)三維
視頻(長、寬、顏色、時間)四維