神經網絡的分類等位面

可以設計一個1*2*2的網絡去分類有大小差異的兩個數據集,但是卻不能用1*2*2的網絡去分類奇數和偶數數據集.想要分類奇數集合和偶數集合至少需要用2*2*2的網絡。

 

這個現象表明有些邏輯關係可以僅用一個維度來描述,而有的邏輯關係卻需要至少兩個維度來描述,可以想象如果把可以用相同維度的表達的邏輯關係放在一起,他們就像是在勢能場中的等位面上。

因此現在可以確定有至少兩個分類等位面

第一分類等位面:可以僅用一個維度去表達的邏輯關係,比如:大小,遠近,胖瘦…

第二分類等位面:至少需要兩個維度才能表達的邏輯關係,比如:奇偶差異,

雖未實驗但可以合理猜測想要分類質數和合數也至少需要兩個維度。

 

因此分類等位面和兩個集合的可分類性有什麼關係?

比如可以用一個維度分類大和近兩個數據集,但是不可以用一個維度分類大和奇數集合,因爲奇偶關係位於第二分類等位面。或者也可以解釋成奇偶關係至少需要兩個維度才能破缺,在一個維度內沒有奇偶差異。

但是可以用兩個維度來分類大小,也就表明僅需要一個維度就可以實現大小關係的破缺,也就表明如果要大小關係實現對稱,需要0個維度。也就是在一個0維空間裏沒有大小差異。

很容易理解,如果沒有空間也沒有時間,怎麼會有大小差異?

 

因此位於同一分類等位面的邏輯關係只能用與等位面對應的維度或更高的維度去分類。比如分類奇偶至少需要2維,但也可以更多。

位於不同分類等位面的邏輯關係只能用二者中更高的維度去分類,比如分類大和偶數只能用至少兩個維度來分類。這裏的大的訓練集顯然就是全體實數,

顯然想要分類實數和實數中的一部分數僅用一個維度是不夠的。

但是位於不同分類等位面的邏輯關係,不能用更小的維度去分類,比如分類大和偶數,不能用1個維度去分類。想象用一個維度去分類實數和偶數,應該是分不開的,這表明對一個維度的空間而言實數和偶數沒有差異。

 

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章