人工智能需要“睡覺”嗎?

人都是需要睡覺的,有些人甚至會做夢,這些在人工智能中有可能會存在嗎?如果存在其意義又是什麼?

很多人看到這樣的問題,肯定會說不會,機器又不需要休息,但是恰恰相反,人工智能也需要休息。

談及這個方面就要提到機器學習中的正相(positive phase)和負相(negative phase)
在這裏插入圖片描述
我們一般進行學習的都是正相,負相一般很少考慮,其在機器學習中的定義爲配分函數,用途是歸一化數據分佈。
在需要完整的數據分佈採樣中才會用到它。而且一般也很少有公司願意這樣做。RBM(受限玻爾茲曼機)就是其中的典型算法。
負相一般涉及從模型分佈中採樣(其有着很好局部平滑性,但是對於整體一般會呈現多峯分佈)所以我們一般可以認爲它試圖尋找模型信任度最高的點。
因爲負相減少了這些點的概率,它們一般被認爲代表了模型不正確的信念(這裏的信念是深度信念網絡中的信念,原文爲belief,但是其是一種深度概率模型,可以簡單
理解爲概率)。

在(Crick and Mitchison, 1983)中提到了想法,講其稱爲“幻覺”,也就是做夢的一種解釋:
大腦維持着世界的概率模型,並且在醒着的時候經歷的事情會遵循正相的梯度,在睡覺時會遵循正相的負梯度最小化負相,其採樣來自當前模型。

這個看似天馬行空的猜想可以解決具有正相和負相的大多數算法,但是還是沒有被神經科學所驗證。

而且這還不是唯一的情況,還有其他解釋,但是無一例外都指向人工智能也需要睡覺,甚至也有相應的模型,但是大都是讓人工智能醒着做夢。

最後通俗的解釋一下這種說法下睡覺在幹什麼?
正相是讓我們儘可能完整的理解世界,負相讓我們盡力地遺忘世界,他們就像是拔河,當我們對一件事認知過分時(類似過擬合)負相將會把我們拉回來,反之正相會讓我們學習更多,
達到平衡就是最理想的情況,訓練停止。

注:相關文獻很少,如果想了解請耐心查找,這是一篇關於配分函數的博文https://zhuanlan.zhihu.com/p/48552020

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章