人工智能需要“睡觉”吗?

人都是需要睡觉的,有些人甚至会做梦,这些在人工智能中有可能会存在吗?如果存在其意义又是什么?

很多人看到这样的问题,肯定会说不会,机器又不需要休息,但是恰恰相反,人工智能也需要休息。

谈及这个方面就要提到机器学习中的正相(positive phase)和负相(negative phase)
在这里插入图片描述
我们一般进行学习的都是正相,负相一般很少考虑,其在机器学习中的定义为配分函数,用途是归一化数据分布。
在需要完整的数据分布采样中才会用到它。而且一般也很少有公司愿意这样做。RBM(受限玻尔兹曼机)就是其中的典型算法。
负相一般涉及从模型分布中采样(其有着很好局部平滑性,但是对于整体一般会呈现多峰分布)所以我们一般可以认为它试图寻找模型信任度最高的点。
因为负相减少了这些点的概率,它们一般被认为代表了模型不正确的信念(这里的信念是深度信念网络中的信念,原文为belief,但是其是一种深度概率模型,可以简单
理解为概率)。

在(Crick and Mitchison, 1983)中提到了想法,讲其称为“幻觉”,也就是做梦的一种解释:
大脑维持着世界的概率模型,并且在醒着的时候经历的事情会遵循正相的梯度,在睡觉时会遵循正相的负梯度最小化负相,其采样来自当前模型。

这个看似天马行空的猜想可以解决具有正相和负相的大多数算法,但是还是没有被神经科学所验证。

而且这还不是唯一的情况,还有其他解释,但是无一例外都指向人工智能也需要睡觉,甚至也有相应的模型,但是大都是让人工智能醒着做梦。

最后通俗的解释一下这种说法下睡觉在干什么?
正相是让我们尽可能完整的理解世界,负相让我们尽力地遗忘世界,他们就像是拔河,当我们对一件事认知过分时(类似过拟合)负相将会把我们拉回来,反之正相会让我们学习更多,
达到平衡就是最理想的情况,训练停止。

注:相关文献很少,如果想了解请耐心查找,这是一篇关于配分函数的博文https://zhuanlan.zhihu.com/p/48552020

發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章