Deep Learning科普

首先,要由人工智能之父图灵说起。


图灵曾经有个梦想卸载《计算机器与智能》(1950)一文中,如果有一天,计算机能够做到,隔着墙,你根本分不清对面和你交流是一个人还是计算机,那么这台计算机就具有了人工智能。


接下来的半个世纪里,人工智能并没有很大的发展。计算机虽然具有强大的记忆力和数据处理能力,但却没有人类的认识能力。比如汪星人、喵星人都傻傻分不清楚。直到21世纪初,出现了Deep learning。

____________________________________________________________________________________________________________________________________________

这里不得不提起一个人,塞缪尔(Samuel),“机器学习之父”。


他设计了一段下棋程序,用4年的时间(1956)下赢了一个州的跳棋冠军,机器学习的时代得以开启。

流程为输入--->特征表达--->机器学习。特征表达这部分都是靠人工完成,费力不讨好。

懒人们就在想,计算机能不能自动学习一些特征,答案是能!Deep Learning.

____________________________________________________________________________________________________________________________________________

Deep Learning来源于一对诺贝尔奖获得者的成就,他们的发现是“人是怎么看懂这个世界的”。



原始信号摄入瞳孔摄入像素(pixel)--->初步处理大脑皮层某些细胞,发现边缘和方向(edges)--->抽象大脑判定眼前物体的形状(object parts)--->进一步抽象进一步判断该物体(object model)

也就是说,人脑对于信息的处理是分层的,深度学习的思想便是,堆叠多个层,使这一层的输出作为下一层的输入,通过这种方式,可以实现对输入信息进行分级表达。

___________________________________________________________________________________________________________________________

下面就是Deep learning的开山祖师爷Hinton


2006年,在Science上发表一篇论文开启了深度学习和学术界的浪潮。论文观点主要有2个;

(1)多隐层的人工神经网络具有优异的特征学习能力,学习得到的特征对数据有更本质的刻画;

(2)深度神经网络在训练上的难度,可以通过“逐层初始化”来克服

也就是说

(1)强调模型结构的深度,通常是5层、6层、甚至10多层的隐层节点

(2)通过逐层特征变换,将样本在元空间的特征表示变换到一个新的特征空间,从而使分类或预测更加容易。


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章