无监督学习是深度学习的未来!Facebook首席科学家呼吁加强对无监督学习的研究

2019-07-23    来源:raincent

容器云强势上线!快速搭建集群,上万Linux镜像随意使用

来源:AMiner

作者: Jansfer

如果我们对一个半岁大的婴儿进行实验,当婴儿看见一辆玩具卡车从桌子边缘行驶出去,在空中盘旋时,婴儿似乎不会大惊小怪,但两三个月后再进行相同的试验时,婴儿会立刻意识到卡车出了一些“问题”。

 

 

图片来源:GETTY

显然,这个婴儿在没有人教他的情况下,就已经自己了解了重力的概念。Facebook首席人工智能科学家、纽约大学教授yann lecun在近日由工业机构计算机械协会( Association for Computing Machinery)组织的网络研讨会上说:“没人告诉婴儿物体应该坠落,刚出生的婴儿并不具备非常复杂的运动控制,但他们仍然懂得了重力的概念,这是因为他们对世界了解很多是通过观察得到的。而这一理论可能对希望推进人工智能领域的研究人员具有重要意义。”

深度学习是人工智能算法最炙手可热的一个范畴,它开启了该领域的最新革命。深度学习在赋予机器视觉能力方面取得了巨大的进步,但它并没有给他们灌输复杂的推理,机器学习到的完全是基于现实的概念模型。换言之,机器并不真正了解它们周围的世界,这使得它们无法与周围实现真正的接触。新技术正在帮助克服这一限制,例如,通过给机器一种工作记忆,使它们在学习和推导基本事实和原则时,能够积累起来,以便在未来的交互中发挥作用。

但lecun认为对这一方面的研究还有很多问题。“很明显我们错过了什么,一个婴儿在看到两张照片后就可以对一头大象产生理解,而深度学习算法需要看到数千张照片。一位青年通过练习20个小时就能学会安全驾驶,而且会在没有第一次经历碰撞的情况下就能设法避免碰撞,而强化学习算法必须经过数千万次试验,而这其中必然包括许多严重的失败。”他认为,问题的关键于一个现阶段被严重低估的深度学习子类别,即无监督学习。基于监督和强化学习的算法可以通过人的输入来实现一个目标,而无监督的算法完全独立地提取数据中的模式。近年来,由于这种无监督算法能够发现数十亿字之间的关系,因此在自然语言处理中有很广泛的应用空间,这对于构建文本预测系统(如自动完成)或智能生成那些以假乱真的散文很有用。但是其他领域的人工智能研究绝大多数集中在监督或强化学习上。

Lecun认为目前的研究重点应该转移。他表示,作为人类,我们所学的一切几乎都是通过自我监督的学习来学习的。我们通过有监督的学习来学习,而通过强化学习来学习的东西很少。因此,机器学习或人工智能的绝大多数也应该是自我监督学习。那么这在实践中会是什么样子的呢?研究人员应该从关注时间预测开始。换言之,训练大型神经网络,在给出第一个视频时预测下半个视频。虽然不是我们这个世界上的一切都可以预测,但这的确是婴儿认识到玩具卡车应该坠落的能力背后的基础技能。实际上,这是对头脑中所发生事情的一种模拟。一旦该领域发展出完善这些能力的技术,它们也将有重要的实际用途。在自动驾驶汽车的背景下做视频预测是个富有前景的方向,因为你可能想提前知道街上其他汽车会做什么。

最终,无监督的学习将帮助机器建立一个世界模型,然后可以预测未来的世界状态。这是一项远大的抱负,人工智能的下一次革命会是“无监督的”。

参考:https://www.technologyreview.com/s/613954/the-next-ai-revolution-will-come-from-machine-learnings-most-underrated-form/

标签: 深度学习

版权申明:本站文章部分自网络,如有侵权,请联系:west999com@outlook.com
特别注意:本站所有转载文章言论不代表本站观点!
本站所提供的图片等素材,版权归原作者所有,如需使用,请与原作者联系。

上一篇:中科院宗成庆谈文本数据挖掘

下一篇:苹果数据泄漏:内鬼频出,这是库克的错吗?