深度学习:智能时代的核心驱动力量|周末读书

2019-09-09 06:09发布

内容简介

全球科技巨头纷纷拥抱深度学习,自动驾驶、AI医疗、语音识别、图像识别、智能翻译以及震惊世界的AlphaGo,背后都是深度学习在发挥神奇的作用。深度学习是人工智能从概念到繁荣得以实现的主流技术。经过深度学习训练的计算机,不再被动按照指令运转,而是像自然进化的生命那样,开始自主地从经验中学习。

本书作者特伦斯·谢诺夫斯基是全球人工智能十大科学家之一、深度学习先驱及奠基者,亲历了深度学习在20世纪70年代到90年代的寒冬。但他和一众开拓者,利用大数据和不断增强的计算能力,终于在神经网络算法上取得重大突破,实现了人工智能井喷式的发展。

作为深度学习领域的通识作品,本书以恢弘的笔触,通过3个部分全景展现了深度学习的发展、演变与应用,首次以亲历者视角回溯了深度学习浪潮在过去60年间的发展脉络与人工智能的螺旋上升,并前瞻性地预测了智能时代的商业图景。

作者简介

特伦斯·谢诺夫斯基 Terrence (Terry) Sejnowski是世界十大AI科学家之一,美国四大国家学院(国家科学院、国家医学院、国家工程院、国家艺术与科学学院)在世仅3位的“四院院士”之一,全球AI专业会议NIPS基金会主席。作为神经网络的先驱,早在1986年,特伦斯就与杰弗里·辛顿共同发明了玻尔兹曼机,把神经网络带入到研究与应用的热潮,将深度学习从边缘课题变成了互联网科技公司仰赖的核心技术,实现了人工智能井喷式的发展。特伦斯现任美国索尔克生物研究所(美国生命科学领域成果最多的研究机构) 计算神经生物学实验室主任,是美国政府注资50亿美元“脑计划”项目(BRAIN,the Brain Research through Advancing Innovative Neurotechnologies)领军人物。

评论

特伦斯是一名杰出的神经科学家,我们于1986年共同发明了玻尔兹曼机。

——AI教父 杰弗里·辛顿

人工智能是科技王冠上的钻石,而深度学习代表了其中一个承上启下的重要阶段。这本书有助于在我们心目中更加清晰准确地绘制人工智能的未来图景。你可以从本书中了解到那些令人惊讶,甚至于有些担忧的科技进展,大致了解它们背后的原理。这展现了人工智能相对于人类而言的单方面优势。你也能看到许多真实事例,反映了人工智能相对于人类而言的“笨拙”。在现实中,这种“笨拙”的情况往往更加普遍。这些事例有时令人忍俊不禁,它恰恰体现了我们人类的大脑是多么精妙的设计。

——微软小冰之父、微软(亚洲)互联网工程院副院长 李笛

特伦斯·谢诺夫斯基作为深度学习领域的先驱,带领该领域由理论命题走向实证科学。这是一大飞跃。

——诺贝尔生理学或医学奖得主 埃里克·坎德尔

作为深度学习领域的亲历者,以及深度学习灵魂人物的同行者,谢诺夫斯基分享了这一技术发展过程中的洞见和轶事。这本书记录了人工智能这场狂飙运动,字里行间都能感受到作者的兴奋和投入。

——互联网之父、谷歌副总裁 文顿·瑟夫

人工智能正在觉醒,世界正在被重塑。深度学习正是这一变化背后的驱动力。特伦斯·谢诺夫斯基扎根该领域研究30年,是绝对的先驱。如果你想了解人工智能,必读此书。

——麻省理工学院斯隆商学院教授 埃里克·布林约尔夫松

目录

第一部分 智能的新构想

1. 机器学习的崛起

2. 人工智能的重生

3. 神经网络的黎明

4. 大脑式的计算

5. 洞察视觉系统

第二部分 深度学习的演进

6. 语音识别的突破

7. 霍普菲尔德网络和玻尔兹曼机

8. 反向传播算法

9. 卷积学习

10. 奖励学习

11. 火爆的NIPS

第三部分 人类,智能与未来

12. 智能时代

13. 算法驱动

14. 芯片崛起

15. 信息科学

16. 生命与意识

17. 进化的力量

18. 深度智能

书摘

不久之前,人们还常说,计算机视觉的辨别能力尚不如一岁大的孩子。如今看来,这句话要改写了。计算机不仅能和大多数成年人一样识别图片中的物体,在马路上驾驶汽车的安全性还高过16 岁的青少年。更神奇的是,如今的计算机不再是被动按照指令识别和驾驶,而是像自然界的生命由数百万年前开始进化那样,自主地从经验中学习。是数据的井喷促成了这一技术进步。如果说数据是新时代的石油,那么学习算法就是从中提取信息的炼油厂;信息积累成知识;知识深化成理解;理解演变为智慧。欢迎来到深度学习的新世界。

深度学习是机器学习的一个分支,它根植于数学、计算机科学和神经科学。深度网络从数据中学习,就像婴儿了解周围世界那样,从睁开眼睛开始,慢慢获得驾驭新环境所需的技能。深度学习的起源可以追溯到20 世纪50 年代人工智能的诞生。关于如何构建人工智能,当时存在两种不同的观点:一种观点主张基于逻辑和计算机程序,曾主宰人工智能的研究和应用数十年;另一种观点则主张直接从数据中学习,经历了更长时间的摸索才逐渐成熟。

20 世纪,计算机技术还不够成熟,而且按照现在的标准,数据存储成本十分高昂,用逻辑程序来解决问题更加高效。熟练的程序员需要为每个不同的问题编写不同的程序,问题越大,相应的程序也就越复杂。如今,计算机能力日趋强大,数据资源也变得庞大且丰富,使用学习算法解决问题比以前更快、更准确,也更高效。此外,同样的学习算法还能用来解决许多不同的难题,这远比为每个问题编写不同的程序更加节省人力。

本书的初稿是我在太平洋西北地区徒步旅行,并思索了近几十年来人工智能领域的显著变化之后写出来的。这本书讲了一个一小群研究人员挑战AI 研究建制派的故事,这些建制派在当时拥有更充足的资金支持,并被看作“唯一的主导力量”,他们大大低估了这些问题的难度,并且所依赖的对智能的直觉,后来被证明是有误导性的。

地球上的生命充满了无数奥秘,但最具挑战性的也许是智能的本质。自然界充斥着各种形式的智能,从微小的细菌到复杂的人类智能,每种智能都适应了它在自然界中的位置。人工智能也将以多种形式出现,并在智能族谱中占据特殊的位置。随着基于深度神经网络的机器智能日渐成熟,它可以为生物智能提供一个新的概念框架。

这是一本关于深度学习的过去、现在和未来的指南。不过本书并不是对该领域发展历史的全面梳理,而是记录了这一领域重要概念的进步及其背后研究群体的个人观点。人类的记忆并不可靠,对故事的每次复述都会导致记忆的偏差,这个过程叫作“重整记忆”。这本书中的故事延续了40 多年,尽管有些对我来说依然历历在目,就像昨天刚发生的一样,但我很清楚,那些故事在我的记忆中不断被复述时,有些细节已经悄悄地被改写了。

本书有两个相互交织的主题:人类智能是如何进化的,以及人工智能会如何演变。这两种智能之间的巨大差异在于,人类智能的进化经历了数百万年的时间,而人工智能在最近几十年才发展起来。尽管对于文化演变来说,这个速度仍然是快得出奇,但是过于谨小慎微可能并不是个正确的选择。

文章来源: https://www.toutiao.com/group/6734115143929561604/