AI圣经《深度学习》作者斩获图灵奖，实至名归！

2019 年 3 月 27 日——ACM 宣布，深度学习之父 Yoshua Bengio, Yann LeCun, 以及 Geoffrey Hinton 获得了 2018 年图灵奖，以表彰他们以概念和工程的突破，让深度神经网络成为计算关键部位。其中 Yoshua Bengio 是 AI 圣经《深度学习》作者之一。今天，深度学习已经成为了人工智能技术领域最重要的技术之一。在最近数年中，计算机视觉、语音识别、自然语言处理和机器人取得的爆炸性进展都离不开深度学习。三人在人工智能领域的成就数不胜数，但是 ACM 依然列数了三位大咖最值得被记住的成就，让我们一起来回顾一下。

Yoshua Bengio

《深度学习》作者

序列的概率模型：在 20 世纪 90 年代，Bengio 将神经网络与序列的概率模型相结合，例如隐马尔可夫模型。这些想法被纳入 AT＆T / NCR 用于阅读手写支票中，被认为是 20 世纪 90 年代神经网络研究的巅峰之作。现代深度学习语音识别系统也是这些概念的扩展。

高维词汇嵌入和关注：2000 年，Bengio 撰写了具有里程碑意义的论文“A Neural Probabilistic Language Model”，它引入了高维词向量作为词义的表示。Bengio 的见解对自然语言处理任务产生了巨大而持久的影响，包括语言翻译、问答和视觉问答。他的团队还引入了注意力机制，这种机制促使了机器翻译的突破，并构成了深度学习的序列处理的关键组成部分。

生成性对抗网络：自 2010 年以来，Bengio 关于生成性深度学习的论文，特别是与 Ian Goodfellow 共同开发的生成性对抗网络（GAN），引发了计算机视觉和计算机图形学的革命。

Geoffrey Hinton

反向传播：在 1986 年与 David Rumelhart 和 Ronald Williams 共同撰写的 “Learning Internal Representations by Error Propagation” 一文中，Hinton 证明了反向传播算法允许神经网络发现自己的数据内部表示，这使得使用神经网络成为可能网络解决以前被认为超出其范围的问题。如今，反向传播算法是大多数神经网络的标准。

玻尔兹曼机（Boltzmann Machines）：1983 年，Hinton 与 Terrence Sejnowski 一起发明了玻尔兹曼机，这是第一个能够学习不属于输入或输出的神经元内部表示的神经网络之一。

卷积神经网络的改进：2012 年，Hinton 和他的学生 Alex Krizhevsky 以及 Ilya Sutskever 通过 Rectified Linear Neurons 和 Dropout Regularization 改进了卷积神经网络，并在著名的 ImageNet 评测中将对象识别的错误率减半，在计算机视觉领域掀起一场革命。

Yann LeCun

卷积神经网络：在 20 世纪 80 年代，LeCun 研发了卷积神经网络，现已成为该领域的基本理论基础。其让深度学习更有效。在 20 世纪 80 年代后期，多伦多大学和贝尔实验室工作期间，LeCun 是第一个在手写数字图像上训练卷积神经网络系统的人。如今，卷积神经网络是计算机视觉以及语音识别、语音合成、图像合成和自然语言处理的行业标准。它们用于各种应用，包括自动驾驶、医学图像分析、语音激活助手和信息过滤。

改进反向传播算法：LeCun 提出了一个早期的反向传播算法 backprop，并根据变分原理对其进行了简洁的推导。他的工作让加快了反向传播算，包括描述两种加速学习时间的简单方法。

拓宽神经网络的视野：LeCun 还将神经网络作为可以完成更为广泛任务的计算模型，其早期工作现已成为 AI 的基础概念。例如，在图像识别领域，他研究了如何在神经网络中学习分层特征表示，这个理念现在通常用于许多识别任务中。与 LéonBottou 一起，他还提出了学习系统可以构建为复杂的模块网络，其中通过自动区分来执行反向传播，目前在每个现代深度学习软件中得到使用。他们还提出了可以操作结构化数据的深度学习架构，例如图形。

深度学习这个术语自 2006 年被正式提出后，在最近 10 年得到了巨大发展。它使人工智能 (AI) 产生了革命性的突破，让我们切实地领略到人工智能给人类生活带来改变的潜力。2016 年 12 月，MIT 出版社出版了 Ian Goodfellow、Yoshua Bengio 和 Aaron Courville 三位学者撰写的《Deep Learning》一书。三位作者一直耕耘于机器学习领域的前沿，引领了深度学习的发展潮流，是深度学习众多方法的主要贡献者。该书正应其时，一经出版就风靡全球。

该书包括 3 个部分，第 1 部分介绍基本的数学工具和机器学习的概念，它们是深度学习的预备知识。第 2 部分系统深入地讲解现今已成熟的深度学习方法和技术。第 3 部分讨论某些具有前瞻性的方向和想法，它们被公认为是深度学习未来的研究重点。

这是一本涵盖深度学习技术细节的教科书，它告诉我们深度学习集技术、科学与艺术于一体，牵涉统计、优化、矩阵、算法、编程、分布式计算等多个领域。已被作为北京大学深度学习课程的讲授教材。

作者在书中写到：“人工智能的真正挑战在于解决那些对人来说很容易执行、但很难形式化描述的任务，比如识别人们所说的话或图像中的脸。对于这些问题，我们人类往往可以凭直觉轻易地解决”。为了应对这些挑战，他们提出让计算机从经验中学习，并根据层次化的概念体系来理解世界，而每个概念通过与某些相对简单的概念之间的关系来定义。由此，作者给出了深度学习的定义：“层次化的概念让计算机构建较简单的概念来学习复杂概念。如果绘制出表示这些概念如何建立在彼此之上的一幅图，我们将得到一张`深'(层次很多) 的图。由此，我们称这种方法为 AI 深度学习 (deep learning)”。

《深度学习》中文版从引进版权到正式出版历经三年，中文版的推出填补了目前国内缺乏深度学习综合性教科书的空白。但它又不只是一本教科书，任何对深度学习感兴趣的读者，阅读本书都会受益。除了学习机器学习的大学生，没有机器学习或统计背景的软件工程师也可以通过本书快速补充相关知识，并在他们的产品或平台中使用。

本书最大的一个特点是介绍深度学习算法的本质，脱离具体代码实现给出算法背后的逻辑，不写代码的人也完全可以看。本书的另一个特点是，为了方便读者阅读，作者特别绘制了本书的内容组织结构图，指出了全书 20 章内容之间的相关关系，如图所示。读者可以根据自己的背景或需要，随意挑选阅读。

《深度学习》中文版内容组织结构图。从一章到另一章的箭头表示前一章是理解后一章的必备内容。

《深度学习》中英文版一经推出，就在世界范围内产生热烈反响，并横扫各大技术图书排行榜榜首。这次，三位深度学习之父获奖实至名归，也证明任何一项真正有意义、有生命的理论研究，最终都会对改变世界产生巨大的作用。深度学习在计算机科学领域的作用已不再受到质疑，图灵奖的肯定更表明了其核心地位。在可预期的未来，深度学习在工业领域的实践上将大有作为！