2020年AI如何发展？且看这些机器学习顶尖人士的预测

AI改变世界不再是将来时而是正在进行时。在新的十年开启之际，各行业AI顶尖人物重新审视了2019年在该领域取得的进步，并展望了机器学习在2020年的发展前景。本文介绍了PyTorch的创建者Soumith Chintala、加利福尼亚大学教授Celeste Kidd、谷歌AI负责人Jeff Dean、英伟达机器学习研究总监Anima Anandkumar和IBM研究总监Dario Gil对过去一年AI发展的回顾及新的一年对其发展的期许。

PyTorch的董事、首席工程师和创建者Soumith Chintala

PyTorch是当今世界上最受欢迎的机器学习框架。PyTorch是2002年引入的Torch开源框架的衍生产品，于2015年开始使用，并在扩展和库方面不断稳步增长。

今年秋天，Facebook发布了带有量化和TPU支持的PyTorch 1.3，以及深度学习可解释性工具Captum和PyTorch Mobile。还有诸如PyRobot和PyTorch Hub之类的东西，用于共享代码并鼓励机器学习（ML）实践者实现可重复性。

Chintala曾表示，2019年他几乎没有看到机器学习取得什么突破性进展。

“实际上，我认为自Transformer模型以来，就没有做出什么具有开创性的事情。ConvNets在2012年进入黄金时段，而Transformer则在2017年左右。这是我个人的看法，”他说。

他继续称DeepMind的AlphaGo在强化学习方面的贡献是具有开创性的。但是他说，对于现实世界中的实际任务而言，很难实现这一结果。

Chintala还认为，机器学习框架（如PyTorch和谷歌的TensorFlow）的发展已改变了研究人员探索思想和开展工作的方式，这些机器在当今的ML实践者中广受欢迎。

今年，谷歌和Facebook的开源框架引入了量化，以提高模型训练的速度。在未来的几年中，Chintala希望PyTorch的JIT编译器和Glow等神经网络硬件加速器的重要性和采用率呈“爆炸式增长”模式。

“有了PyTorch和TensorFlow，你就已经看到了框架的融合。量化和其他较多低级别效率的出现是因为下一场战争将从框架的编译器XLA、TVM和PyTorch的Glow处开始，即将出现大量的创新，”他说。“在接下来的几年中，你将看到如何更智能地量化、如何更好地融合、如何更有效地使用GPU以及如何自动为新硬件进行编译。”

与大多其他领域的AI专家一样，Chintala预测2020年，AI社区将会把更多的价值放在AI模型性能上，而不仅仅是准确性，并开始将注意力转移到其他重要因素上，比如创建模型所需的力量以及AI如何更好地反映人们想要建立的社会类型。

“回顾过去的五六年，你会发现我们只关注准确性和原始数据，例如英伟达的模型更准确吗？Facebook的模型更准确吗？我认为2020年将是我们开始（以更复杂的方式）进行思考的一年，”Chintala表示。

加州大学伯克利分校的发展心理学家Celeste Kidd

Celeste Kidd是加州大学伯克利分校基德实验室的主任，她和她的团队在这里探索孩子们的学习方式。他们的见解可以帮助神经网络的创建者，这些创建者正在尝试以与抚养孩子相似的方式来训练模型。

她说：“婴儿没有得到标记的数据集，但是它们管理得很好，对我们而言重要的是要了解这种情况是如何发生的。”

让Kidd在2019年感到惊讶的一件事是，越来越多的神经网络创建者开始低估自己或其他研究人员的工作，因为他们无法做婴儿可以做的事情。

她说，当你对婴儿的行为进行平均计算时，你会看到有证据表明他们实际上了解某些事情，但他们绝对不是完美的学习者，而这种谈话对婴儿的行为描述得过于乐观。

她说：“婴儿很棒，但他们会犯很多错误，并且人们在与婴儿做对比时比较随便，这都是为了使婴儿行为在人口层面上理想化。我认为你目前所知道的与下一步想要了解的信息之间的联系将会越来越密切。”

在人工智能领域，“黑匣子”这个词已经存在多年。它曾经被用来批评神经网络缺乏可解释性，但Kidd认为，2020年可能意味着结束人们对神经网络无解释性这一认知。

她说：“黑匣子的论点是假的……大脑也是黑匣子，但我们在理解大脑如何工作方面却取得了很大进步。”

在揭开对神经网络认识的神秘面纱时，Kidd着眼于MIT-IBM Watson AI Lab执行总监Aude Oliva等人的工作。

“我们当时正在谈论这个问题，我说过该系统是一个黑匣子，她责备我说他们当然不是黑匣子。当然，你可以将它们分解并拆开，看看它们如何工作并对其进行实验，就像我们为理解认知所做的一样，”Kidd说。

上个月，Kidd在神经信息处理系统（NeurIPS）会议上发表了开幕式主题演讲，这是世界上最大的年度AI研究会议。她的演讲重点关注人脑如何固守顽固的信念、注意力系统和贝叶斯统计。

她说，Goldilocks提供信息的区域介于一个人以前的兴趣和理解之间，而这对他们来说是令人惊讶的，因为人们通常倾向于较少参与过度令人惊讶的内容。

她还提到没有中立的技术平台，并且她会将注意力转向内容推荐系统的创建者如何操纵人们的信念。追求最大参与度的系统可能会对人们形成信念和观点的方式产生重大影响。

Kidd在演讲的最后谈到了机器学习中对男性的误解，即与女性同事独处会导致性骚扰指控并威胁到男性的职业发展。她说，这种误解实际上是会损害女性在该领域的职业发展。

因在罗切斯特大学发表过涉及性行为不端的言论，Kidd与其他女性一起被评为2017年“年度人物”。这些女性帮助实现了我们现在所说的#MeToo运动，以平等对待女性。当时，Kidd认为此次大声疾呼将结束她的职业生涯。

在2020年，她希望看到人们对技术工具和技术决策对现实生活影响的认识有所提高，不赞同工具制造商不应对人们如何使用这些工具负责这一说法。

“我听到很多制造商说自己不是真理的审判者，并以此来逃避责任，但是我觉得必须正视这一说法的不诚实性。作为社会的一员，尤其是作为从事与这些工具相关工作的人员，我们的确需要意识到随之而来的责任，”Kidd说。

谷歌AI总监Jeff Dean

Dean领导谷歌AI已有近两年时间，但他实际上已经在谷歌工作了二十年，是该公司许多早期搜索和分布式网络算法的架构师，也是Google Brain的早期成员。

Dean上个月在NeurIPS上就ASIC半导体设计的机器学习以及AI社区应对气候变化的方式进行了演讲，他说这是我们这个时代最重要的问题。在关于气候变化的讨论中，Dean讨论了AI可以努力成为零碳行业以及AI可以用来帮助改变人类行为的想法。

他预计到2020年，多模式学习领域将取得进展，这是一种依靠多种媒体进行训练的AI，而多任务学习则涉及旨在一次可完成多个任务的网络。

（编辑：应用网_阳江站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!