作者 | Alok Aggarwal

1、前言

在过去的十年中，人工智能（AI）领域取得了惊人的发展。据不完全统计，现在存在20多个领域，其中AI程序的性能至少与人类（甚至好于人类）相同。这些进步导致了AI的大量爆发，这让人回想起第一个AI炒作周期的1956-1973繁荣阶段。投资者正在为基于AI的研究和创业公司提供数十亿美元的资金，而未来主义者再次开始对强大AI的兴起做出令人震惊的预测。许多人对人类在就业市场中的未来提出了质疑，声称到2033年，多达47％的美国工作属于高风险类别，这些行业将被自动化所取代。

在本文中，我们认为AI的短期影响不太可能像这些主张所表明的那样明显。导致40年前AI繁荣的第一个阶段消亡的几个障碍，今天仍未解决，看来克服这些障碍需要认真的理论进展。此外，当前的基础设施不适合大规模地整合AI程序，这意味着AI系统不可能很快就能大规模取代人类。因此，上述预测在未来十五年内不太可能实现，金融家可能不会从他们最近在人工智能方面的投资中获得预期的回报。

2、大胆的期望

人工智能最近的炒作以两种形式表现出来：惊人的预测和大量的投资，下面将对这两种方法进行讨论。

2.1 到2035年人工智能的力量预测

在过去的几年中，人们越来越相信AI是一种无限的神秘力量，它能够（或将很快）取代人类并解决任何问题。

例如，雷·库兹韦尔（Ray Kurzweil）预测：“到2029年，人工智能将达到人类的水平。”

格雷·斯科特（Gray Scott）表示：“到2035年，人类没有理由也没有办法跟上人工智能机器的发展。 ”

埃隆·马斯克（Elon Musk）表达了类似但不祥的情绪，他写道：“人工智能的发展速度……非常快…………发生严重危险的风险发生在五年时间范围内。后来又说：“借助人工智能，我们可以召唤恶魔” 。

人工智能将在2029年左右达到人类的水平——Ray Kurzweil，2014年

尽管有人认为马斯克的愿景是极端的，但研究人员仍然担心强大的AI很快将对人类在就业市场上的未来产生重大影响。例如，2013年，牛津大学的两位教授弗雷（Frey）和奥斯本（Osborne）发表了一篇文章，标题为“就业的未来：计算机化工作的敏感性如何？”，他们试图分析就业市场中可以在接下来的二十年内实现计算机化。

他们估计，“美国总就业人数的47％属于高风险类别，这意味着相关的职业可能会在未指定的几年内（可能在一到两年内）实现自动化。” 完成这项工作后，各种咨询公司和智囊团撰写的几篇论文预测，由于自动化，未来20年内将失去20％至40％的工作机会。

这些预言在许多企业和各国理事机构的董事会席卷了涟漪。由于在美国，人工智能系统有望将劳动力成本降低十倍，因此这种预测表明，通过采用人工智能程序而非人工，企业可以变得更加有利可图。但是，这可能迫使失业率达到惊人的水平，从而在全球范围内造成巨大的经济破坏。

2.2 初创企业和大规模投资的爆炸式增长

麦肯锡公司（McKinsey and Company）的数据显示，2016年，非技术公司在AI方面的支出在260亿至390亿美元之间，技术公司在AI方面的支出在200亿至300亿美元之间。同样，基于AI的初创公司在2012年左右开始爆炸式增长，并一直持续到今天。2017年12月，AngelList（一个连接初创企业与天使投资者和求职者的网站）列出了3,792个AI初创企业; 2,592名关联天使投资者；和2,521个相关的职位空缺。

根据Pitchbook的数据，风险资本家在2007年投资了2.85亿美元用于AI初创公司，2015年投资了40亿美元，2016年投资了54亿美元，2017年1月至2017年10月投资了76亿美元; 2007年至2017年间，风险投资对AI的投资总额超过250亿美元。根据CBInsights，仅在2016年，就有658家AI初创公司获得了资金，并正在积极推行其商业计划。实际上，今天要获得风险投资，大多数新业务计划都至少需要提及AI。

图1：人工智能初创企业的风险投资（来源：Pitchbook）

3、第一个AI炒作周期-快速回顾

当前对AI的炒作极大地让人联想到1956年至1973年之间的第一个AI炒作周期的繁荣阶段所发生的情况（本系列的第一篇文章）。的确，在人工智能方面取得了几项显着进步之后（例如，第一个进行了跳棋的自学程序，以及引入了神经网络），政府机构和研究机构很快就在人工智能研究中投入了大量资金。

在这种受欢迎程度的推动下，人工智能研究人员也迅速做出了关于强大人工智能的开始的大胆预测。例如，在1961年，马文·明斯基（Marvin Minsky）写道：“在我们一生中，机器可能会超越我们的一般智慧” 。

但是，这种欣喜是短暂的。到1970年代初，当人们对AI的期望没有实现时，幻灭了的投资者撤回了他们的资金。当AI的研究进展缓慢，甚至“人工智能”一词被拒绝时，这导致了AI破产阶段。回顾过去，人工智能繁荣阶段的消亡可以归因于以下几个主要障碍：

3.1 有限且昂贵的计算能力

1970年代的计算能力非常昂贵，而且还不足以模仿人类的大脑。例如，创建一个人脑大小的人工神经网络（ANN）会在1974年消耗掉整个美国的GDP。

3.2 人类思想背后的奥秘

科学家不了解人脑如何运作，尤其是不了解创造力，推理和幽默背后的神经机制。缺乏对机器学习程序应该尝试模仿的精确范围的认识，在推动人工智能理论发展中产生了重要问题。正如麻省理工学院教授休伯特·德雷福斯（Hubert Dreyfus）简要解释的那样，“这些程序缺乏四岁儿童的直观常识”，而且没人知道如何进行。

上面提到的第一个难题可以归为机械难题，而第二个难题可以归结为概念难题。两者都是40年前AI繁荣第一阶段的结束。到1982年，明斯基本人已经推翻了他以前的乐观观点，他说：“我认为铝的问题是有史以来最困难的科学之一”。

图2：尚未完全了解其功能的人脑

3.3 没有概念上的突破

显然，在“危险游戏”中击败人类，IBM Watson在2011年所做的事绝非易事；但是，它仅提供类事实作为对《危险》中各种问题的答案！随后有关IBM Watson的声明和广告暗示，它可以帮助解决一些与人类有关的难题（例如，帮助癌症研究和寻找替代疗法）；然而，与MD安德森癌症中心和其他医院的后续工作表明，它远没有达到这样的预期。

实际上，如今没有任何AI系统甚至接近HAL 9000，这是一台人工智能计算机，在电影《 2001：太空漫游》中被描绘为对手 。

在过去的40年中，基本上发生的事情是在上述第一个（机械）问题上取得了重大进展。此处的促进原理是摩尔定律，该定律预测电子电路中的晶体管数量应每两年大约增加一倍。结果，自1970年代以来，计算的成本和速度提高了110万倍。

这导致了无处不在且廉价的硬件和连接性，允许数十年前在第一个炒作周期中发明的一些理论进展（例如，反向传播算法）和一些新技术在实践中表现明显更好，主要是通过启发式和工程学的繁琐应用技能。

但是，仍然缺乏在概念上的突破，它可以提供对上述第二个问题的深刻见解：我们仍然不确定如何创建真正模仿智能生活的机器以及如何赋予其“直觉”或“常识”或能够很好地执行多项任务的能力（例如人类）。即使在最现代的AI程序中，这也导致了几个明显的缺陷（在下面详细说明），这使得它们在大规模使用中不切实际。

任何足够先进的技术都无法与魔术区分开——亚瑟·克拉克（Arthur C. Clarke），1973年

4、现代的AI中明显的缺陷

4.1 当前的深度学习网络并不强大

2015年，Nguyen，Yosinki和Clune检查了领先的图像识别深层神经网络是否易受假阳性的影响。他们通过扰动模式生成随机图像，并向这些神经网络显示原始模式及其变异副本（这些网络使用ImageNet的标记数据进行了训练）。尽管扰动模式（下面的图3中描述了其中的八个）基本上没有任何意义，但是它们被这些网络错误地识别为国王企鹅，海星等，占99％以上的置信度。

另一个研究小组表明，通过佩戴某些迷幻眼镜，普通人可能会愚弄面部识别系统，以为自己是名人。这样一来，人们就可以相互模仿，而不会被这种系统检测到。同样，2017年的研究人员在路标上添加了贴纸，这导致ANN将其分类错误，这可能对自动驾驶汽车造成严重后果。在这些AI系统变得足够健壮到不会被此类干扰所欺骗之前，行业广泛采用它们是不可行的。

4.2 机器学习系统仍然效率低下

机器学习算法需要成千上万的猫（和非猫）图片，然后才能开始准确区分它们。如果AI系统在与过去大不相同的情况下运行（例如，由于股票市场崩溃），这可能会给AI系统带来严重的问题；由于AI系统可能没有足够大的数据集来进行充分训练，因此它可能会失败。

4.3 深度学习网络难以改进

尽管深度学习算法有时会产生优异的结果，但它们通常是“黑匣子”，甚至研究人员目前也无法建立理论框架来理解它们如何或为什么给出答案。例如，达德利（Dudley）和他的同事在山峰（Mt. 西奈医院可以在很大程度上预见精神分裂症的发作，但达德利遗憾地指出：“我们可以建立这些模型，但我们不知道它们如何发挥作用” 。

由于我们不了解AI程序处理的数据与其最终答案之间的直接因果关系，因此系统地改进AI程序仍然是一个严重的问题，通常是通过反复试验来完成的。出于同样的原因，如果出现问题，很难解决这些问题。鉴于这些问题以及人们被教导要“处理”原因（而不是症状）的事实，至少在任何时候，许多行业不太可能能够依靠深度学习程序。例如，医生不太可能仅根据程序的预测即患者很快会成为精神分裂症而向患者给药。的确，如果程序的预测不准确，并且患者由于使用不当药物引起的副作用而患病。

4.4 摩尔定律将在十年内结束

如前所述，根据摩尔定律预测电路中晶体管数量的指数增长速度，是影响我们AI进步的最重要原因。在达到一个硅原子的理论极限之前，当今的晶体管尺寸最多可以减少4900倍。2015年，摩尔本人说：“我认为摩尔定律将在未来十年左右消失” [117]。因此，尚不清楚在摩尔定律消亡之前是否会开发出强大的通用人工智能系统。

5、人工智能系统对人类社会的短期影响

5.1 适应不良的基础设施

即使解决了前面提到的AI系统问题，以下原因也表明，仍必须付出大量努力才能使公司，组织和政府的基础架构适应广泛采用AI程序的情况：

• 现代AI算法通常需要强大的（数千个内核）处理能力。但是，很少有组织在单个群集中安装具有100个以上内核的并行计算基础架构，并且安装较大规模的系统既费时又昂贵。
• 原则上，组织可以将其数据发送到技术公司（例如Amazon Web Services或Google Cloud），后者可以大规模提供并行和分布式计算。
• 但是，由于风险（例如，数据泄露）和合规性原因，许多组织无法使用此类服务。

• 大型公司中的数据通常驻留在数千个不同的数据库和位置中。这些数据大多数都是“嘈杂的”，如果AI系统以当前形式使用此数据，则它们很可能会失败。
• 清理和协调数据是一项艰巨而耗时的任务，数据工程目前是部署AI系统的最大瓶颈，占其时间和成本的60％以上。
• 大多数组织尚未开始大规模清理其数据，而少数已经开始这样做的组织则预计将花费两到五年的时间。

• 上游或下游的变化（例如，不断变化的法规或商业环境）可能会迫使AI系统进行重新配置，重新培训，重新验证和重新测试；
• 如前所述，这可能会导致严重问题，因为AI程序可能缺少新的培训数据。

图5：协调大数据就像弄清了许多拼图一样

5.2 人类工作的短期未来

尽管弗雷和奥斯本（Frey and Osborne）预测：“美国总就业人数的47％属于高风险类别，……大概在一两年之内。” 大型技术公司，战略公司和智囊团的研究部门长期以来一直低估（至少两倍）的历史，具体的技术进步影响人类社会需要多长时间。

原因是这些分析通常无法解决关键问题：全球经济并非一帆风顺-变化需要时间。如果人类能够帮助他们，他们很快就会适应现代技术，但是如果它伤害了他们，他们就会非常有抵抗力，这种现象很难量化。

例如，在过去的四十年中，通过使用外包，在高薪国家中已经有很大的机会可以将劳动力成本降低四分之一。从1979年左右开始，美国将制造业工作外包给低薪国家，但由于到2016年，美国由于外包而累计损失了不到800万个制造业工作。同样，美国的服务工作外包始于1990年代，但美国已累计损失了约500万个此类工作。

因此，外包造成的工作损失总计约1300万，约占美国1.61亿工作人口的8％。如果全球经济发展顺利，弗雷和奥斯本预测的大部分（如果不是全部）47％的工作将流失给外包。

此外，除非在概念上有重大突破，否则先前提到的AI程序的不足也将导致在未来的15年内不太可能因自动化而大量失去工作。的确，人工智能系统在学到的知识上做得很好，但是如果它们的规则被细微地干扰，就会很快失败。

如果工作受到威胁，人们可以轻松利用这一事实，例如，如果使用自动驾驶软件，出租车司机可能与其他人合谋引入导致事故的恶意软件（或在停车标志上贴上标签，如上所述）。

同样，可以通过不断变异恶意软件攻击其防御来击败ANN ；错误的人可以使用此方法将错误数据走私到ANN训练集中，从而破坏了AI系统的学习过程。

最后值得一提的一点是，在接下来的15年中将创造更多的工作，这在Frey和Osborne的分析或随后的任何分析中都没有考虑。

5.3 投资收益

由于上述原因，人工智能系统的采用和实施可能会慢于投资者的设想。因此，目前尚不清楚金融家是否会从他们的AI投资中获得收益。在过去十年中，AI投资的总价值超过250亿美元，特别是因为只有11家受资助的私人公司的市值达到或超过10亿美元。

实际上，自2012年以来，在AI的70项并购交易中，有75％的交易价格低于5,000万美元，是“收购雇员”（为人才而非业务绩效而收购的公司）；大多数由投资者资助的公司筹集的资金不足1000万美元。至少到目前为止，在人工智能上投入少量资金可能会产生不错的回报，但效果却不佳。

6、结论

过去几年标志着AI新的炒作周期的开始。该领域的最新进展引起了研究人员和公众的兴趣，他们开始对强大的AI的产生做出令人震惊的预测，而金融家也开始对AI研究投入大量资金。和初创公司。这让人联想起四十五年前的第一个AI繁荣阶段。人工智能领域也看到了许多惊人的进步，大胆的预测和大量的投资。最终，这一繁荣阶段崩溃了，主要是由于两个原因。

首先是机械的，由于1970年代有限且昂贵的计算能力。第二个是概念性的，因为缺乏对“直觉”和“人类思想”的理解，很大程度上由于摩尔定律，第一个问题已得到实质解决。在过去的40年中，硬件的成本和功能提高了超过一百万倍，从而可以使用无处不在且价格合理的硬件来制作更好的AI程序。

但是，第二个问题仍未解决。此外，即使是最现代的AI程序，也存在重大缺陷，这些方案对扰动仍然很敏感，学习者的效率低下，难以改进。即使解决了这些问题，当前企业和政府的基础设施似乎也无法快速大规模地整合AI程序。因此，研究人员，投资者和公众（关于AI）的大胆期望不太可能在未来十五年内实现。

尽管AI的许多举动都导致了惊人的发展，但其中很多似乎也基于“非理性繁荣” ，而不是事实。在AI系统真正模仿智能生活之前，我们似乎仍需要重大突破。正如约翰·麦卡锡（John McCarthy）在1977年所指出的那样，创建类似人类的AI计算机将需要“概念上的突破”，因为“您想要的是爱因斯坦的1.7和曼哈顿计划的0.3，而您首先要的是爱因斯坦。我相信它将需要5到500年” 。四十年后，他的发言现在似乎同样适用。

图6：映射啮齿动物大脑的神经元

但是，研究人员正在继续开拓可能导致此类突破的道路。例如，由于人工神经网络和强化学习系统的灵感来自于神经科学，因此一些学者认为，新的概念性见解可能需要将生物学，数学和计算机科学相结合来进行多学科研究。实际上，MICRoNS（来自皮质网络的机器智能）项目是首次尝试绘制啮齿动物大脑的图，该大脑具有大约100,000个神经元和大约10亿个突触。

美国政府（通过IARPA）已资助了这一亿美元的研究计划，哈佛大学，普林斯顿大学，贝勒医学院和艾伦人工智能研究所的神经科学家和计算机科学家正在合作以使其成功。MICrONS的计算目标包括学习执行复杂信息处理任务的能力，例如单次学习，无监督聚类和场景解析，最终目标是获得类似于人的熟练程度。如果成功，该项目可能会为下一代AI系统创建基础块。

MICRoNS（来自皮质网络的机器智能）项目是首次尝试绘制啮齿动物大脑的图，该大脑具有大约100,000个神经元和大约十亿个突触。如果成功，该项目可能会为下一代AI系统创建基础块。