作者：托马斯·拉姆齐
出版社：中国友谊出版公司
格式: AZW3, DOCX, EPUB, MOBI, PDF, TXT
写给大家的AI极简史：从图灵测试到智能物联试读：
“我承认，1901年我对我弟弟奥维尔说，人类在50年以内都不可能飞起来。”——[美]威尔伯·莱特（Wilbur Wright）序[1]
基蒂霍克（Kitty Hawk）时刻——为什么一切都将加速发生……
100万美元奖金。一条长度为241公里的公路横穿莫哈韦沙漠的军事管制区域。2004年，美国国防部首次在此举办了DARPA自动驾驶汽车挑战赛。当时参赛的队伍大约有100支，最佳队伍的自动行驶成绩仅为14公里，其他队伍的表现则更糟糕。8年后，也就是在2012年，谷歌发布了一份低调的新闻稿：它所研发的在YouTube上人气很高的自动驾驶汽车，已经创造了数十万公里的零事故公路行驶记录。而截至目前，特斯拉汽车的司机已经使用自动驾驶系统行驶了数百万英里。可以肯定的是，时不时地，驾驶员还是需要在情况棘手的时候控制方向盘——自动驾驶系统会及时让他们意识到这一点。这意味着在原则上，这个看似无法解决的问题已经被解决了。虽然2018年发生了几次自动驾驶汽车事故，但是为大众提供全自动汽车已经只是规模和微调的问题。
人工智能正在经历它的基蒂霍克时刻。今天的人工智能研究者就像是机动飞行的先驱。几十年中，机动飞行的先驱们许下远大的抱负，但他们的试验却一次又一次地以失败告终。直到莱特兄弟取得了重大突破——他们在北卡罗来纳的基蒂霍克进行了第一次试飞，然后相关技术才突然开始飞速发展，于是几年前的天方夜谭突然成真了。
对人工智能来说也是如此：经过多年相对缓慢、疲软无力的发展，技术终于开始发挥作用了。如今的市场上不断涌现出人工智能技术的突破，并且更多的突破还正在酝酿中。现在计算机程序识别人脸的准确度已经超过了大部分人类。谷歌助手可以模仿人类的声音，打电话到发廊预约理发，而电话那头的人根本不知道自己在和一个由丰富数据构成的IT系统交谈。在诊断某些癌细胞方面，今天的计算机已经做到了比世界上最好的医生更精确——更不用说那些在农村医院工作的普通医生了。计算机不仅在看似相当依赖直觉的围棋游戏中打败了人类，而且还比世界上最好的扑克玩家更会虚张声势——这在2017年1月已经得到了官方证实。在日本保险公司Fukoku Mutual里，建立在IBM的Watson系统上的人工智能可以根据每个保险合同的个人条款审核用户提交的医疗账单的报销金额。在世界上最大的对冲基金——桥水基金（Bridgewater），算法的作用不再局限于投资决策。这个掌握着大量员工数据的系统已经成为“机器人老板”——它知道对于特定任务，最好的商业战略和最好的团队组成是什么，并且它可以为员工晋升和企业裁员提出建议。
人工智能是自动化的下一步。重型设备已经代替人类做高强度工作很长时间了。自20世纪60年代以来，制造机器人就变得越来越简单。然而到目前为止，IT系统仅仅被用于辅助重复度最高的知识性工作。但是，有了人工智能，机器就能做出以前只有人类才能做出的复杂决定。或者更确切地说，如果基础数据和决策框架是正确的，那么AI系统将比卡车司机、行政人员、销售人员、医生、投资银行家或人力资源经理更快做出更好的决策，而且成本更低。
在基蒂霍克第一次机动飞行成功的20年后，一个新的产业出现了——此后不久，航空旅行从根本上改变了世界。人工智能也可能走上类似的道路。一旦从数据中学习的计算机程序开始在特定领域用更少时间做出比人类更快更好的决策，那么计算机程序在该领域的发展就势不可挡了。内置在汽车、机器人或无人机等物理机器中的计算机程序将极大提升自动化过程。此外，它们彼此互联，组成能够相互合作的智能物联网。
丰田研究所所长吉尔·普拉特（Gil Pratt）促成的历史性飞跃甚至比在基蒂霍克发生的还要大。普拉特将人工智能的最新进展与5.4亿年前进化生物学的寒武纪爆发进行了比较。几乎所有的动物都起源于寒武纪时期，当第一个物种进化出看东西的能力，进化的“军备竞赛”就开始了。有了眼睛的动物就可以征服新的栖息地，可以开拓出新的生态位。生物多样性就此爆炸式增长。这与人工智能识别数字图像非常类似。随着生物技术在数字图像识别方面的突破，人工智能现在也有了眼睛，能够更精确地导航并从环境中学习。麻省理工学院的埃里克·布林约尔松（Erik Brynjolfsson）和安德鲁·麦卡菲（Andrew McAfee）将对比进一步推进到进化的早期阶段，并说道：“今天，我们同样期望看到各种新产品、服务、工序和组织形式。当然，其中也会有大量的‘灭绝’，但也肯定会有一些奇怪的失败和意外的成功。”
人工智能研究人员和学习软件系统的生产者现在被一股强大的力量推动向前。需要资金的初创公司倾向于在每个数字应用上贴上人工智能的标签，而不考虑系统能否真正从数据和示例中学习或是从学习经验中总结出规律来，也不管它是否实际上只是盲目遵循指令的传统编程系统。人工智能的卖家和很多买家——不管是科研赞助商、投资者还是用户——都只能艰难地评估产品的技术操作原理。人工智能目前被一种神奇的光环包围着——而这并不是第一次。
人工智能已经经历了多个炒作周期。然后，人们对它的期望越大，失望越大。在这些所谓的“人工智能的冬天”中，甚至某些狂热的信徒也开始怀疑自己是否在追逐白日梦，而这个白日梦是他们从小痴迷的科幻小说激发他们描绘出来的。
今天我们可以放心地说：人工智能研究已经突破了几十年来其自身一直面临的问题。更公正地说，我们应该给予人工智能更多赞赏。当一台机器比数学天才更会做算术题，或是比世界冠军更会下棋，或能更可靠地指引我们穿过一座城市，我们会在短时间内对此留下深刻的印象。但是，一旦计算器、国际象棋程序和导航应用程序成了大众买得起的便宜产品，我们就会觉得这种技术变得很无聊。当人工智能的时代真正来临的时候，我们又会很快习以为常，而忘了我们曾经认为它们是智能的象征。
今天机器的学习曲线似乎比人类的更陡峭，这将从根本上改变人类和机器的关系。像本书作者和谷歌研究员雷·库兹韦尔（Ray Kurzweil）一样，硅谷的理想主义者从这里看到了解决我们（时代）所有重大问题的钥匙。一些专家相信，获得授权的人工智能会让我们生活得更容易，甚至可能通过将我们的信息上传到云端而赋予我们永生。启示论者——常常是欧洲人——比如牛津哲学家尼克·博斯特罗姆（Nick Bostrom）则害怕机器会夺取权力，毁灭人类。极端的立场总能成为很好的文章标题。对于推崇它们的人来说，极端立场能在市场上成功引起我们的注意。不过，无论如何，这些立场很重要，因为它们正在让许多人更细致地研究人工智能。
无论谁想探索新技术的机会和风险，他都首先需要了解基础知识。他们必须理解：人工智能到底是什么？今天它能做什么，在可预见的未来它又能做什么？如果机器继续变得越来越智能，人类需要发展出什么样的能力？随着我们找到越来越精确的答案，我们将能够解决以下这些大问题：我们应该害怕人工智能吗？我们应该害怕人类恶意地使用人工智能吗？人类必须建立什么样的技术框架，使能够自主思考的机器作为自动化的代理人，使其能够信守承诺，使世界更加富裕和安全？“当你不知道该做什么时，智力就是你需要使用的东西。”
——[瑞士]让·皮亚杰（Jean Piaget），生物学家和发展心理学家识别、洞察、行动
特斯拉正以每小时130公里的自动驾驶模式在高速公路的左车道上行驶。前方右车道上，几辆卡车以每小时90公里的速度行驶。特斯拉离卡车纵队越来越近了。车队尾部的卡车打出了左边的车灯，表示它要变到左边道。这时，特斯拉必须做出复杂的决定：是应该继续以同样的速度行驶甚至加速以确保它能够在卡车变道之前通过，还是应该鸣喇叭警告卡车司机？在这种情况下允许超车吗？还是说特斯拉应该为了安全起见，以增加行驶时间为代价，制动并礼让卡车？当然，只要没有一位激情驾驶的跑车司机跟在特斯拉后两米处，那么刹车是最安全的选择。
几年前，在任何情况下，我们都完全有理由不把这个决定权交给机器。从统计学上来说，这项技术还没有被证明比我们自己坐在方向盘后面更有可能把我们安全地带到目的地，因为我们不仅熟悉交通规则，有丰富的经验与预测人类行为的能力，还有直觉。
然而今天，特斯拉的驾驶员们已经将许多驾驶决策委托给计算机。这并非没有风险。无论是在特斯拉、谷歌还是在像梅赛德斯、奥迪、日产、现代和沃尔沃这样的传统汽车公司，自主驾驶的运行远非完美。这些公司不知疲倦地研发自动驾驶系统，但出于安全考虑，有许多功能都未被投入使用。在天气良好和有清晰标注的公路上，自动驾驶系统显然已经是比人类更好的驾驶员。而在城市里，晚上或在大雾天，自动驾驶系统优于人类驾驶也只是个时间问题。
正如一句老话所说：“对于人类来说很难的事情，对机器来说很简单。”反之亦然。在每一次驾驶的过程中，计算机都有成千上万个小且复杂的决策要做，而这对于以前的计算机来说是不可能的任务。为什么现在情况改变了？从抽象的角度来说，答案是：因为从可控硬件中学习数据的软件已经越来越熟练地掌握了识别、洞察和执行这个三角系统。
在上面特斯拉和卡车的例子中，不仅特斯拉所配备的GPS导航、高分辨率照相机、激光和雷达传感器能精确地告知自动驾驶系统汽车的位置、卡车的行驶速度、道路状况及右边是否有紧急通道，该系统的图像识别软件还可以可靠地识别出闪烁的灯是卡车的转弯信号灯，而不是远处建筑工地上的灯。计算机在过去的几年里已经获得了识别事物的能力。如今最好的计算机已经能区分出地面上的物件是汽车能安全碾过的碎纸还是它需要绕行的石头。
所有的视觉（和其他感官）数据流入一个小型的超级计算机，也就是汽车的人工大脑。它是由许多计算机中央处理器和图形处理器组成的。处理器必须以秒为单位对信息进行排序，同时将实时数据与先前收集的数据、已编程到系统中的规则同步。特斯拉系统知道在这种情况下它有通行权。交通规则规定，卡车司机只有在没有车辆从后方接近的情况下才允许变道。通过对几十亿英里的道路交通信息——反馈数据——进行学习，自动驾驶系统得到了加强，它甚至知道卡车司机并不总是遵守交通规则。它知道，尽管特斯拉正从后面驶来，卡车还是很有可能会变道。它也知道，如果一辆自动驾驶汽车冒着发生严重事故的危险坚持遵守交通规则，是不符合乘客最大利益的。
自动驾驶系统根据观测到的情况、编程规则和以往的经验，在许多可计算的场景中推断出避免事故的最佳选择，同时仍然带领特斯拉快速前进。在本质上，这是一个认知决定，一个对行动方针的选择。这个问题的最佳解决方案其实是一个基于许多变量的概率计算。
而部分自动辅助驾驶系统仅为驾驶员提供建议。例如，如果卡车不仅发出信号，而且做出小的转向运动，那么辅助驾驶系统会通过发出“哔”声警告并指示驾驶员将方向盘打向左边。人类驾驶员则可以选择遵循系统的建议或忽略它。但是一个真正的自动驾驶系统将直接做出自行的判断并付诸行动。它会控制汽车刹车或继续向前行驶。自动驾驶系统会以非常熟练的方式控制物理机器的功能，如控制油门、刹车和转向。比如飞机的自动驾驶仪在正常情况下比任何头戴机长帽的飞行员都能更精确地控制飞机起飞或降落。又比如在完全数字化系统下用于高频股市交易的机器人会自动执行决策。以上的应用虽然不同，但是它们的自动化原理是一样的：识别数据中的模式，从统计和算法中推断出结论，再通过技术程序将结论变成决定并加以执行。举例来说就是机器在研究市场趋势之后，发现了有利的交易机会，然后帮你点击了“立即购买”。博兰尼悖论
衡量决策的影响并将其纳入未来决策是人工智能系统本质的一部分。人工智能系统是基于反馈做出决定的。如果特斯拉在上述的决策下发生了事故，它会将事故作为反馈传送回中央计算机，那么所有其他特斯拉将（希望如此）在类似的情况下更谨慎地驾驶。相似的，如果用于批准贷款的AI软件发现很多贷款人有违约的情况，它就会提高申请者的贷款标准；如果一个水果收割机收到其采摘的苹果有很多没熟的反馈，那么在下一次作业时，它将会调整苹果表面红绿色的比例，以做出更好的采摘决定。人工智能和传统IT系统的本质区别在于人工智能能够独立改进自己的算法并对结果进行评级。自动校正是内置在AI系统中的。
自20世纪40年代第一台大型计算机问世以来，计算机编程意味着人类需要耗费大量精力将理论模型输入机器之中。而该模型包含机器可以应用的特定规则。如果人类向机器投喂特定任务或问题的数据，那么它通常能比人类更快、更精确、更可靠地解决这些问题。这令人印象深刻。但本质上，经典编程就是将现有知识从程序员的头脑中转移到一台机器上。但是这种技术方法有一个自然的限制：人类的大部分知识是隐性的。
比如，人类可以识别出面孔，但不知道自己是如何做到的。进化赋予了人类这种能力，但是我们没有很好的理论来解释为什么我们能够瞬间识别安吉拉·默克尔（Angela Merkel）或乔治·克鲁尼（George Clooney），即使在光线很差或是人脸被遮住了一半的情况下，我们也能识别。比如要精确地向孩子描述滑雪和游泳的最佳方法几乎是不可能的。还有一个有关隐性知识的著名例子是：什么是色情？美国最高法院大法官波特·斯图尔特（Potter Stewart）想为其找到一个在法律上无懈可击的定义，却始终没有成功，只找到一个令人失望的答案：“我看到它就知道是不是色情了。”这个问题有一个名字：博兰尼悖论。它描述了一个以前软件程序员无法逾越的极限：没有理论，没有规则，我们就不能把知识和能力传授给机器。
人工智能则克服了博兰尼悖论——人类只创造机器学习的框架。人工智能各流派在此概念下发展出来的方法和途径不计其数。但是他们中的大多数，其中包括最重要、最成功的那些流派，遵循的基本原则都是只给计算机目标，而不是理论和规则。计算机通过许多例子和反馈，学习如何在训练阶段达到人类设定的这些目标。
在这个背景下，人们经常讨论的一个问题是反馈回路中的机器学习在实际上是否是智能的。许多人工智能研究者并不是特别喜欢“人工智能”的概念，而更喜欢用“机器学习”这个词。强弱人工智能
1955年，在著名的达特茅斯会议上，马文·明斯基（Marvin Minsky）与一众计算机先驱们发明了“人工智能”这个概念。此后，这个概念一直备受争议。即使今天，科学家们仍然没有就“人类智能”的构成达成共识，那么“人工智能”这样的概念是否能用于机器呢？关于人工智能的讨论很快就转向了其基本问题。例如，没有意识的思考是否存在，机器是否很快就会比人类更聪明，机器是否会聪明到自行迭代，变得越来越智能，甚至发展出自我意识及喜好？如果是这样，我们是否必须授予有自主思维的机器以人权？或者人类和机器是否会融合，形成超级人类，将人类进化提升到下一个阶段？
这些关于强人工智能（或称为广义的人工智能）——有强认知的、像人类一样的AI——的问题很重要。对这项技术将带来的长远影响的思考应该与技术的发展同步进行，就像我们对待核武器那样。本书的最后一章将谈到这些问题。不过，这些担忧还离我们很远。更紧迫的是“弱人工智能”这个议题，包括那些今天在技术上就已经可以实现的弱人工智能，以及在可见的未来会出现的弱人工智能。那么首先，我们需要搞清楚什么是弱人工智能（狭义的人工智能）。
美国语言哲学家约翰·罗伯特·塞尔（John Robert Searle）在40年前就提出了强弱人工智能的区别。目前，强人工智能还只存在于科幻小说中，而弱人工智能已然存在于计算机系统中，并处理着各种直到最近我们还以为只有人类大脑才能处理的任务。弱人工智能通常涉及经典的知识性工作任务，例如审核保险公司的案卷或写作新闻或体育报道。
人工智能嵌入到物理机器中，不仅能使汽车智能化，而且能使工厂、农业设备、无人机及救援和护理机器人智能化。我们常常将它与人类行为比较，试图找到两者的相似之处，但其实智能机器完全不必模仿人类完成任务的方式或人类大脑中任何意义上的生化过程。它们通常具有自主搜索数学解析路径、改进已有算法，甚至独立开发算法的能力。结果是机器比人类做得更好、更快，也更便宜。在解决问题方面，如果机器比人类更优越，机器系统的普及速度就会更快。然而，正如数字革命的传教士所宣称的那样，根据数字拷贝不花费任何成本的原则，这不会以零边际成本的情况发生。数字技术很贵，这一事实在短时间内也不会改变。如果你对这一事实存有疑虑，你可以去询问任何一位首席信息官。但事实证明，新技术的引进和传播周期正在缩短。
人类对于文明的态度将加速或减缓创新被接纳的速度。正如当前的机器人在欧洲是敌人，在美国是佣人，在中国是同事，在日本是朋友。但从长远来看，投资回报率才是影响全球对机器人态度的关键。而收益通常是以金钱衡量的。当亚马逊在市中心设立无人售货的小商店时，相机、传感器和射频识别芯片会自动计算购物车里商品的总价。虽然亚马逊需要在自动化货架和收银机系统上投资数百万美元，但在人事成本上它却节省了数百万美元，于是它在之后的某月或年中就可以收回成本。但是，如果纽约基因组中心能够在10分钟内用IBM Watson应用程序分析患者的遗传物质，以便提出可能成功的治疗方法，而高水平的医生需要160个小时进行同样的分析，那么这时机器人所带来的回报就不是以美元计算了，这时候的衡量标准变成了被挽救生命的数量。“人工智能将像电一样改变世界。”这句话出现在许多关于人工智能的文章和研究中。在技术范式转变的时代，专家——尤其是乐观派——在做出有关人工智能的预言时应该谨慎。如果没有根本性的变化，以过去的数据预测未来的可靠性最多只有50%。
在这方面，数字化本身就产生了一个有趣的悖论。更多的数据和分析提高了人们对未来的预测能力。但是数字技术的破坏性造成了不可预知的变化。然而，我们仍然坚持这样的假设，即智能机器将在未来20年从根本上改变我们的生活、工作、经济和社会。如果把从数据中学习的系统看作一种跨界技术，那么将之与电类比是正确的。和内燃机一样，塑料、互联网的发展都在多个领域产生了影响，同时也为那些我们甚至在今天都无法想象的新创新的出现和影响创造了先决条件。
电力使得高效的火车、装配线、图书馆照明、电话、电影工业、微波、计算机和电池驱动的火星漫游者在崎岖的地表上的探索任务成为可能。我们无法想象没有电的现代生活。今天，没有人知道人工智能这种跨界技术是否会产生类似的巨大影响。斯坦福大学教授、谷歌和百度AI团队的前负责人安德烈回答了人工智能将影响哪些领域的问题：“可能思考AI产业将不会改变什么比思考AI产业将会改变什么更容易。”这不再是对未来的陈述。它描述的是现在，包括积极的方面和令人不安的方面。对机器的愤怒？
今天没有人能够可靠地预测人工智能系统是否将毁掉人类的工作，或者在下一波热潮中是否会创造新的工作，就像没有人能可靠地预测早期的技术革命所带来的影响一样。19世纪早期反对机器的勒德分子用大锤击碎了英格兰中部的第一台机械纺织机。对机器的愤怒曾使人们想要摧毁任何可能毁掉人类本身的东西。但愤怒毫无用处。虽然生产力和国内生产总值迅速上升，但对他们来说，工作条件却日益恶化。几十年后，自动化投资的回报率才以更高的工资和更好的社会安全网的形式惠及子孙后代。机器的破坏者成为经济和社会巨变中迷失的一代。古典经济学家大卫·里卡多（David Ricardo）将其总结为“机械问题”（machinery question）。历史学家罗伯特·艾伦（Robert Allen）用文学术语“恩格斯停顿”（Engels’Pause）来形容从1790年到1840年的工资停滞。
从长远来看，对于机械问题我们已经找到了令人满意的答案，那就是进步。在农业上，虽然联合收割机取代了农民，但工业化不仅创造了制造联合收割机的机械师的职业，还制造了大量的簿记员，后来又需要大量的营销专家来向客户介绍产品。这些产品由于工厂的规模经济而变得越来越低价，同时质量却越来越高。
乐观的研究者和政治家们希望人工智能也会有类似的发展路径和结果——当然是以更快的速度，而且没有“恩格斯停顿”。他们认为自主学习的计算机系统将在未来几年提供相当可观的生产力和GDP增长，因此个人、公司和社会就能更多地投资于教育和更好的工作。在一项研究中，埃森哲（Accenture）计算出，由于人工智能的出现，到2035年美国GDP可以以每年4.6%的速度增长，这几乎是无人工智能情况下的两倍。在德国，到2035年其GDP年增长率应该能达到2.7%，几乎是现在的两倍以上。日本政界将人工智能视为处理本国劳动力短缺问题的机会。他们相信人工智能和机器人最终会把这个国家从顽固的滞胀中解救出来。
中国通过人工智能实现经济增长的前景最为光明。因为中国拥有开发和使用人工智能的所有重要组成部分：资本、廉价的计算能力，以及从美国的大学及初创企业涌回中国的智慧头脑，而中国的大学也在培养越来越多的人才。最重要的是，中国拥有的反馈数据就像沙特阿拉伯的石油储备那么丰富。世界上大约一半的互联网数据来自于人口数达14亿的中国，由移动消费设备从他们身上收集的数据对于人工智能系统尤其有价值。从纯粹的经济角度来看，中国有机会进一步加速成为经济超级大国，从而带领数百万人摆脱贫困。
与乐观派持相反意见的是一大批劳动力经济学家。他们计算出有大量的人类活动可以由人工智能代替完成。根据他们的悲观预测，巨大的规模经济和网络效应带来的低成本将导致全球大规模失业。2013年，牛津经济学家迈克尔·奥斯本（Michael Osborne）和卡尔·本尼迪克特·弗雷（Carl Benedikt Frey）计算出美国约有一半的工作会受到严重威胁。他们的同行经济学家对这项研究的方法提出了严重质疑，但它在世界范围内还是引发了一场争论。因为他们同时还天真地提出，被第三次自动化浪潮淘汰的人只需要一点点善意及政府的再培训计划，就能迅速找到新的好工作。今天美国和欧洲的许多人都认为数字化正在把劳动力市场分割成良好的工作和糟糕的工作两块。对于受过高等教育的数字化赢家，尤其是对于那些创建和操作数据资本主义工具的人来说，工作是令人愉快的，并且收入颇丰。其他人则不得不在雨中送快递。
这个画面当然有夸大的成分，而今天的情况是：人工智能和机器人的加速应用肯定会影响就业率，但是到底会产生何种影响，目前还尚未清晰。所有的预测，无论乐观或悲观，都还无法完全自圆其说。我们根本无法估计下一代AI系统将如何接管各种任务，或者将如何动态扩张。做出可靠预测的难题就在于其本质上是一个速度问题。人工智能越快将触角伸向人类工作场所，人们调整个人资质和集体安全系统的时间就越少。那么新一代人类就可能在自动化面前败下阵来。尽管预测中充满了不确定性，但可以确定的是，全世界的政客们已经找到了稀少的还算明智的答案来应对下一波自动化浪潮的挑战。但是，我们还没有做好解决“机械问题”的充分准备。机器的瑕疵
对于人类来说，更紧迫的问题可能是：未来是否会出现一个这样的“超智能系统”，它能够自主地在反馈回路中计算勾画出一个更好的世界和它自身的形象？牛津大学未来人文研究所所长尼克·博斯特罗姆（Nick Bostrom）称这是一个将把人类“从最高思考者的位置上驱赶下去”的人工智能系统。结果就是人类将无法控制这个超智能系统。那么，这种超智能系统会不会像科幻小说中那样反抗人类，最终灭绝人类呢？
我还是快点告诉你个好消息吧：就目前来说，人工智能系统还不会奴役人类。没有人知道计算机在未来200年内能发展到什么程度，但起码我们知道，计算机科学家还不知道任何可能导致超级人工智能的技术途径。于是，世界末日又被推迟了。人工智能系统存在内在弱点，使得它们容易做出错误的决策，这限制了它们的使用。但我们还是要时刻保持警醒，因为人类有责任不断批判性地看待它们的算法。
令人吃惊的是，人工智能系统的弱点与人类的非常相似！比如，和人类一样，人工智能系统的神经网络也会有偏见。这些偏见不是由软件开发人员编写的，而是隐含在训练数据中的。如果人工智能支持的贷款发放过程根据训练数据的结果，认为少数民族或53.8岁以上的男子或戴黄头盔、有一辆8速自行车的人偿还贷款的可靠性较低，它就会把这种判断纳入评分模型中，而不管这种判断是否荒谬或是否合法。
我们人类知道要对种族主义提高警惕，并且可以加以纠正。但人工智能系统不会这么做。比如曾经有个AI系统可以帮助美国法官决定是否可以提前释放囚犯，该囚犯重犯的风险有多高，但人们却怀疑这个系统让非洲裔美国人和西班牙人处于不利的地位。这个系统因此成为具有内置偏见的人工智能系统的教科书范例。未来，我们可能需要较长的时间识别机器的偏见，或根本识别不出来。谁能想到一台机器会歧视戴着黄色头盔的自行车骑手，并因此做出荒谬的决定呢？
自动化决策系统（ADM）的开发人员已经开始寻找解决机器偏见的技术方案。例如，IBM在2018年9月发布了一个开源工具包，用于检查机器学习模型中的偏见。这个应用程序被称为“人工智能公平360”（AI Fairness 360）。而更多的此类应用也将在未来出现。开发人工智能的公司知道，人们是否能够接受人工智能系统在很大程度上取决于人们对它们的信任，因此人工智能系统不仅要做到公平公正，还要给与我们充分的理由去信任它们。
未来将会继续有许多声音要求为AI系统内置一个申辩功能。如果一台机器为某个病人推荐一种特殊的化疗，那么它不是仅仅像颁布神谕一样简单地说出它的建议，而是需要向主治医师证明它是如何确定这是最佳解决方案的。这种貌似合理的解释功能已经初具雏形，但还存在一个基本问题。
机器在神经网络中的学习过程是数百万个连接的结果，并且它们中的每一个都会对结果产生细微的影响。因此，决策过程非常复杂，以至于机器无法向人类解释或展示它是如何得出这个“可信”或“不可信”的结论的。这简直就像是科技史上的一个笑话。现在，受“博兰尼悖论”影响的不再是人类，而是机器，因为机器知道太多无法向人类解释的东西。这意味着，即使人类注意到人工智能系统犯了错误，也几乎不可能对其进行纠正。机器无法告诉人类错误来自哪里，因为它自己也不知道。
因此，对于“博兰尼悖论”的大逆转，人类只能回到启蒙运动的起点去找答案：我们必须批判性地审视机器所告诉我们的一切。启蒙运动转向理性和科学，为查尔斯·巴贝奇（Charles Babbage）在18世纪中叶构想出第一台计算机，以及康拉德·祖斯（Konrad Zuse）在一个多世纪后建造第一台可编程计算机奠定了基础。大约在25年前，蒂姆·伯纳斯-李（Tim Berners-Lee）将计算机连接成全球网络，将巨大的数字机器变成了人类有史以来最强大的工具。现在机器正在学习如何自主学习——我们需要与他们保持更远的距离。
我们必须搞清楚在哪些情况下机器辅助对我们有用，在哪些情况下又会阻碍我们的思维。我们必须学会与所谓的“超级假货”（deepfake）共存。它们可以让一个人模仿另一个人的声音，或者把一个人的头放在另一个人的身体上。但是我们必须要警惕，人工智能算法可以通过在社交媒体上精心安排帖子来左右人们的思维，从而颠覆我们的民主。全世界的政治家和公民都应该密切关注军方对人工智能武器的开发和应用。立法者，而不是军人，应该考虑当机器自动开枪时所触发的所有伦理问题。智能机器的开发者在用人工智能系统做杀人武器的时候，一定要三思而后行。（2018年6月，谷歌拒绝与五角大楼续签一份合同，因为这份合同令许多参与人工智能研究的员工异常愤怒。）
但是恐惧不应该遮蔽我们的双眼，让我们对人工智能的好处视而不见。决策自动化为社会的个人、组织和社区提供了巨大的机会。但是随着机器能做出越来越好的决策，我们人类就越来越需要集中精力思考：我们要把什么样的决策权委托给人工智能。因为即使在用人工智能进行自动决策的时代，人类仍然希望决策能带来幸福，但这对计算机来说没有意义。机器永远感觉不到什么是幸福。“进步可能曾经是好的，但它持续太久了。”
——[美]奥格登·纳什（Ogden Nash），诗人聊天机器人的智商测试“机器能思考吗？”1950年，英国数学家、密码学家和计算机先驱艾伦·图灵（Alan Turing）在他的传奇文章《计算机机械与智能》（Computing Machinery and Intelligence）中提出了这个问题。他在正文的开头给出了一个简短的答案：这样问，这个问题就没有答案，因为“思考”很难被定义。在第二次世界大战期间，图灵已经展示出了他非凡的才能。他在促成计算机科学领域第一次伟大成就上做出了关键性的贡献，包括使用巨像计算机系统（Colossus computer system）破解德国的Enigma加密系统生成的代码。从那时起，盟军才开始能够理解纳粹的无线电信息。后来，图灵想用一个实践中的测试来回答关于“机器是否能思考”的抽象问题：让一台计算机通过电子设备与人交谈，如果设备另一端的人无法分辨与他们交谈的是人还是机器，那么这台计算机就应该被认为是智能的。
图灵设想使用电传打字机作为中介来进行测验。而当时的现代计算机科学才刚刚起步，因此他的设计只是一个思维实验，但对于每天要重复向计算机输入越来越长串数字的研究人员来说，这不啻为一种启发和激励。这之后的20年，世界上才造出了能勉强与人交谈的聊天机器人。但在1950年左右出现“机器是否能思考”这一问题绝非偶然。那时，科学技术已经以两种不同的方式取得了长足进步，使得人类可以开始想象能参加这个问答游戏的机器的存在。
构建智能机器至少需要两个元素：一套强大的逻辑规则，以及可以基于这些规则处理信息并从中得出逻辑结论的物理设备。
从启蒙运动到20世纪初，戈特弗里德·威廉·莱布尼茨（Gottfried Wilhelm Leibniz）、乔治·布尔（George Boole）、戈特洛布·弗雷格（Gottlob Frege）、伯特兰·罗素（Bertrand Russell）及阿尔弗雷德·怀特海德（Alfred Whitehead）这些哲学家和数学家们进一步发展了以亚里士多德理论为基础的古典逻辑。20世纪30年代，库尔特·哥德尔（Kurt Gödel）用完备性定理（completeness theorem）和不完备性定理（incompleteness theorems）证明了逻辑的全部能力及其局限性。因此，复杂算法的基本逻辑目录就被创建出来了，而随之诞生的是计算机语言编写的指令。计算机要用这些指令才能执行交给它们的任务。
图灵又于1936年提出：只要是通过算法能解决的问题就难不倒计算机。他的理论模型后来被称为“图灵机器”（Turing machine）。这在某种意义上有些令人困惑，因为图灵机器不是一个物理对象，而是数学对象。而当时可以执行该模型的机器还没有被创造出来。不过没多久，在1941年，德国工程师克兰德·楚泽（Konrad Zuse）就取得了相应的关键突破。他创造了世界上第一台可编程的全自动电子计算机Z3，并使用1和0的二进制代码来计算飞机中的振荡。然而这个非常具有前瞻性的计算机毁于1943年的空袭。
数字技术在美国发展得最快。1946年，世界上第二台现代电子计算机埃尼阿克（ENIAC）面世。这是宾夕法尼亚大学研究人员自1942年以来的研究成果，主要用于计算炮弹设计表。
1950年，当图灵用他著名的问答测试重新提出关于“机器是否能思考”这个问题时，ENIAC的升级版本已经在计算弹道飞行路径，并且结果可靠。由于有美国国防部下拨的大笔预算，大学和工业界的研究人员和开发人员迅速提高了计算机的计算性能，从而为第一个AI程序创建了必要的硬件。这个AI程序的第一次亮相是在一个大会上，也是在这次大会上，这门年轻的学科有了自己的名字。在达特茅斯开球
1956年夏天，近20位数学家、信息理论学家、控制论家、电子工程师、心理学家和经济学家在达特茅斯人工智能夏季研讨会（Dartmouth Summer Research Project on Artificial Intelligence）上相遇。他们向洛克菲勒基金会陈述了申请资助的理由：“学习的每一个方面或智力的任何特征在原理上都可以被精确地描述，因此我们可以制造一台机器来模拟它。”与会者一致认为，思维是有可能在人脑以外产生的。在他们看来，只要揭开大脑“神经网络”背后的秘密，人类就可以构建出一个电子大脑。与会者的这种信念基于法国哲学家朱利安·奥弗雷·德·拉·梅特里（Julien Offray de La Mettrie）200年前的一个观点：人类是机器。针对如何创造一个电子大脑的问题，与会者们激烈地辩论了两个月。由于在概念问题上的持续冲突，会议几乎忽略了艾伦·纽威尔（Allen Newell）、赫伯特·A·西蒙（Herbert A.Simon）和克利夫·肖（Cliff Shaw）关于一个名为“逻辑理论家”（Logic Theorist）的计算机程序的介绍。该程序有意识地模仿了人类解决问题的策略，而且常常能比人类更优雅地证明数学理论。“逻辑理论家”是第一个不仅具有处理数字的能力，而且具有处理符号和标志的能力的计算机程序。这为计算机理解人类语言和识别上下文奠定了重要基础。但这个重大突破却几乎没有被在场的研究人员注意到，甚至这个程序的开发者也没有认识到它在未来的发展前景。
相反，围绕“人工智能”这个概念，与会者们却不断爆发口水战。这个术语首次出现在会议的资助申请提案中。它的创始人约翰·麦卡锡（John McCarthy）是一位年轻的逻辑学家及夏季研讨会的共同发起人。然而来自麻省理工学院的马文·明斯基（Marvin Minsky），贝尔实验室的克劳德·E·香农（Claude E.Shannon）和IBM的亚瑟·塞缪尔（Arthur Samuel）都对这个概念不太满意。但是这个词很简洁，尤其是它的缩写“AI”很受新闻记者的欢迎。在接下来的几十年里，当涉及为AI筹集研究资金或投资资金时，它总是充当着极好的营销标签。甚至当许多与会者离开达特茅斯的时候，他们都觉得真正的研究议题没有得到太多关注。不过，这并不妨碍此次会议成为人工智能大爆发的原点。
之后，约翰·麦卡锡开发了LISP编程语言，为许多AI应用程序奠定了基础。很多美国大学都成立了专攻人工智能的学院。匹兹堡的卡内基梅隆大学、马萨诸塞州的麻省理工学院和加利福尼亚州的斯坦福大学成为了人工智能的研究中心。而这些新机构的负责人几乎都是达特茅斯会议的参与者。这片欣欣向荣的景象吸引了大笔资金。美国军方和IBM等公司均大力投资智能计算机。不久，西屋电气公司
试读结束[说明：试读内容隐藏了图片]