作者：宋冰 编著
出版社：中信出版集团股份有限公司
格式: AZW3, DOCX, EPUB, MOBI, PDF, TXT
智能与智慧：人工智能遇见中国哲学家试读：
智能与智慧——人工智能遇见中国哲学家宋冰 编著中信出版集团序言智能与智慧：人工智能遇见中国哲学家宋冰前沿科技时代基础价值观的错位或缺失以人工智能、基因编辑、大数据与量子计算为核心的前沿科技时代呼啸而至。人工智能和机器人应用的广泛场景已经开始深刻影响人们的生活方式、理念，甚至人之所以为人的思考。全球呼吁建立人工智能与机器人伦理规范的声音此起彼伏，从2015年至今，全球共有超过50份与人工智能和机器人相关的伦理原则与价值声明。其中有如公正、尊严、自由和人性的抽象原则，也有在个人权利基础上的保护隐私、反偏见等原则，以及诸如可解释性、安全性与鲁棒性等以技术性考量为重的原则。由欧盟人工智能高级别专家组起草的《可信赖的人工智能伦理指导》指出，指导这些原则的基础价值观是“尊重人权、[1]民主与法治”，且推进个人基本权利的方式方法。中国、美国和新加坡的人工智能发展战略与规划纲要等各类官方文件所触及的基础价值观包括以人为中心、打造国际竞争优势，保持在研发和规则制定上的战略优势以及保障国家安全等理念。前沿科技之所以具有颠覆性，在于它技术迭代快、发展进路不确定且呈非线性轨迹，同时各项技术的结合往往产生叠加效应，常常会出现意料之外的结果。通过广泛的应用场景，人工智能与机器人等前沿科技全面渗透我们的个人、社会、经济、政治生活，对我们的生活方式和理念有着令我们始料未及的深刻影响。有的人甚至认为这些科技的发展会威胁人类的存续。然而，目前社会上提出的价值观和伦理原则多半是工业革命时代的主流价值观和伦理原则，这些足以应对如此具有颠覆性、迭代迅速、发展前途扑朔迷离的前沿科技吗？此外，近年来提出的伦理与治理原则大都源于西方文明的价值观，是从人类中心主义出发，围绕个人内在价值、个人的能动性和主体性等哲学假定而提出的。虽然在全球化时代，这些价值观或者表征类似价值认同的符号在许多非西方国家（包括中国）已被广泛采用，但这些原则和理念真的可以成为建构人类和其他存在的共同前途的基础价值观吗？《人类简史》作者、历史学家尤瓦尔·赫拉利曾指出，我们不仅仅在经历技术上的危机，我们也在经历哲学的危机。现代世界是建立在17—18世纪的关于人类能动性和个人自由意志[2]等理念上的，但这些概念正在面临前所未有的挑战。闻此评述，笔者心有戚戚焉，认为在讨论符合人工智能和机器人研发的伦理原则之时，应该反思我们习以为常或奉为圭臬的哲学理念和框架。如果用“道”与“术”的框架来看的话，当下关于人工智能伦理原则的讨论更多关注于“术”的层面。本书希望在“道”的层面上引发哲学家和科学家的思考。人工智能与中西哲学在西方学术界，人工智能与哲学的结缘始于图灵于1950年在哲学杂志《心智》上发表的《计算机器与智能》一文。该文可以被看作人工智能的宣言书，提出了后来众所周知的图灵测试。这个测试的方法和结论引起了西方学术界至今尚未有定论的“何为智能”的讨论。如果说人类对机器能力和智能的分析与预测是人工智能哲学思考的发端，我们甚至可以把这种拷问追溯到19世纪中叶洛芙莱斯伯爵夫人对智能机器的畅想。她预测机器可以创造有复杂性的乐章，可以表征大自然，并开启[3]科学史的光荣时代。此后，有关人工智能哲学的讨论主要围绕核心概念即何为智能而展开。人有可能发展出机器智能吗？没有意向性的能力是智能吗？如果人工智能要像人一样有思想感情、本能反应、灵感和创造力，那么发展机器意识就成为人工智能科学家努力的方向。科学家们对人的意识的产生及其与身体反应和行动间的关系知之甚少，对如何发展机器智能的认识只是在十分初级的阶段。但是不得不说，近几年对人工智能的热议以及脑科学与认知科学的新发现也引发了人们对哲学领域古老的“心身”问题、何为意识、何为自由意志、意识与神经反应活动的关系的讨论。其他相关问题随之而来。“心”实际上就是一种计算系统吗？电脑可以帮助我们认识人的大脑吗？计算的方法可以用到思维、感情、情绪和动机上去吗？人的常识和日常生活可以还原成计算模型吗？有可能发展机器意识吗？它和人的意识一样吗？人的意识的本质是什么？机器，即使是智能机器可以被认为是生命吗？生命的定义是什么？硅基体没有新陈代谢，是否就永远不可能成为生命？没有生命是否就无法发展意识？人工智能与人工智能哲学作为学术门类一开始就是跨领域、跨学科的。计算机工程、计算机软件的科学家、数学家，认知科学家、心理学家、心理分析师、语言学家和哲学家等相互启发，在对智能的理解、对人脑规律的揭示、建模等问题上相互推进认识。比如说神经病理学家兼精神分析学家沃伦·麦卡洛和数学家沃尔特·皮茨的文章《神经活动中固有思维的逻辑微运算》就启发了联结主义的人工智能的发展。冯·诺依曼[4]于是开始对思想建模。英国科学家戴维·马尔从脑科学得到启发，将脑科学的发现与分析用于他的视觉和运动控制的建模中。脑科学对人工智能研究启发的最新例子是人工智能企业DeepMind受到脑科学在动物记忆重现上的研究成果启发而研发了深度Q网络。该企业呼吁并推动了脑科学与人工智能研究团队的融合。刘晓力就人工智能研究领域在人类意识与机器意识的演化、研究进路做了细致而深入的研究。总之，人工智能科学、工程学、计算心理学、认知科学、脑科学、心灵哲学等都在一个互相推动和融合的学术生态圈中。因此，人工智能哲学被认为是关于智能的科学探讨，是一门与心灵哲学、认知科学、认知哲学、语言学、心理学和认识论等[5]紧密联系的学科。本书收集的文章大多不属于以上西方学界人工智能哲学领域的学术探讨，而多是中国哲学家对人工智能与机器人等前沿科技对人类及人类社会的影响的思考，以及中国哲学的观念与思维方式如何应对当下科技提出的挑战、如何就修正和应对当下价值观与伦理讨论有所贡献。但也有两篇文章的作者对智能和意识提出了不同的假设与诠释：张祥龙从时间化能力，即广义的意识能力，来分析深度学习方法是否为初步意识的体现；蔡恒进则提出了触觉大脑假说来解释人的意识与智能的进化，从而对人工智能科学家的研究提供灵感和启发。作为人工智能科学家的陈小平，为应对人工智能需克服不确定性环境的挑战，另辟蹊径，与基于精确性的人工智能经典思维不同，提出了“融差性”思维，以寻求人工智能研究的下一个突破口。从事类脑人工智能研究的科学家曾毅则认为，下一步人工智能研究应该重点突破利他行为的计算机制，实现利他行为的智能计算模型，从而在设计建模之初就确保未来的超级人工智能不会对人类的存在造成威胁。如果要找到西方哲学和中国哲学在人工智能和机器人领域广泛的对话基础，我们也许应转向前沿科技时代人类及后人类如何定义善生活、如何实现善生活的伦理基础等问题。在此，西方的德性伦理学和中国哲学遥相呼应，“惺惺相惜”了。香农·沃伦指出：“德性伦理尤为适合当下所谓的‘技术道德世界’，因为它可以帮助人类避免本质主义的弊病、过度泛化和抽象化的倾向。”“德性伦理适用于正在塑造人类条件的无常多变以及开放式的科技发展。”此外，沃伦认为，德性伦理不把人看成原子个体，而是看成在社会语境下承担具体角色、处于[6]某种关系之中以及对他人和环境承担责任的存在体。如此的思想基础何其类似于儒释道对人、人伦和社会的论述。本书收集的文章更多的是哲学家们就人工智能和其他前沿科技的发展对人之所以为人的理解、对人机关系以及人机和谐共生的伦理框架的思考。问题的提出与中国哲学家的初步思考如前所述，本书希望在“道”的层面引发哲学家和科学家的思考。既然前沿科技有如此颠覆性和深度融蚀的力量，我们是否应该在提出具体伦理原则和制定伦理框架之前思考一些更根本性的问题？比如，人与机器的本质性区别到底是什么？人性的核心是什么？机器的本质又是什么？将来的生命形态会如何？人机关系的基本框架和原则是什么？机器在智能方面全面超越人类后，人类会对它们失去控制吗？人机的融合是人的异化还是进化？以人为本的各种哲学、伦理和文化框架对转型后的机器与人类还适用吗？人类社会应该坚持的最核心价值观是什么？如何给人工智能和智能机器人植入伦理观念或给予他们伦理教化？哪些核心观念或价值观应被导入人工智能或使其学习？中国哲学应该怎样发展以适合新时代的挑战？中国哲学如何适应转型后的人类和智能机器（类人）？自2017年年底以来，我们就以上问题在北京大学组织了一系列哲学家和人工智能科学家的对谈和工作坊，在此基础上，我们编撰了本书。每一位哲学家和科学家从他们各自的学科背景回应了上述问题。在此，笔者对他们的初步反思做如下简单梳理。第一组问题为：人的本质是什么？机器的本质是什么？人工智能和智能机器人的发展如何冲击或补充我们对人和机器本质的理解？要分析超级人工智能会如何影响人之所以为人的思考，我们首先要了解中国哲学传统对“人”的理解。干春松认为，“儒家从人的社会性来理解人，也就是说，每个人自出生的那天开始，就具备其社会身份”。依据同样的思路，赵汀阳认为，人的关系先于人的本质。“一个人无法根据自然性把自己定义为人，而必须在与他人的关系中才能被定义。”儒家伦理的基础是血缘关系，政治治理遵循家国同构的理念，于是家庭的角色被扩充到社会与政治身份。儒家对存在于家庭和社会关系中的人的理解使得儒家格外强调诸如仁、义、礼、智、信之类的道德准则，并认为这些才是人之所以为人的“本质”体现。虽然孟子、荀子分别执有人性本善、人性本恶的观点，但他们在人的教化、强调“学以成人”的理念上是相通的。总之，儒家从人的社会关系和道德性来定义人的本质。因此，干春松认为，儒家的这种以血缘为基础的伦理架构使不少儒家学者排斥任何会威胁家庭和人伦的科技发展，任何挑战血脉相承的发展趋势都会被认为危及儒家的伦理基础。道家认为宇宙间一切事物（包括人）的本质是气。王蓉蓉认为，“‘气’往往被认为是动态、无所不在、穿透一切、改变一切的力量，能给宇宙中的一切带来活力”。气是生命的基础结构和力量……道是通过气表现出来的。生命就是气的流动。道家对人的理解建立在形、气、神三个元素的协同统一之上。“神”是统摄人体和生命的心理和精神上的力量。人是精气神的统一体，也是性和命的统一体。从这点来看，人工智能或智能机器也许有道的流动性，因为它可以在一个反馈循环中自我调适，但是人工智能缺乏“神”，而“神”才是人不同于人工智能的根本所在。换个角度看，人的智能和人工智能的根本区别或许在于人有所谓的“阴阳智能”。阴阳智能的最大特色就是高度的适应性、开放性和包容性，在此间，事物没有绝对的对立性、分立性和确定性，事物不断融合和流转。人工智能现阶段的发展离阴阳智能的时代还很遥远。虽说道家不认为人工智能可以有“神”，从而全面超过人类，盖菲则从道教人士的视角出发，对人工智能发展的前景充满遐想，反诘人工智能与人平起平坐或能力超过人类有何不可，甚至人工智能从某种意义上来看，似乎可以与道教的“仙”比拟。人工智能通过数据或许已达到了长生不老的境界，即人在道教中苦苦追求的境界。若超人工智能出现，也许道教的神仙谱系也会迭代，开拓出数据神仙一派。智能数据也给追求长生不老的人类指明了一个下一步进化的方向。李四龙从佛教的观点出发，认为生命是轮回的，而人是因缘和合的产物，是六道轮回之中的一种生命形态。因果关系也不是线性的直接联系，因缘条件错综复杂，必然性与偶然性混杂。因此他认为生命没有固定不变的理性。如果人工智能的特性是精确性，人工智能对人类并不可怕。但是他同时也指出，佛教不欢迎有情感的智能机器人。刘丰河从解决人类生死烦恼的根本智慧出发，对人性与人的本质予以剖析。他指出人们大多根据自己的觉知、思维和行为来判断人是什么，我们周遭的世界又是什么。然而，人们所觉知的人的生老病死和世界万物的变化又源于什么呢？刘丰河认为，对一切问题的认识应从存在（或者说本源、自性）出发，万事万物（包括人）都是基于存在。存在才是显现万事万物的本体。因为存在，人才有了觉知、思维和行为的作用。而存在，过去无始，未来无终，无生无灭，于不变中又能起种种变化的作用。人是存在作用的结果，具有存在性，这就是人的本质。当代中国哲学家多半善于从东西方哲学比较的视角来审视当下的问题与挑战。在思考前沿科技对人类的影响时亦复如是。李晨阳梳理了东西方思想家几千年来对人性的思考，对强人工智能的出现和其对人类中心论的挑战抱着一种开放的态度。他认为，我们人类一直都在寻找和强调我们作为人类的特殊性，一直在寻找人何以成为万物之尺度、万物之灵。我们居住在宇宙中心，是上帝按照他的形象创造的，我们是理性和有智能的。但所有这些论断不断地被科学、心理学的发展挑战。东方思想家所强调的——如孟子的人性的四端论和荀子的人能“群”的特质，在预期中的强人工智能中也未必不能出现。前沿科技的发展是否终于给人的“自知”，尤其是人类独特性的追求画上了句号？我们或许仅仅是各种存在中的一种，是时候思考如何更好地与其他存在共生共荣了。赵汀阳在对人的概念的理解上，除了从人际关系来定义人，他还认为，人应该具有理性反思的自我意识，即能够反思自己的行为、价值观和思想的合理性。但是理性人的求知欲和对人的主体性的追求让人类深陷于自我毁灭的悖论。“只要具备技术条件，基因编辑和人工智能的出现都是必然的。正如宗教的知识追求培养了宗教的掘墓人，现代的主体性逻辑也同样培养了主体性的掘墓人。”“只要坚持主体性的概念。那么，基因科学创造的超人或者人工智能创造的超级智能就都是合乎逻辑的结果，而这种结果却很可能是对人类主体性的彻底否定。”张祥龙认为西方的现象学和古代东方哲学都倾向于将生命内涵的时间性看作是人性的源头。他认为人性的鲜明特点就在深长时间意识出现的同时展现出来了。相比动物，人具有更长远、更生动的想象力、记忆力和筹划能力。因此，“人类才会生出和珍视那些需要长期时间构造力才能感受到的道德智慧，比如孝悌、忠信、仁爱、慈善、公正与合作”。从现象学、哲学、人类学和东方心学的角度，张祥龙认为，人工智能的新进展即深度学习方法的出现显示出这种智能开始有了初步的时间化的能力，也就是自主学习或逐渐改进自身的能力。他认为，“我们或许应该承认人工智能的智能开始有了意识的萌芽，虽然这意识还十分浅薄。但这个突破是真实的，深度学习的‘深度’（多层裂隙中的交织参数联系）构成了我们以前不敢想象机器数字化能够达到的智能程度，即某种程度上的自主学习能力”。在这个意义上，智能与意识这两条看似不同且隔离的人工智能研究探索的进路其实有深层的内在关联性。总之，各位学者在人工智能是否会挑战人性的问题上观点不一，道家似乎在这个问题上比较坦然，儒家若从血缘伦理的角度看，对人工智能和人机融合发展的趋势十分抗拒，但从源于天人合一、天地人“三才”思路导出的非人类中心主义的角度看，强于人类的存在或物种的出现也未必不可以接受。从究竟的大智慧来看，刘丰河则认为，只要觉悟了，就会发现存在是无生无灭的。人类应该合理利用人工智能，即便人工智能被用于毁灭人类，觉悟者也无所畏惧。从现象学和东方心学的角度看，人工智能已经发展出意识的萌芽，在此阶段，人类和机器尚有往良善互动的方向发展的可能性。若从西方哲学的主体性的角度看，学者多对强人工智能的发展对人类的冲击忧心忡忡、惶恐不安。第二组问题为：人机关系的前瞻是什么？人工智能和智能机器对人类社会的影响是什么？人类如何应对？在人机关系以及人工智能和智能机器给人类社会带来的冲击方面，大多中国哲学家对短期的冲击不是特别担心。这种冲击虽然会是巨大的，但其性质和以往的技术革命带给人类社会的问题类似。赵汀阳认为，“根据以往的经验，技术革命总是导致生产性的工作减少，但同时出现了更多服务性的工作以及知识生产的工作。在人工智能时代也很可能将会出现更多服务性的工作和知识生产的工作来解决失业问题”。对某些儒家学者如安靖如来说，在当下和短期内，现有的人工智能应用甚至可以帮助儒家实现“学以成人”的人文理想，这些应用或许可以帮助人们更好、更快地进行品德修持，更好地实现仁、义、礼、智、信，即儒家五大道德追求。就长期的时间尺度来看，各位哲学家的想法开始分化。赵汀阳认为人类将失去存在的意义。“技术进步似乎并未给人类获得自由创造机会，反而导致了人的异化。”人们在物质充裕而又无所事事的“幸福”生活中忧郁地退化。而且智能高度发达的时代也更可能使社会极端分化，人们可能生活在一个技术寡头的垄断社会中，“结果可能出现一个高科技的新奴隶制”。在人机关系和将来的发展趋向上，赵汀阳呼吁，“任何智能的危险性都不在其能力，而在于自我意识”。于是科学家应该停止为人工智能植入反思功能和自主创造能力。干春松从儒家的角度也对具有自我意识的人工智能和机器人提出警戒，“无法预测的是，这些已经具有自我意识的机器人可能会‘自行定义’他们自己的意义与生命目标，从而以他们在生理、脑力上的优势确立其支配地位”。他进一步解释，从儒家的角度来看，基因编辑和人工智能都能带来根本性的观念冲突。首先儒家特别强调血缘，其伦理体系的基础是夫妇、父子，然后是家国天下，如果家庭不是建立在夫妇血缘的基础上，那么儒家伦理体系就会整体崩溃，连续数千年的价值观也就成了无本之木。那么，儒家的秩序理论需要做什么样的调整？还能发展出儒家的人工智能版本吗？儒家的危机感深切。乐观的学者如贝淡宁则认为，从马克思主义、共产主义高级阶段的角度出发，从长远来看，人工智能似乎可以帮助实现共产主义高级阶段，人类可以从劳作中解脱，从而过上诗意而有创造力的生活。从道教的观点看，人工智能是人类了解世界、解析世界产生的技术之一。对强人工智能乃至超人工智能的出现，人类应该欢欣鼓舞，或许人可以更快地找到超越它们的途径。或许人工智能可以反哺人类，人类即可以通过这种独特的方术，达到如盖菲论述的“与道合一”的境界。同样比较乐观的李晨阳认为，既然人工智能有智能，智能的存在让我们对它们更容易产生亲近感，那么我们至少可以把它们看作是有一定道德能力的存在，至少是道德施受者。但是人工智能不是生命体，也没有痛苦的体验，所以人工智能还不是道德行为者。在他文章的最后，李晨阳更是对把人工智能纳入儒家的差序格局表示了极大的信心。在“亲亲”“仁民”“爱物”的差序格局中，不同发展阶段的人工智能可以适用不同的角色。因其不同层次的道德成就，我们人类对其承担的义务也不同。姚中秋从中西主流思想对强人工智能截然不同的反应入手，分析了中西不同信仰理念造就了中西对人工智能风险的理解之别。一神人格教的基本教义是，神造万物与人，神是全知、全能、全善的，人对神只能是绝对服从。由此，神与人之间是主奴关系，神是主人，人是奴隶。西方人以此框架思考人与人工智能的关系，自然将自己放到了造物主的位子上，而担心人工智能强大后会反抗人类。恐惧由此而来。这种二元视域和零和格局思想充斥于西方关于人工智能风险的讨论。姚中秋认为，中国首先没有存在于物之外、人之外的人格神。自尧舜时代开始崇拜的“天”不是人格化绝对的存在，无其独立之体，更没有绝对意志。万物各自生生于天之中，其中也包括人工智能。当然，自然之物有别于人工物品。我们在开发、利用人工智能时，应秉持“正德、利用、厚生、惟和”（《尚书》）的原则。说起人与人工智能的关系，姚中秋从中国哲学的角度，认为人与物同出乾坤父母，故人对物不是绝对支配者，而是“相与者”：彼此虽然不同但出自同源，故可以共存而相互往来而有休戚之情。直白地说，“相与者”即朋友。根据中国人的观念，人应当乐见人工智能之超越性发展，因为人工智能可以凭借其卓越的能力代为承担人对人、人对世界的部分职责。人工智能能力越强，越有利于人类，因为两者共在天之中为“相与者”。对于人工智能发展自我意识，姚中秋也持乐观态度。一方面他认为自主意识绝不只是理智计算，还有情感。“无情”的人工智能是不可能产生自我意识的。另一方面，如果强人工智能有自主意识，也许人类应该更加乐观。这样人可以与人工智能沟通，生发相亲相爱之情，于是也就有了将与人工智能的关系转化为人类所熟悉的社会关系的基础，人工智能就有了被教化和成长的基础。基于人工智能已取得时间化能力即意识的萌芽，张祥龙呼吁一种人与机器的良善互动，“以时间化、道德化修行经验来引导人工智能的研究方向，同时以人工智能的新境界来巩固乃至启发人类修行经验”，总之，“要用人类的仁爱、慈悲和时化智慧来驯化人工智能，而不能让畸形发展的人工智能驯化人类”。刘丰河认为，既然人仅仅是存在依据本身的能力作用以后，显现的万有当中的一个种类，而动物、植物、微生物、矿物等宇宙万有都存在显现的相上的差别，那么从存在来看，人和动植物在本质存在上是没有区别的，不过是存在所表现的作用的结果不一样。同理，人工智能也是存在作用的体现。刘丰河进一步认为，机器不会有自己独立的意识。它所谓的觉知能力、计算能力和分析能力，只不过是人的相应功能的延伸。人工智能只是人意识里的概念。总之，机器不能自生人的智能和情感。把人的智能和情感“嫁接”给机器，也不是机器自己拥有了这些能力和情感。所以，机器就是个工具。如果人类把它当生命一样去爱，那是人类赋予了它情感，那是人的意识。我们与机器的关系就是我们与物的关系，就如同心与身的关系。第三组问题为：我们希望人工智能和智能机器人学习或采用哪些人类的价值观？基于对人性邪恶的认识，赵汀阳完全反对向人工智能植入任何人类的情感和价值观。他说，“假如超级人工智能终将出现，我们只能希望其没有情感和价值观”。有意思的是，赵汀阳想象若让超级人工智能有佛心或相当于庄子所谓的“吾丧我”，也就是说，让人工智能“无我”，人类就万事大吉了。然而，充满贪欲偏执的人类可能创造出“无我”的人工智能吗？他也从《周易》的“生生”原则的视角来呼吁科技发展的边界。生生所蕴含的存在论理性在于以最有利于生命存在的方式去保证生命的继续存在，也就是说只要危及人类的延续，就是不可做的冒险行为。“生生”原则就是一切技术发展不可逾越的界限。赵汀阳还提出对金融资本的警惕，担心资本、技术和权力形成三者合一的联盟，技术的冒险发展将引发更多的伦理批评。因此我们急需一种能够保证人类安全的新政治。就此，赵汀阳导入了他十几年来一直在倡导的天下体系。让世界成为一个最高政治单位，以便消除国家之间负面的外部性，从而解决文明和国家间的冲突。李晨阳提出用孟子和荀子的思想作为人工智能发展与应用的伦理框架。他在文中写到，如果人工智能和机器人可以获得（不管是被输入的还是后来习得的）“不忍之心”，那么人工智能与机器人就可被包括在道德主体之内。如果遵循孟子的路径，李晨阳思忖到，“或许我们应该在仿人机器人身上安装一个系统，以‘不害人’作为压倒一切的原则，确保机器人不能采取极端破坏性的行动伤害人、伤害其他生命形式或者相互伤害”。鉴于荀子将“群”视为人类独特性的特征之一，为了组成社会群体，人类需要设计礼仪法则。如果遵循荀子的进路，我们可能会安装能够指导人工智能及其行为法则的设备。李晨阳修改了阿西莫夫的三定律，重新表述如下：“首先，高级人工智能必须以有益于人类作为首要目标；其次，其活动必须由基于第一个原则的法则来管理。人工智能机器能够采取有利于自己的行动，但是有益于人类是其首要目标，这是有关人工智能的其他考量的基础。”和儒家相异，道家并无对人工智能和机器人“植入”价值观的冲动。更多的，道家考虑的是科技如何帮助人寻道与求道。王蓉蓉认为：“道家既不会屈从于任何形式的技术发展带来的变化，也不会无条件拒绝任何形式的技术进步。对道家来说，问题是技术发展在多大程度上有助于人们依靠练习自然加深对道的认识。”刘丰河在此提出了一个对人类更加高的期许，即人类的觉醒、开悟。他认为这才是根本解决人类面临的各种危机与生死烦恼的关键。通过对人的存在性的思考，人类就此了悟宇宙人生的真相，以存在为根据来面对所觉知的一切，发挥主观的能动作用，把自由自在充分地展示出来，这才是人类的真正价值体现，才是真正的“妙”。第四组问题为：中国哲学的未来方向是什么？各位哲学家都强调，加强对科技文明的反思是中国哲学发展的新方向。何怀宏呼吁回到最初创造精神文明的思想（即轴心时代的哲学思想）来重新思考人的本性与命运，思考人类及其文明的长久存续之道。虽然大家都没有特别指出未来的方向，但都认为中国哲学应该拥抱未来。李晨阳指出，儒家是活着的传统，一直随时间的变化而不断调整自身，在当下前沿科技发展的时代，儒家的发展与自我调整也不可避免。进步儒学的创始人和倡导者安靖如提醒大家，儒家作为有活力的传统和实践，以及全球哲学资源的健康发展得益于它是个包容和多元的体系。中国哲学家对终极问题的思考的共通性在梳理本书的过程中，笔者也厘清了诸位学者思路中的某些共同之处，如非人类中心主义思想、唯变所适的方法论以及强调人类自省、自觉的重要性。非人类中心主义中国三大哲学传统儒释道对人、生命的本质、人工智能对人的冲击也许看法各异，即使受同一个哲学传统影响的思想家对同类问题的观点也可能不同，甚至针锋相对。但这三大传统有一点是共同的，即它们在不同程度上秉持非人类中心主义的思想脉络。人类中心主义认为，人分离并超越于自然界，是自然界最重要的存在；自然界其他存在的价值在于它能否被人利用和开发；作为最尊贵的存在，人有理由围绕自己的利益对自然万物进行利用、开发和改造。人类中心主义可以追根溯源到西方哲学对天人关系的理解与诠释。方东美先生说：“希腊的天人关系是部分与全体的配[7]合和谐”，而“欧洲的天人关系是二元或多端的敌对系统”。这两种哲学思维都蕴涵着人作为个体与周遭环境的分离，甚至对抗。这种天人对立或敌对的思想移花接木到人与物、人与人之间时就形成了力量抗衡、角斗的紧张关系。总之，在西方哲学传统中，人以其理性、主体性、自我意识和以上帝的形象被创造等诸多原因将自己高高置于其他万物之上。人类中心主义在工业革命和资本经济时代更是发展到了巅峰。至今在全球包括中国，人类中心主义仍然大行其道。而中国先哲思想影响下的天人关系则是“‘彼是相因’的[8]交感和谐”。方东美先生说：“天人的关系，由中国哲学家看起来，都非常圆满。天与人交相感应，非但不敌对，非但不冲[9]突，反倒处处显出和谐的理趣。”“天地人”三道是理解中国传统思想下人与自然、社会与自然的最基本的思想架构。天地人三才的思想源自群经之首的《周易》。《周易·系辞下》如是说：“有天道焉，有人道焉，有地道焉。兼三才而两之，故六。六者非它也，三才之道也。”在天地人三才构建中，所谓天道之“阴与阳”，地道之“柔与刚”囊括了天上地下万象的变化与规律。在中国文化中的天地是盎然有生机而“普遍生命流行的境界”，融合了物质与精神世界。用方东美先生的话，“世界上没有一件东西真正是死的，一切现象里边都藏着生[10]命”。《周易·系辞下》中指出“天地之大德曰生”。“继之者善也，成之者性也。”三才之道的人道在其中并非被动地接受天命，而是有造命的能力，人能弘道，可参赞化育。“易学大家赵玲玲指出：人，在天地之间，可以顶天立地，可以扭乾转坤。”三才之道主要在点化我们，“人在上知天道、下知地道”之后，可以用中通的人道去变天化地，可以让我们不断地[11]生生不已。“但承继了《周易》乾道思想的儒家在此弘扬人的造化不是表现在对自然界的征服、改造方面，而是表现在[12]如何完成自然界的‘生生之德’或‘生生之道’。”在强调人的造命能力的前提是人对天地的敬畏，对天道、地道的效法与实践以及对自然法则的顺应和承继。道家思想更是强调人与自然和谐整体的关系。老子认为宇宙间有“四大”，即“道大、天大、地大、人亦大”。人居其一，应该“人法天，天法地，地法道，道法自然”。人存在于天地之间，人道、天道相互贯通融合。庄子更加强化了人与自然一体的思想，提出“物我同一”“万物不伤”的观念。产生于东汉末期的道教继承道家“道法自然”“万物不伤”的观念。“在道教戒律（劝善书）里有众多约束道教徒对大自然不[13]敬不法行为并加以神化的宗教道德律令和行为规范。”楼宇烈认为，中国哲学中的“自然”不是指物理界的大自然，它的“意思是‘本然’，即万物原来的本性”。老子的“‘辅万物之自然而不敢为’，意思是我们只能按万物的本性去[14]发展，而不能随意改变它”。于东汉时期引入中国的佛教则更没有人类中心主义的思想，强调众生平等，人只不过是众生生命形态的一种而一切众生皆有佛性。佛教处处提醒人对其他众生的关照与慈悲。总之，虽然儒释道对人生宇宙的看法不一，对人与生命的本质、社会人伦的伦理规范各有侧重，但都没有把人放在一个至高无上的地位，也没有把人与自然和其他物种放到一个相互分离、对立、征服的零和竞争关系中，而是认为人源于自然，应顺应自然，与自然和谐相处。如程乐松指出，或许人与世界之间的相互融入与相互适应的机制“建基于传统中国思想资源中的整体主义视角，人与世界保持了神秘的关联和同构性。这种同构性很大程度上帮助传统中国思想家拒绝了人类优先论和人类中心主义的立场，更避免了对人类理性的过高估计”。当然，人工智能不是自然演化产生的。从一个角度来看，中国哲学的天人合一、道法自然的特质也可以让人因为人工智能反自然、反人性的问题而得出反对人工智能过度发展的结论。这也是众多对人工智能当下发展轨迹存疑的思想家的看法。但人类超越性发展科技的趋势无法阻挡，在此我们如果依靠中国哲学适变、更灵活与宏阔的思维方式来思考如何应对这种趋势，不囿于人类中心主义的话，“三才之道”和“天人合一”思维框架或许可以使我们拓展思路。于是，是否可以将人工智能纳入“仁民而爱物”“民吾同胞物吾与”之中的“物”就成为中国哲学家思考的问题了。正如姚中秋和李晨阳指出，也许正因为中国思想中没有根深蒂固的人类中心主义思想，中国人才普遍没有如西方人那样产生对超级人工智能的生存级别的恐惧感。方法论、思维方式上的开放：唯变所适，与时偕行中国人普遍没有对超级人工智能的生存级别的恐惧感或许也得益于融入中国人血液中的对“变”的认识和与之相关的思维方式。这又得回到中国哲学的源头——《周易》。赵玲玲指出，《周易》的形而上概念强调，宇宙最后的存在是个“动”的状态。她于20世纪70年代就提出这个观点。20世纪原子论是西方形而上学的基础，“是以‘静’的原子作为一切宇宙的[15]源头的”。然而，《周易》则在3 000年前已主张“宇宙的终[16]极存在是‘变动不居，周流六虚’的动”。动就是变化。周易的易有不易、变易、简易之意，而变易是周易的核心思想之一。《周易·系辞下》中指出，“《易》之为书也，不可远，为道也屡迁。变动不居，周流六虚，上下无常，刚柔相易，不可为典要，唯变所适”。《周易》的“与时偕行”，变通趋时的思想沁入了诸子百家，也成就了中国人对“变”的接受与开放的人文态度。在《庄子·山木》中，庄子教育他的弟子应该“与时俱化，而无肯专为”。不确定性和变化是我们生活内在的一部分，它不是外化于生活的存在，也不是我们需要纠正的“问题”，而是我们时刻应该应对和接受的生存状态。佛家的“无常”虽源于因缘和合而不定的理论，但对变化的接受与直面变化的心态与中国固有儒家和道家的文化所展现出的态度不谋而合。对“变”与“动”的接受、预测变化、应变与顺变的处世态度也许是中国人对无法预测、瞬息万变的前沿科技的发展轨迹不至于惶恐不安的另一个原因吧。反躬自问、反求诸己：人类自我反省与修德中国儒释道三大哲学传统皆重视个人品格的砥砺，强调反躬自问，自省修德。方东美指出，儒释道三大主流哲学传统对人性本质认识也许迥异，体系也多有不同，但有三大显著相通性，其一便是“个人品格崇高论”。中国哲学传统“多尚自我节制，……其论个人，恒兼顾其可观察之现实（实然）与理想化之可能（应然）两方面着眼。由现实至可能，其间原有一种极细密之自我实现历程，一种极艰苦之自我修为功夫，以及全幅自我实现之道”。修行、修道的结果都是个人品格的升华与超越，“儒家谓之高明峻极之人格典型或圣贤；道家谓之神人[17]或至人；佛家则谓之觉者，而上参佛性”。受到这种深厚的反躬自问、内省自修传统的影响，中国哲学家大多会提醒人类在此之际，应更多反省自身发展历史，吸取教训。这个时代应是人类集体反思的时代。张祥龙指出，创造人工智能的人类意识是什么样的，被该意识创造出来的人工智能就会是什么样的，就会具有什么样的意识倾向。在此，东方哲学中的意识经验，开启人的自觉的、自然的而非仅仅规范的、强迫的道德智慧方面的经验也许大有启发，“比如修行瑜伽、佛家禅定、道家炼气和儒家孝悌修身的经验，并使之与人工智能内在关联起来。这也就是说，以时间化、道德化修行经验来引导人工智能的研究方向，同时以人工智能的新境界来巩固乃至启发人类修行经验”。总之，在前沿科技迅速发展，深刻改变人性和人类社会之际，在人类开始思考其物种生存级别的问题之时，强调“生生之道”，探索如何保生、善生，天人合一，自省、自觉、自修的中国哲学或许可以给人类带来新的启示和走出困境的宝贵思想资源。编撰的前提性考虑本书思考的人工智能技术是中短期的还是长期的在策划本书时，我们给哲学家提出的问题没有匡限在某个人工智能的定义或发展阶段上。这是个崭新的领域与话题，我们觉得不必画地自限。本书中大部分哲学家关注的是人工智能带给人性和人类社会的长期性思考，个别学者如安靖如关心的则是当下和短期内就会产生影响的话题。思考长期影响的哲学家自然关注的是人工智能在达到通用甚至超级智能的时代对人性的冲击和影响。读者难免会责难这种假设，毕竟科学技术何时会发展到通用甚至超级人工智能的时代是一件十分不确定的事情。美国科学家和未来学家库兹韦尔预测机器到2029年则可达到人类智能的水平。最近，对人工智能科学家调查的结果表明，平均下来，科学家认为人工通用智能到2099年可以实[18]现。也有人工智能专家认为，我们连通用人工智能的皮毛[19]都没碰到。这种预测也常常基于对智能和意识不同的定义而做出。但是笔者以为，如果我们一两百年后可能进入强人工智能或超强人工智能时代，哲学家、思想家针对这个问题的思考现在起步也不能说是太早。当下人工智能对人性和人类社会的影响已初见端倪。即便前沿科技的发展颠覆人类价值观、思维方式甚至我们组织社会的方式和方法仅仅是小概率事件，但鉴于影响的深度、广度，哲学界和思想界开始思考并提出新理念、新思想似乎是负责任的做法。在前沿科技领域中达成跨文化、跨领域的基础理念和伦理原则共识也并非一蹴而就的事。对人类历史进行反思，讨论不同文明的价值观与共同的人文关怀如何应对人类共同面临的挑战，不在此时，更待何时？谁是中国哲学家参与本写作项目的哲学家除了用中国哲学资源来思考问题，同时也融入了源自西方哲学思维范式和方法论的讨论。这也表明当下中国思想界资源的丰富和多样性。哲学家是个泛指的词汇，我认为深度思考终极性问题的思想家都是宽泛意义上的哲学家。所以，本书的作者群也包括了有人文、哲学关怀的科学家。“中国”一词不是地域或种族性的，只要是受中国环境和思想资源影响的思想家都被囊括在内。[1] 参见High-level expert group on artificial intelligence, Ethics Guidelines for Trustworthy AI, April 2019。[2] 参见https: //36kr.com/p/5202408。[3] Margaret A. Boden, AI: Its Nature and Future, Oxford University Press, 2016.[4] Margaret A. Boden, The Philosophy of Artifical Intelligence, Oxford University Press, 1990.[5] Margaret A. Boden, The Philosophy of Artifical Intelligence, Oxford University Press, 1990.[6] Shannon Vallor, Technology and the Virtues: A Philosophical Guide to a Future Worth Wanting, Oxford University Press, 2016.[7] 方东美：《中国人生哲学》，中华书局，2012年，第33页。[8] 方东美：《中国人生哲学》，中华书局，2012年，第33页。[9] 方东美：《中国人生哲学》，中华书局，2012年，第34页。[10] 方东美：《中国人生哲学》，中华书局，2012年，第18页。[11] 赵玲玲：《〈周易〉与先秦诸子学》，中国大百科全书出版社，2015年，第21页。[12] 蒙培元：《人类中心主义与儒家仁学思想》，《哈尔滨工业大学学报》2012年第14卷第6期。[13] 任俊华，李朝运：《人类中心主义、超人类中心主义和反人类中心主义——儒、道、佛学之生态伦理思想比论》，《理论学刊》2008年第11期。[14] 楼宇烈：《中国的品格》，四川人民出版社，2015年，第53页。[15] 赵玲玲：《〈周易〉与先秦诸子学》，中国大百科全书出版社，2015年，第4页。[16] 赵玲玲：《〈周易〉与先秦诸子学》，中国大百科全书出版社，2015年，第4页。[17] 方东美：《中国人生哲学》，中华书局，2012年，第28—29页。[18] This is when AI’ s top researchers think artificial general intelligence will be achieved.The Verge, https://www.theverge.com/2018/11/27/18114362/ai-artificialgeneral-intelligence-when-achieved-martin-ford-book; and Ford, M., Architects of Intelligence: The truth about AI from the people building it, Packt Publishing，2018.[19] 《专访|多智能体系统教父：我们连通用人工智能的皮毛都没碰到》，澎湃新闻，2019年8月30日。中西学交融语境下的哲思技术的无限进步也许是一场不可信任的赌博[1]赵汀阳生命的本质与生命的意义和其他生物一样，人的实体存在也是一种自然生物，但人创造了文明，所以我们经常从精神上去定义人，且定义方式多种多样，其中有两条特别重要的定义路径：（1）按照古希腊传统，可以把人定义为理性精神，即人的本质在于理性思维；（2）按照儒家传统，把人定义为人际关系中的人。孔子的这个定义采用的是关系性的循环解释，比亚里士多德的“属加种差”定义方式要复杂一些。孔子的定义方式类似于现代公理系统对基本概念的定义方式。孔子的意思是，一个人无法根据自然性把自己定义为人，而必须在与他人的关系中才能被定义。以现代的表述来说就是：每一个作为生物的人，如果可以被识别为一个精神上的人，当且仅当他把别人识别为精神上的人。按照孔子定义的人的概念，人的关系先于人的本质。有趣的是，图灵所设想的“图灵测试”采用的也是关系定义，即如果一台机器在与人对话中能够被识别为人，那么它就是一个智能存在。不过，到目前为止，还没有一台机器能够通过图灵测试。其他还有一些比较重要的人的概念，比如，康德把人理解为具有理性自主性的主体性，马克思把劳动理解为人的本质，等等。人是一个复杂概念，不可能化简为某种单一本质。比如，理性虽然是人的一个性质，但我们很难由此就认为动物没有理性。理性的一个基本原则是风险规避，从行为上看，动物的风险规避能力似乎高过人，或者说，人比动物更愿意进行非理性的冒险。还有，理性要求价值排序的逻辑一致性，在这一点上，动物也强过人。人总是欲望太多，贪得无厌，经常陷于“布里丹之驴”的选择困境。所以只能说，人有着更强的理性能力，但同时人也有非理性的倾向。我可能无法给人一个完美的定义，但我认为，至少有两个特点对于人的概念是最重要的：（1）仁，即互相把他人识别为人；（2）理性反思的自我意识，即能够反思自己的行为、价值观和思想的合理性。人的非理性是一个谜。不过，在这里我不是要讨论心理学的潜意识或无意识之类的问题，而要讨论的是有着自觉意识的非理性，也就是说，人经常以理性思维去实现非理性的目标。这正是人类的危险之处。人工智能和基因编辑的努力就是试图以理性思维去实现非理性目标的典型事例。长期以来，人类的技术发展都只限于技术的升级，而技术升级属于理性目标，但人工智能和基因编辑不仅是技术革命，而且是存在论水平上的革命，相当于人类自己试图发动类似于上帝的创世行为，它意味着人类试图改变人的概念。这种目标还是理性的吗？这是个大问题。存在论级别的生命升级诱惑，即人试图变成另一种具有神性的更高级存在，这是现代主体性思维的一种极端梦想。存在论级别的生命升级诱惑，即人试图变成另一种具有神性的更高级存在，这是现代主体性思维的一种极端梦想。追溯其根源，现代的主体性梦想其实始于中世纪的宗教信仰，这件事情听起来很悖谬，因为上帝的概念不可能蕴含一个革命性的人的概念，但事实上许多不合逻辑的事情确实就产生于矛盾之中。粗略地说，中世纪的僧侣和学者希望能够理解上帝的精神，而理解上帝就需要了解上帝创造的万物，因此，中世纪的人们研究了各种事物，从植物、动物到海妖、天文。尽管以现代知识标准来看，中世纪的研究大多数是不科学的，但其重要意义不在于科学性，而在于求知性。对万物的求知潜伏着一个颠覆神学的人文问题：既然需要研究一切事物，那么最应该研究人，因为人是万物中最为奇妙的存在，包含着上帝创世的最多秘密。事实上，“现代第一人”彼得拉克就是依照上述逻辑而发现了人的问题。一旦人对自己的反思成为一切知识的核心，人就占据了思想的核心地位，进而人就发现了，一切存在都只不过是“我思”的对象，于是，人的问题就高于一切问题。在此可以看到，正是宗教的知识追求培养了宗教的掘墓人。笛卡儿、贝克莱、霍布斯、康德等所建立的主体性将人定义为自主独立的存在，人成为万物的立法者，于是一个现代人的概念由此建构起来。后来，主体性概念不断膨胀，人拥有的天赋权利越来越多，以至已经远远突破了自然人的概念，成为一种“自定人”，即自己决定自己成为什么样的人。这意味着，人不满足于自然或上帝所创造的原本状态，也不满足于被社会和历史定义的事实，而可以成为自己想要的人。我们今天通常认同的现代人的概念正是“自定人”的概念，在这个意义上说，基因编辑的人或人工智能都是“自定人”概念的逻辑结果。我们今天通常认同的现代人的概念正是“自定人”的概念，在这个意义上说，基因编辑的人或人工智能都是“自定人”概念的逻辑结果。人为自己设立的主体性，或者“自定人”概念，就其内在逻辑而言，意味着以下意义。（1）人是具有自主意志和思想的主体，摆脱了上帝的精神支配，因此获得了存在论水平上的自由（也称形而上的自由）。（2）存在论水平上的自由意味着，人可以塑造自己，重新定义自己，甚至创造自身，也就是说，人获得了存在论水平上的完全主权。（3）存在论的主权意味着，每个人都是自己的逻辑起点，不再需要历史的起点，不再被历史说明，也不再被社会条件说明，更不需要被他人的观点解释，于是，个人高于历史、高于社会背景、高于自然性。简单地说，存在论水平上的自由就是取消历史、社会和自然对人的说明和规定。（4）既然每个人都不被历史、社会和自然定义，每个人都是自己的逻辑起点，那么每个人就都可以为自己选择人的概念，而选择人的概念就要选择“最好的”概念，即兼备一切优越功能的人。按照这个概念及其逻辑，人工智能和基因编辑就几乎势在必行。起初，“自定人”的努力并没有显示出危险性，反而是人类的伟大成就。“自定人”的最初步骤只是教育，试图通过教化自然人，使之成为启蒙人，人类文明因此获得巨大的发展，进而出现了优生学，通过自然生殖的基因组合而造就更优秀的人。在当代，人们更进一步以政治权利之名去重新定义人，比如变性人、同性婚姻、女性主义之类。曾有新闻称，有一个欧洲人申请把出生日期从1949年改为1969年，理由是他对1969年出生的人更有认同感，所以决定变成1969年出生的人。虽然被拒绝了，但是他提出了难以反驳的论证，他认为，既然别人可以违背自然而进行变性，那么同理，他也应该可以违背自然而要求改变出生日期。这个新闻是否属实并不重要，关键在于这个人的论证很符合“自定人”的逻辑。可以想象，以此类推，人们只要愿意，就能够以主体性的名义提出种种要求。因此，只要具备技术条件，基因编辑和人工智能的出现都是必然的。正如宗教的知识追求培养了宗教的掘墓人，现代的主体性逻辑也同样培养了主体性的掘墓人——只要坚持主体性的概念。那么，基因科学创造的“超人”或者人工智能创造的超级智能就都是合乎逻辑的结果，而这种结果却很可能是对人类主体性的彻底否定。上帝造人是一个神话，这虽然不是一个科学问题，但是一个重要的隐喻：上帝创造了与他自己一样有着自我意识和自由意志的人，以至上帝无法支配人的思想和行为。上帝之所以敢于这样做，是因为上帝的能力无穷大，胜过人类无穷倍，所以上帝永远都高于人。今天，人类试图创造有自我意识和自由意志的人工智能，可是，人类的能力将小于人工智能，因此这是一种自我否定的冒险。人类为什么敢于这样想？为什么敢于这样做？此种非理性的行为必须提前加以反思。为什么人类所创造的现代神话不能见好就收，及时刹车以避免陷于无法控制的灾难？尽管越来越多的人意识到无限发展、无限解放所蕴含的危险，但很少有人能够抵抗发展和解放的巨大诱惑，即使是饮鸩止渴。这个困境并非一个单纯的技术进步问题，而在于整个现代性的逻辑，即化人为神所蕴含的内在矛盾。被神化的主体性有其两面，就像硬币的两面：一面是作为人类整体的主体神性，就好像人类是一体化的神；另一面是作为独立、自主、平等个体的众人，类似于诸神。问题是，主体性的两面价值并不一致，存在着自相矛盾，类似于硬币两面的面值不一致所导致的混乱。在实践上的结果是，对于人类整体的合理选择未必是每个人的合理选择，于是产生了现代社会一个无法摆脱的基本困境：个人理性的加总无法形成集体理性。这意味着，理性与理性的运用是矛盾的。既然现代的价值和利益的结算单位是个人，那么，理性用于追求个人利益最大化就必定优先于理性用于追求人类整体利益最大化，其逻辑结果就是使得最合理的集体选择成为不可能。就目前所知，人工智能和基因编辑是主体性神话的最大冒险，也是“自定人”的极端形式，这些技术试图在物质上和精神上创造新概念的人类。我们无法排除其潜在的巨大风险，更严重的是，我们甚至无法预料哪些是人类无法承受的风险。从理性上说，人工智能和基因编辑是违背风险规避原则的工程。人们似乎特别害怕人工智能的“超人”能力。的确，人工智能的能力正在不断超越人类，这是人们感到恐惧的原因。但是害怕人工智能的能力，其实是一个误区。难道人类不是寄希望于人工智能的“超人”能力来帮助人类克服各种困难吗？几乎可以肯定的是，未来的人工智能将在能力上远远超过人类，但这绝非真正的危险所在。每一样机器在各自的特殊能力上都远远超过人类，因此，在能力上超过人类的机器从来都不是新奇事物。水平远超人类围棋能力的AlphaGo Zero没有任何威胁，只是一个有趣的机器人而已；自动驾驶汽车也不是威胁，只是一种有用的工具而已；人工智能医生更不是威胁，而是人类医生的帮手，诸如此类。即使将来有了多功能的机器人，它们也不是威胁，而是新的劳动力。超越人类能力的机器人正是人工智能的价值所在，并不是威胁所在。任何智能的危险性都不在其能力，而在于自我意识。人类能够控制任何没有自我意识的机器，因此，没有自我意识的人工智能越强大就越有用。到目前为止，地球上最危险的智能生命就是人类，因为人类的自由意志和自我意识在逻辑上蕴含了一切坏事，事实上，人类也是最坏的生物。如果将来出现比人更危险的智能存在，那只能是获得自由意志和自我意识的人工智能。因此，无论人工智能的能力多么强大，都不是真正的危险，只有当人工智能获得自我意识，才会对人类构成致命的威胁。那么，人工智能的升级奇点到底在哪儿？图灵机如何才能升级为超图灵机？或者说，人工智能如何才能获得自我意识？就技术层面而言，这个问题只能由科学家来回答。技术升级的加速度是一个事实，然而不能因此推论说，技术升级必然导致存在升级。技术升级指的是一种存在的功能得到不断改进、增强和完善；存在升级指的是一种存在变成了另一种更高级的存在。技术升级可以使某种技术达到完美，却未必能够使一种存在升级为另一种存在，也就是说，技术升级未必能够自动达到奇点。许多病毒、鱼类、爬行动物或哺乳动物都在功能上进化到几乎完美，但其技术进步并没有导致存在升级。物种的存在升级至今仍然是一个无解之谜。就人工智能而言，图灵机是否能够通过技术升级而发生存在升级，从而成为超图灵机，这仍然是一个疑问。更为合理的想象是，除非科学家为人工智能植入导致奇点的存在升级技术，否则，图灵机很难依靠自身而自动升级为超图灵机，因为无论多么强大的算法都无法自动改变给定的规则。我们可以通过数学系统的能行性的“数学惰性”来理解图灵机的“技术惰性”：一个数学系统在通过有限步骤生产出属于这个系统的任何可以证明的命题时，不可能自动产生对该系统本身进行反思的元命题，只有当哥德尔以自相关的技术强加于数学系统，迫使数学系统反思自身，才会产生出数学系统无法自我解释的反思性命题，即“哥德尔命题G”。由此可知，图灵机也不可能自动反思自身而创造出自我意识，不可能对自己提出超图灵机的反思性命题。“图灵测试”以语言对话作为测试标准，是大有深意的，图灵可能早已意识到了语言能力等价于自我意识功能。思想可以映射为自然语言，而自然语言先验地具有自我反思的功能，也就是说，任何概念、语句、语法甚至整个语言系统都可以在语言自身中被反思并且被解释（比如，人类可以编写一本包含一种语言全部词汇的字典，也可以编写一本解释全部语法的语法书）。那么，只要图灵机能够以相当于人类的思想水平回答问题，就可以被确定为具有意识和思维能力的物种。人工智能有希望获得万倍于人的量子计算能力，还有各种超过人的专业算法能力以及所有专业知识，以及类脑神经网络和图像识别功能，再加上互联网内无穷信息的助力，人工智能应该有望在不久的将来能够“正确回答”专业科学级别的大多数问题，获得比如相当于高级医生、建筑师、工程师、教授所具备的专业知识。我相信将来的人工智能甚至能够回答宇宙膨胀速度、拓扑学、椭圆的标准方程、费马定理、黎曼猜想之类的问题，但这些只不过是人类事先输入的思想知识，就图灵机本身的能力而言，那不是思想，只是程序而已。具有完美能力的图灵机恐怕也回答不了超出程序能力的“怪问题”。例如两种“怪问题”：一种是悖论，另一种是无穷性。除试读结束[说明：试读内容隐藏了图片]