新时代、新规则、新秩序：2018第七届北大-斯坦福互联网法律与公共政策研讨会讲演录(txt+pdf+epub+mobi电子书下载)

作者：腾讯研究院

出版社：浙江出版集团数字传媒有限公司

格式: AZW3, DOCX, EPUB, MOBI, PDF, TXT

新时代、新规则、新秩序：2018第七届北大-斯坦福互联网法律与公共政策研讨会讲演录试读：

2018年12月3日，第七届北大-斯坦福互联网法律与公共政策论坛在深圳成功举办。会上，中国社会科学院研究生院教授、中国社会科学院法学研究所研究员周汉华在「数据保护与网络安全」章节就“个人信息保护观念的演变”分享了自己的看法。

以下是演讲全文：

大家好，我今天想跟大家谈的是个人信息保护观念的演变。

虽然个人信息的保护在学术界呼吁了15年以上，但是在此之前一直没有太多的动静，最近两年才有好消息不断传来。今年的十三五立法规划里把《个人信息保护法》及《数据安全法》列入了一类计划。民法总则虽然没有用个人信息权的概念，但实际上已经隐含了这个意思，同时，民法总则也涉及到了隐私权和名誉权。正在讨论中的民法典，尤其是人格权篇，比民法总则在权利体系上更加全面。这时候大家可能会有一个疑问，这么多的法、这么多的权，这么多的制度，相互之间究竟是一个什么关系？我想这个时候我们应该回到基本面，对权利背后的观念进行一个梳理。

新中国成立以来我们的个人信息保护观念有四个发展阶段：第一个阶段是很传统的阴私观念；第二个阶段是民法上的隐私观念；第三个阶段是公法上的个人信息保护观念；第四个阶段是大数据时代的个人数据观念。

如果我们对观念进行一个梳理，再来定位《数据安全法》、《个人信息保护法》、民法总则人格权篇等等，那么我们在法律关系的构建上就会有一个相对清晰的路线图。

第一个是传统的阴私观念。在80年代中期之前，我们后面讲的三个观念都是没有的，阴私观念在中国延续了2000年，所以法律里面也明确采用了这个观念。阴私就是法律上不公开审理的案件，按照最高法院的司法解释，就是涉及性行为和侮辱妇女的犯罪案件。这个解释到今天还是如此，虽然诉讼法把阴私改成了隐私，但仍然不是个人信息保护法规定的隐私，而是性行为和有关侮辱妇女的犯罪案件，这是我们的文化传统决定的。法律所保护的只是一个诉讼程序的权利，遇到这种案子不公开审理，这是第一个阶段，延续了2000年。

第二个是民法上的隐私观念。80年代、尤其是90年代初之后，我们可以看到观念在变化，普遍用隐私概念替代了阴私概念，所以现在政府文件里不再用阴私，大量使用的是“隐私”。从《民事诉讼法》开始，逐步开始使用了隐私的概念，那么隐私概念的特点在什么地方呢？我们通过归纳分析发现了它的几个特点：

1、法律保护权利的种类，已经从诉讼权利的程序保护，进入到了主要是民事实体权利的领域。隐私是一项实体权利，在大量的法律里都是把它做实体权利加以保护的。最开始我们1986年的民法通则里是没有隐私权概念的，是通过最高人民法院的最高司法解释，在名誉权当中解释出了一项隐私权，一直到了《侵权责任法》才把隐私权作为一项独立的权利和名誉权并列。

2、权利保护的方法已经从过去的单一不公开审理的诉讼程序保护，扩展到程序继续保护了，同时还通过侵权救济来保护。

3、隐私的边界目前还不清楚。它在程序上是清楚的，哪些案件不公开审理，这个边界是很清楚的。但是隐私权的实体边界，隐私权和个人信息权是什么关系，这是模糊不清的，要是梳理司法案例就会发现各种不同的结论都有。实体权利处于模糊阶段，这是第二个阶段。

第三个阶段是公法上的个人信息保护观念。这一点非常清晰，90年代末，随着信息化以及消费者权利保护这两个领域的出现，公法上的个人信息观念出现了，在大量的立法中个人信息观念也开始采用。

如果我们提炼规律性就会发现：

1、相比于主要依靠民事侵权法予以保护的隐私，个人信息的概念更为中性，它的范围远远超出隐私权、民事侵权保护的范围，所以它的范围更大。

2、由于个人信息保护超出了隐私侵权、民法保护的范畴，除了传统的程序法和民法的救济之外，个人信息更多的是要靠政府监管和行政法的保护方式，这就从事后的侵权责任向事前、事中、事后并重的多阶段、全过程的保护迈出了一大步。

第四个阶段是大数据时代的个人数据观念。进入移动互联网以后，最近七八年的时间，出现了大数据时代的个人数据观念。这个时候怎么来使用数据，怎么来开发利用数据，就成为了任何一个主体不可回避的战略性的选择，这时候也就相伴出现了新的个人数据的观念。国务院印发大数据发展行动纲要以及一系列的重要文件，就是在系统地部署大数据的开发利用，各种政策文件都开始逐步采用过去仅仅作为科技词汇的数据的概念。

十多年前讲数据基本上都是科学家在用，但是今天个人数据、大数据早已不是一个科技词汇，而变成了一个政策的词汇，这背后是一个观念的重大变化。

这个时期的特点在于：

1、突出强调大数据开发、开放、利用与共享，要突出竞争优势。

2、同样重视信息安全与个人数据的保护。

3、个人数据的观念仍然在形成过程的初期，我们正在经历这个过程，它和个人信息保护的观念到底是什么关系还在磨合，不同的主体对个人数据观念的接受度也不尽相同。

简单地跟大家梳理、归纳了我们法律背后观念的变革，引申出来几点结论：

1、通过梳理可以很清晰地看到，随着社会的发展，个人信息保护的概念在不断变化。我们今天不再用阴私的观念，甚至很少用隐私的观念，大家更多的是在讲个人信息、数据治理，这个概念的变化和历史的变化是同步的。而且概念所蕴涵的观念和制度也在潜移默化的变化，这种变化未必是立法者有意为之，而是客观实践的需要。所以有时候我们会发现，立法内部是相互矛盾的，有时候可能会同时使用几个概念，也是因为立法者也没有把这些概念弄明白。历史造就了一个概念体系，是实践推动这个概念体系完善，四代个人信息保护观念递进的线索其实是非常明显的。

2、因为观念处于快速变化之中，所以不同主体用的概念可能相同，但所指的可能是完全不同的两个领域。大家可能都用同一个概念，但是你用的是第二代的观念，我用的是第一代，也可能有的人用的是第四代或者第三代。为什么有时候会争论不休？可能就是因为大家的观念是不一样的。立法就应该要理清这些观念，这样才能夯实一个比较清晰、有效的立法基础。

3、时代在进步，不同的观念是不能混淆的。我们既不能用第二代的民事隐私的观念，也不能用第三代的个人信息保护的单一视角，来规范第四代的个人数据处理。这个现象非常常见，包括我们在人格权篇的讨论中，很多情况下大家用的是第二代的观念，要讨论的是第四代的问题，这是不可能得出科学结论的。因为这个观念有代际的差别，网络时代三年一代沟，所以这也是正常的，按照观念的变化，这个观念跟不上也是正常现象。由于权利的边界不断扩大，如果用第二代的人格权的观念，包括人格权的讨论，来规定个人数据权，必然会顾头不顾尾，难以覆盖。观念混淆还会导致严重的错位与混乱。民法总则既包括肖像权、姓名权这些列明的权利，也规定了隐私权，同时又规定了一般人格权，以及对个人信息的保护，所以从逻辑上它是不周延的。现在在大数据时代，我们应该用最新的观念讨论立法问题，可能才比较有助于形成共识。Isabelle Hajjar：GDPR能否解决公众对于数据安全的担忧？演讲者系探恪软件科技有限公司合规负责人

全球范围来看，数据治理正在面临三大挑战：如何在促进以大数据为要素的技术产业创新的同时，又能保护好个人数据权利，保障好国家数据安全。这三大挑战既相互关联，又彼此影响，从欧盟的法律制度和美国的司法实践看，数据治理尚未达成共识，各方仍存在较多分歧。

2018年5月，欧盟正式实施了《通用数据保护条例》（The EU General Data Protection Regulation，后称GDPR），被受国内外互联网企业和法律界关注。这部被公众称为“史上最严数据保护条例”的法案实施半年后，其对欧盟的互联网生态已经带来一些变化，其中的正负向影响都值得研究与分析。

2018年12月3日，第七届北大-斯坦福互联网法律与公共政策论坛上，探恪（上海）软件科技有限公司合规负责人Isabelle Hajjar就GDPR及其所带来的一些问题发表了自己的看法。

以下是演讲全文：

大家好，今天我要跟大家讲的是GDPR，以及GDPR所带来的一些问题。欧盟的GDPR是什么

数据保护是欧盟的一项根本权利，也是非常核心的权利。在上世纪50年代的时候，大家就开始讨论，希望能在欧盟当中形成这样一套数据保护的体系；到了1995年，《计算机数据保护法》颁布，每一个欧盟成员国的法律当中都引入了个人信息保护的法则；而现在，2015年新推出的GDPR取代了1995年的欧盟法令。为什么要推出GDPR

实际上很明显，1995年的《计算机数据保护法》和各个国家的法律其实就已经在适应这个趋势了，那就是现在欧盟很多人都有一个共同的担心——个人信息和个人数据保护可能会成为一个问题。

欧盟在2014年的一个调查显示，大家对个人数据保护的关心程度是最高的，他们非常担心个人信息会被窃取，或是不小心被披露出去，从而导致网络犯罪的情况发生。最近我们做的一些新的调查也同样表明，大家对信息保护方面的担心是最高的，总是担心保护的还不够。2017年7月英国执法部门的一个调查显示，对于执法机构对数据的保护措施，民众只有53%的信任度，而对于政府来讲，只有不到50%的信任度。

所有的这一切都表明了普通民众对于网络安全的担心。过去的几年，欧盟委员会外交事务委员会也进行了很多的调查，不管是在网络犯罪发生之前还是发生之后，这样的担心都已经存在，因此，GDPR也就应运而生了。数据保护需要由更多的部门和公众参与，使用个人数据要有法律依据

因为大家有这样的担心，所以我们也需要有一个新的范式。关于数据保护要有一个权利的转移，不应该是由单一的部门来做，而是应该由更多的部门甚至公众共同来做。GDPR等于是个人数据的保护，通过一系列的原则和规则来进行保护。当任何主体要使用某个人的数据时，必须有法律依据，并且它的使用要得到严格的保护。这就要求为整个数据的获取、处理、使用制定非常严格的程序。并且，数据从获取到使用，以及它的保护，要有明确的规定。通过这些措施，我们首先要明确一点，个人数据包括什么，以及哪些机构需要遵循GDPR的要求。实际上有很多个人或机构在欧盟都有自己的业务，这些人或机构都要遵循欧盟的GDPR规定。数据的使用者必须承担起责任，来保护这些数据，符合GDPR的要求。也就是说，整个数据链不是他自己使用的时候负责而不对供应商负责就行的，他要对整个数据链的安全负责任。因此我们采取了很多的措施，也进行了技术上的安排，使得数据的安全性更强，同时明确每一个用户使用的时候要承担的责任。监管机构须明确自己的责任

如果有人违反了GDPR，我们也要有追责的制度。现在个人数据方面的罚款已经可以达到2000万欧元，对于企业，这个额度可以是全球年营业额的4%。如果发生特定情形的数据泄露事件，你必须在72小时内告知监管部门。

当然，有的时候不一定能百分之百做到，这要视当时的情况而定，但无论如何需要尽快通知监管当局。为了更好地应对个人数据泄露或是个人数据保护的问题，违反GDPR者还要积极配合，进行调查和整改，并在问题发生后，对受损的数据做出尽可能的补救。同时监管当局还会进一步进行后续的调查和研究。现阶段GDPR的成功之路道阻且长

推行GDPR的其中一个目的是重振公众对数据保护的信心和信任。但是它有没有成功呢？事实上是没有的。

如果你想对数据进行进一步的处理，就必须要得到用户的同意，但这存在很大的问题——比如人们会不耐烦，不想持续地点击同意，甚至有时他们会对所有的要求都拒绝，那么这个征求同意就变得没有意义了。

另外，它对学术界来说也有很大的挑战，很多研究需要用户数据，但是没有用户同意就得不到数据，也就没法进行研究。

其次，GDPR的本意是想要进行保护，但是为了合规保护，数据使用者要给用户发送太多的通知进行确认，对于有很多设备的普通人来说，他们没有办法把所有的通知都读了，然后去理解它们的影响。

最终，这些就沦为了失败的拯救机制。

此外，不同数据主体的互相矛盾的诉求也是一个问题。现在人们有多种数据，比如说照片、评论，这些数据所归属的数据主体很可能是多重的，但其实没有任何特定类别的数据主体在GDPR中是有优先权的，这就导致了一些问题。

除此之外，GDPR还有很多别的问题。GDPR的本意是想让竞争变得更加公平，但是其实更大的组织，特别是那些科技巨头，他们有更多的资源来GDPR合规。

这样会把这些大小机构的合规行为分隔开来，或者是让这些大机构更加合规，这对所有人来说是不利的。在安全方面也有互相矛盾的(1)地方，就是在GDPR规定的主体中，数据控制者和数据处理者之间的责任并不平衡，这让数据处理者处在一个不利的境地，更增加了安全的隐患。

另外还有一些困难是跟GDPR的另外两个做法有关的。第一个是它本来想要降低欧盟内部关于数据保护的立法碎片化，把28个欧盟国家的法律整合成一个欧盟的法律；第二个是希望让这个法律更加经得起时间的检验。

但是我们看到，它并没有达到这两个目的。

说到降低立法的碎片化，在GDPR出台之后，仍有超过50个领域允许欧盟成员国自己设立额外的法律的。也就是说还有许多国家有区别存在，这让整体的执行和合作都变得非常困难。

其中有一些领域是比较特别的，比如未成年人的数据：所有的成员国都开始立法了，但是却有很大的不同，因为年龄是不一样的，有些国家规定的是13—16岁，有的是14岁，有的是17岁，对未成年人的年龄都有那么多的分歧，对其他方面的分歧则更多。

除此之外，它是否能够抵抗得了时间的检验？现在欧洲已经有一些技术在对GDPR进行挑战，比如说信息匿名化，这是一个比较大的争议。我们现在无法判断一个匿名化的信息是否真的是有效的匿名化，因为现在有越来越多的数字的来源可以交叉验证，还有数据挖掘、人工智能，这些技术加在一起，让你想要获得一个纯粹匿名的信息越来越难。GDPR对于研究AI可能会有负面影响

其实，现在已经没有办法确定的知道某个数据是否真的无法追溯到原始个人身上。这对于研究AI可能会有非常大的负面影响，因为他们可能会使用大量数据，而这些数据可能会重新被辨别它的来源人，这个威胁已经越来越大的。

另外，如果你的数据真的清洗到了完全匿名的程度，那么这个数据对AI和研究可能是完全无用的。人工智能面临的一些其它挑战(2)

首先，人工智能是绝对无法符合“数据最小化原则”的，AI必须要得到巨量的数据。除此之外，人工智能也有可能把普通的个人数据变成敏感数据，比如说某人的购物车，如果你经常买某种药物，别人就会知道购买人的个人信息，比如说地理位置，如果你经常去某个教堂，或者是其它的宗教场所。使用某人的个人数据，很快会把这个数据变成敏感数据。

在GDPR的要求上，要求数据来源的明确同意交出这些信息，这可能会非常困难。

另外一个跟人工智能相关的问题，就是解释性的问题，当我们谈到复杂的人工智能网络的时候，它会有个黑匣子的效应，让人们无法解释到底它的人工智能系统是怎么达成结论的。如果要解释的话，就要冒着打开黑盒子和揭露他们的IP和其它的商业秘密的危险，这对这些公司来说都是很大的问题。GDPR与区块链

另外一个是区块链，它也是比较大的问题。首先是交易的不可逆性，他们无法更改信息，这样就跟GDPR中的遗忘权和更改权是相悖的。

所有区块链的特性，都是我们需要考虑和思考的。

在区块链中，所有的参与者都可以增加文件和信息，所以也很难知道到底谁是数据控制者，到底是在区块链之中有一个数据控制者还是多个数据控制者，这也是问题。

除此之外还有保密性和同意的问题，因为所有的区块链上的人都是能够得到这个信息的，包括个人信息，无论有没有数据所有人的同意。除此之外，还有物联网、量子计算机，到底我们该怎么处理，这些都是法律的制定者在未来需要解决的问题。

欧盟下一步的做法是什么呢？大家可能也预期到了很快我们将会采取数据隐私的法案，还有电子通讯法案，除此之外还有在混合数据集的一些指导方案以及其它的立法和法规，所以请大家持续关注。(1)　编者注：GDPR定义了两种主体“数据控制者”、“数据处理者”，用一个例子来说明二者的区别：创业公司A在云服务商B上搭建了自己的服务，A、B分别为数据控制者、数据处理者。(2)　GDPR的七个原则之一，数据最小化原则要求所收集、处理的个人数据之于其处理目的，应当准确、相关、必要。Andrew Grotto：数据保护问题中的隐私问题演讲者系斯坦福大学胡佛研究所的研究员

大家早上好，我想主要说两点：第一，美国将会进行一个关于“隐私法案将会采取何种形式”的内部讨论；第二，我们在隐私方面的讨论。

之前的两个演讲之中已经提到了，一个是说到中国的隐私法，另外一个是欧盟的GDPR，我们可以看到整个世界现在正在进行一个重要的努力，我们希望来定义信息科技和所有的其它领域的立法和法律。现在有这么多嘉宾在现场，我们也可以探讨如何鼓励创新，如何持续不断地发展我们的国际信息安全。关于隐私，公众的行动与内心并不一致

三四十年前，美国也有非常类似的公众对于个人数据保护的问题。在那个时候大家对于个人数据的保护，并没有促使立法机构立刻出台很多的立法，很多州后来逐渐也有了数据保护，但是并不是非常多。最近我们做了很多的研究，研究结果都显示，民众在隐私方面，对关心的东西及他们的行为之间是有差距的。这里面也涉及到一些实验，如世界顶尖大学麻省理工大学的学生怎么使用比特币，用什么样的电子钱包储存他的比特币的实验，结果表明，学生选择比较多的电子钱包，原因不是它的隐私保护比较好，而是选择的人多，他们才去选择。这些聪明的学生，实际上也是放弃了自己的隐私，他们选电子钱包只是选择了它的便利性。所以在隐私上面来讲，他们觉得这件事我很关心，但是他们的行为表现出的是并不关心的情况。隐私法需要对不同行业进行不同的法律规管

上述实验是我们研究中发现的一个很有意思的现象。这也是为什么我们最近在美国把隐私法做了一个结构上的安排，最近这些年我们就是按行业来进行研究，针对不同的行业进行不同的法律规管。因为早在几十年前，美国就有一个非常综合的、范围覆盖非常广的隐私法，后来不断地进行了修订。有点讽刺的是，加州是很特别的，他们对于很多方面跟其它州不一样，一个普通的居民只要搜集到足够的签名，他就可以进行一项公投。加州的一个人很有钱，他想搜集足够多的签名来通过一个隐私法，但实际上很多人并不是那么关心他的隐私。而到了硅谷（硅谷也属于加州），这些人很开心，因为没有一个这样的法律来监管他们，他们使用这些数据就更加容易了。后来根据我们的调查，这条关于隐私的法律可能会通过。加州的立法方面的确是有一些压力，因为他们通过市民的请求，改变现在的法律。加州的做法和其它的地方不一样，加州的立法机构也推出了一个类似欧洲GDPR这样的法律，目的是为了避免公投的情况。实际上加州这样一个公投的隐私法对其它的州也是有影响的，美国不是每个州都有隐私法，加州是比较大的州，它的GDP相当于意大利或者是法国。在美国的联邦体系当中，我们也看到有几个类似的例子，加州是从立法上采取行动，首先建立一个综合的立法，然后建立一个州层面的标准，你要是在加州做生意，你首先必须回答一个问题，你是不是要遵守加州的隐私法，你要是遵守，就可以做生意，你要是不遵守就不可以做生意。现在川普政府也在考虑，从联邦层面制定这样的法，2020年1月份可能就会有动作了，明年国会会通过一个隐私法。对于国会来说，他们的行动也是因为加州是50个州之一，其它的州也会跟着加州的做法，正如蝴蝶效应一样。所以加州的这条法律对于诉讼来讲，提供了非常好的一个法律的依规，这样也可以避免越来越多的侵犯个人隐私、滥用个人数据的情况。这也引起了华盛顿的注意，以前很多的国会议员他们不怎么讲隐私的事情，而现在有些保守派的国会议员也表达了这方面的兴趣。美国公司面对数据侵权更多会寻找律师进行解决

现在美国的一些公司，他们有时候也会受到网络罪犯的攻击，往往第一反应是找一些律师。美国的企业已经有这样的习惯了，尽管政府有比较良好的意愿，也愿意帮助这些企业，但是实际上有时候企业不愿意把自己的信息告诉政府。当下美国面对广泛挑战

美国现在已经进入了一个比较紧张的阶段，其法律法规也越来越多，政策出台的也比较多。还有是因为美国现在面对全球有一个非常广泛的挑战，就是未来的全球治理，对于个人信息的保护等等方面是什么样的。国会也通过了几项相关的议案，相关的规管也逐渐制定出台，所以使得它的整个规管架构也更加明确。中国现在也是沿着这个方向在努力。我就先讲这么多，后面讨论的时候我再继续分享。王融：数据治理——精细科学的政策平衡演讲者系腾讯研究院研究员

2018年12月3日，在第七届北大-斯坦福互联网法律与公共政策论坛上，腾讯研究院资深专家王融发表了以“数据治理——精细科学的政策平衡”为主题的分享。本文基于其演讲内容整理。一、2018，数据治理的灰色之年？

数据泄露、滥用、歧视这些负面事件如同天空中的阴霾，不断加深着人们对数据治理的悲观情绪。

的确，这一年被数据泄露贯穿始终，规模日益扩大。从上一年末，美国最大的三家个人征信机构之一Equifax数据泄露，到年中中国最大的多品牌酒店集团——华住数据泄露，再到上周万豪酒店集团的数据泄露，每次数据泄露的规模均在亿级以上；

数据泄露之后的滥用问题也在持续升级。Facebook丑闻中，“剑桥分析”公司涉嫌利用来自Facebook的用户数据影响多国大选，美国国会到目前为止已连续召开十三场听证会，深度拷问平台的数据处理规则；

国内媒体爆出的“大数据杀熟”现象，让经济学上的价格歧视问题被抛向更广泛的公众视野。现实中，平台利用大数据来攫取消费者剩余是广泛存在的么？如果是，监管者和消费者又该如何应对？

除了牵动普通消费者的数据焦虑，国家层面的数据安全也在面临全新挑战。3月美国Cloud法案出台，美国单边提出了新的跨境数据执法框架，尽管这是对传统低效的跨国执法合作机制的一种探索改变，但仍然增加了一国数据安全的不确定性。

问题本身让人沮丧，但更令人沮丧的是，我们似乎还未找到开启答案的钥匙。二、欧盟GDPR，灰暗中的希望？

5月25日，欧盟GDPR正式生效，为数据治理带来新的曙光。欧盟版解决方案坚守保护公民基本权利理念，全面提升个人数据保护力度，对几乎所有数据处理环节建立了严格规则，以实现对个人的极致保护。

事实上，在2016年4月GDPR正式颁布后的两年过渡期内，GDPR带给数据治理的积极影响已在不断显现。它促使企业、政府、医院、学校等任何开展个人数据处理的机构，在数据保护方面给予更多的投入。以2017年的调查为例：富时350指数公司平均为GDPR增加43万英镑的支出，世界500强企业平均增加100万美元[1]。更重要的是，GDPR推动了全社会更加关注个人数据保护问题，在过去的两年，我国政府部门、消费者协会针对隐私政策开展了多次评测活动，引导企业、机构不断提升数据处理活动的透明性[2]。（一）但作为制度新生儿，GDPR本身也带来许多争议和尚待细化的领域，其中典型包括：

1．宽泛的域外适用范围，不仅对欧盟各成员国的数据保护监管机构带来执法挑战，同时在学界也引起了公法、国际法学者的质疑。GDPR生效后，有许多中小企业因为担心过高的法律风险，宣布停止向欧洲地区服务，而部分企业则实时调整了商业模式，以华盛顿邮报为例，索性在欧盟推出收费版本。正如其宣传词所说：“请支持伟大的新闻业”。如果邮报不能通过用户cookie来实现广告收入，则用户应当为新闻内容直接付费。

对此，英国读者向英国个人信息保护主管机构ICO（Information Commissioner's Office）提出投诉。按照GDPR所规定的宽泛的适用范围，只要向欧盟境内个人提供服务，并处理个人数据，则大概率会落入GDPR管辖，由此ICO对该投诉予以立案调查，但颇为尴尬的是，ICO仅以公告的方式提出华盛顿邮报的收费版模式违反了GDPR关于用户同意有效性的规定（因为用户没有其他选择），但ICO对于该事件的调查也只能止步于此，ICO现有的执法资源还难以处理类似域外案件[3]。

除了现实中这些域外管辖带来的难题，在学者的眼中，GDPR中宽泛的适用范围在国际法领域带来了不好的先例。特别是其对于属人管辖的特别延展，缺乏正当化和合理化的依据，并加剧数字经济背景下国际公法领域的纠纷冲突。

2．GDPR引入的个人权利也陷入与其他基本权利的紧张冲突之中。包括被遗忘权与知情权、言论自由权的冲突，数据可携权与竞争法的冲突。

3．GDPR数据处理可解释性的要求对人工智能产业，特别是对深度学习、神经网络学习提出严峻挑战，也使得欧盟包括自动驾驶在内的AI产业的发展陷入了更多困境；

4．与区块链技术的范式完全相反。区块链本质核心是分布式、去中心化的，而GDPR的制度范式却承袭了之前欧盟1995指令中心化的规范范式（即制度规范都指向核心的数据控制者和数据处理者）。根据欧盟委员会和法国数据保护机构的观点，新兴的区块链技术也必须要适用GDPR。因此，在未来GDPR和区块链的技术之间，仍将继续存在极大的合规差距。尽管从技术眼光看，区块链完全可以为数据保护提供一种新的技术解决方案。（二）而随着GDPR的执行推进，有越来越多的现象和实证数据显示，GDPR实施对于欧盟数字经济竞争力带来了显著的负面效应，这甚至是欧盟立法者当初在打造GDPR时未曾预料到的。

1．GDPR严格的合规要求巩固了大企业的优势地位。大企业更有实力和资源投入合规工作，而中小企业被迫退出市场，无形中为大企业收割市场提供了便利。以在线广告市场为例，GDPR生效以后，谷歌由于具有更强的合规力量和产业引导力，其市场份额进一步增加[4]；在云计算行业，亚马逊AWS、微软Azure等领导者在第一时间内表示可以充分满足GDPR的合规要求，对比之下，云计算市场的中小玩家却在合规竞争力上难以同步。

2．半年来的经济数据证实GDPR对欧洲科技创新带来不利影响。上月，美国知名经济学研究机构NBER发布了一份权威研究报告，其采用严谨的计量经济学方法和真实的欧洲市场活跃度数据表明，在GDPR生效的半年以来，其对于欧洲的创新企业的发展负面作用非常明显，尤其是在中小企业融资的笔数、融资量方面，欧洲的中小企业陷入了融资的困境。

以上充分显示了GDPR的二维两面性。它在为个人权利保护带来积极力量的同时，也对技术创新和持续发展产生了令人无法忽视的负面效应。这表明，对于数据治理，我们仍需要探索究竟如何设计制度规范，以承载我们更多的期望目标。三、美欧隐私政策在走向融合趋同么？

尽管美国43个州和特区均制定了数据泄露通知法案，但从Equifax到万豪集团，美国一年来从未走出数据泄露的梦魇。而今年4月，Facebook数据泄露事件也将数据治理问题推向了最高潮，美国海内外已经举办数十场听证会，全方位深度拷问平台数据处理规则。

这过去一年来的听证会，深度卷入了各大科技公司、消费者代表、隐私保护监管机构、立法者（包括欧盟GDPR和加州隐私法立法重要参与者）。通过各方的质询、回应、讨论、激辩，将数据治理议题推向纵深，美国的数据治理框架也逐步浮现：

一方面，以加州为代表的各州对隐私保护制度进行完善。今年6月，加州率先推出了消费者隐私权利保护法案（California Consumer Privacy Act，CCPA），这是美国目前最为严格的隐私法。

另一方面，在国会两院关于制定一部统一的联邦隐私法的呼声日益高涨，并得到了美国两党、科技行业的一致支持。现在的问题不再是是否需要制定联邦层面的隐私保护法，而是应该制定一部什么样的联邦隐私保护法。

面对美国隐私立法最新变化趋势，我们不禁要问：以加州隐私法为代表的州立法是否是美欧隐私立法走向融合趋同的前兆，预示着崇尚市场自由的美国也如欧洲一样开始侧重对个人权利的保护？

回答这个问题，我们需要首先厘清美欧这两大主导全球数据保护政策的体系之间的关系。

长久以来，美欧数据保护政策体现着明显的差异：欧盟主张统一和严格立法，而美国倾向分散和宽松立法；欧盟强调政府部门对于个人信息保护的监管权力，而美国则主张政府的有限干预。这些差别反映了二者对于个人信息保护政策基础理念的分歧。

当然，在根本分歧之外，美欧之间也有政策的相互借鉴部分。例如：数据泄露通知制度最早发端于美国，之后被欧盟数据保护法迅速吸收；而在被遗忘权方面，美国也在一定程度上借鉴了其合理部分，比如在加州儿童隐私保护法中，对儿童这一敏感群体，赋予了更为强大的删除权利。而这次加州率先在全美推出了更为严格的数据保护制度，仍然是美欧政策的互动学习的结果，但这并不代表着美欧数据保护政策走向趋同。

因为即使是最为激进的加州消费者隐私保护法案（CCPA），也比GDPR要宽松很多，也更加注重消费者保护的实际效果和促进企业发展，技术创新之间的平衡。这最显著地体现在以下三方面：

第一，CCPA更大程度上豁免了中小企业。CCPA仅涵盖收入超过2500万美元的企业，以及销售大量个人信息的数据经纪人。而GDPR下，几乎所有任何规模的实体都受约束，市场里的所有玩家都必须遵守几乎相同的高标准的合规要求，这也解释了为什么GDPR生效后为什么会带来对中小企业带来了市场的负面扭曲效应。

第二，加州隐私法仍然保持了美欧个人数据保护法的最大差异，延续了opt-out原则。具体而言，依据GDPR，在绝大多数商业化场景下公司收集、处理消费者个人数据之前必须要获得消费者的同意，即“opt-in”模式；而在加州消费者隐私法中，对于16岁以上的消费者的大部分的个人信息处理，采取美国一以贯之的“opt-out”模式，即除非用户拒绝或退出，则公司可以继续处理用户的个人信息。这体现了美国一直以来在数据保护方面的务实思路。“opt-out”模式对消费者而言更为真实有用，同时对新进入市场的企业的发展阻碍也更小。

第三，在同意机制上，加州法相比于严格刚性的GDPR，体现出灵活弹性的特征。正如我们在上面所介绍的华盛顿邮报的例子，依据GDPR，企业在无法通过行为广告来补贴业务的情况下，选择直接向用户收费模式，则难以满足GDPR关于同意是消费者自由、自主选择的要求。而对于此问题，加州法专门留出弹性空间，其规定：消费者行使了本法规定的隐私权利，企业不得有歧视对待，但是：如果该价格或差异与消费者数据所提供的价值直接相关，则企业还可以向消费者提供不同的价格，不同费率，不同的品质的商品或服务。可见加州隐私法仍然更多地保留了市场弹性，允许企业探索其他可行的商业模式。

而从联邦层面来说，尽管目前统一的联邦隐私立法呼声极高，但因为美国各州差异巨大，能在联邦层面达成共识的隐私立法不会过于详实，具体的执法细则应根据各州的具体情况进行规定，不会像GDPR那般严苛。因此，在数据保护领域，美国与欧盟仍保持了不同风格的法律特征，欧盟GDPR并不是当前数据治理领域的唯一范本。四、数据治理，期待更为精细和科学化的政策平衡

和欧美在数据治理领域的制度探索一样，我国也正面临同样的制度智慧考验。民法典分编——《人格权》草案已正式从底层制度尝试回应隐私和数据保护问题，《个人信息保护法》、《数据安全法》也已列入本届人大的立法日程。

对于欧美提供的制度样板，我们难以作出孰优孰劣的价值判断。因为任何特定的法律制度，都是建立在特定社会的历史背景下，决定于特定的文化、经济、社会背景。

但任何良好的政策设计必须充分考虑各种因素，数据治理政策也不例外。在过去的20年中，我们越来越深刻的感受到政策讨论背景的历史变化——“个人信息保护”话题的边界正在不断扩展，向内涵更加丰富的“数据治理”转变。

个人信息作为传统法律保护的客体，一直处于静态而稳定的法律关系之中。不论是欧盟视作基本人权、还是美国作为消费者权利保护，权利保护的法律逻辑一直是清晰的。

然而，随着云计算、物联网、AI的快速发展，数据资产在经济、社会活动中的核心和辐射作用愈发凸显。“数据治理”正在以更宏大的议事命题浮现，形成了围绕数据资产的隐私保护、创新竞争、安全主权等更复杂化、更多维的公共政策讨论场。

这些复杂因素代表了从三个视角出发的利益诉求：

第一、从个人视角出发的权利保护诉求；

第二、从产业视角出发的创新、发展、竞争需求；

第三、从国家视角出发的数字经济国际竞争力和数据主权安全需求。

以上三个视角并不是孤立存在的，而是彼此紧密联系、互动影响。这决定了我们当下的数据治理政策，也应当采用多维的思维进路，从个人权利保护，产业发展创新，以及国家数据安全和竞争力进行充分考虑和推演，任何从单点角度出发考虑的政策必定会带来不合理的结果。例如，从个人视角出发的GDPR尽管赋予了个人强大的权利，但在实践中，反而带来了大平台更加巩固市场地位、抑制产业竞争活力的后果，愈加集中的市场最终会给个人隐私保护带来更小的选择空间。

特定的数据治理政策会同时带来正负面效应，这是大量的隐私经济学研究文献所证明的通识。例如：在雇佣市场上，如果雇主由于隐私保护管制的原因，无法查阅到职位申请人是否有犯罪前科信息，则雇主很可能会作出更大的歧视性选择，将对特定人的歧视扩展到对特定群体的歧视；同理，如果所有消费者都从广告信息中选择退出，则实际上会降低产品和服务的竞争度，因为消费者获得的产品信息更少了；而在依赖于数据共享的科研、医疗领域，过严的数据保护政策也会带来整体社会福利的明显减损[5]。

如何平衡好数据治理政策的积极和消极影响，并没有一刀切的解决方案。正如我们对美国国会系列听证会对数据政策深度探讨的外在观察而看，更科学的政策仍然是在充分考虑数据治理过程中的不同因素之间复杂的互动关系。关于未来的联邦隐私法，我们可以预判它最核心的制度和功能将仍然最主要依赖于联邦贸易委员会（FTC）——一个以经济学专业人士为主要构成的机构，这在一定程度上决定了美国未来的联邦隐私法，也将会更精细地平衡数据治理的不同要素。

我们呼吁在当前中美数字经济竞争格局下，数据治理政策的讨论应当是多维框架、多因素互动的模式，增强来自产业界、监管界和学界的互动和讨论，用更开放的视角，更精细化和科学的方式设计更好的政策，更有效地放大数据保护的正向能力，更小地弱化它带来的负面的效果，实现权利保护、产业发展、国家竞争力提升的多赢结果。精彩问答：

Michael Klausner：谢谢。想问一下各位嘉宾，大家看这些事情，看个人隐私，对于不是马上就损失掉财物的这些事情，你们是怎么看的？

Isabelle Hajjar：概念上来说，我们说隐私，它的意思就是说不同地方的人，大家肯定会有不同的认知，这是毫无疑问的。欧洲一开始的时候讲的隐私并不是把它视为一个根本的权利，它又是非常重要的一件事，隐私与文化有关，与历史也有关。

按照GDPR的要求，数据必须要得到控制，这是因为数据是有价值的，因为它是隐私，是个人的数据，所以它有独特的价值。GDPR不只是私营企业要遵守，政府也要遵守，任何公共机构都要遵守，每一个人都必须要做到合规，要保护数据的安全。我认为我们之所以这么重视GDPR，是因为我们从根本权利的角度来制定的。

Michael Klausner：能不能讲一下欧盟的隐私方面有什么独一无二的东西？

Isabelle Hajjar：我觉得是欧洲的政治观点，这是非常重要的。

Michael Klausner：下面问一下Andrew Grotto，你认为美国的哪些数据是比较重要的？

Andrew Grotto：很多人说是很重视个人隐私，可是他们在行为上，你可以看看不管是一般的消费者还是其他人，他们表现出来的是并不关注他们的隐私的。我们有一些小组积极呼吁隐私方面的立法，有些人非常关心，但现在美国对于隐私的关注好像还不是那么多。

Michael Klausner：在中国又是怎样的情况呢？

周汉华：我觉得大家对于隐私方面还是比较容忍的，以前更容忍，但现在没那么容忍了，以后还会变得越来越不容忍。大家对隐私的态度是在改变的。

王融：我很同意周老师的意见，对隐私的理解是一个变化的过程，不同的国家不一样，就算对同一个消费者来说也是不一样的，这是因场景变化而不同的，隐私确实是一个变化的话题，到今天为止我觉得包括中国、美国在内，人们对隐私的更大的方向是开放的，更注重短期的利益，但是对长期存在的风险缺乏警惕性，这是一个总的趋势。

现场提问：我有一个问题，你们会不会觉得欧盟在数据保护方面走得太快了？讲到网络犯罪，这个成本似乎有点太高了，我自己读了很多经济方面的分析，欧盟推出GDPR，要进行数据保护，似乎它的代价非常高，您认为是这样的吗？

Isabelle Hajjar：毫无疑问会有一些负面的影响。大的技术性公司必须要做到合规，但小一点的公司的做法可能不会做到，那么我们需要让那些小微企业逐步适应GDPR的要求，这是我们要做的。

Michael Klausner：现在时间已经到了，非常感谢各位参与讨论。江溯：无人驾驶汽车的法律和道德问题演讲者系北京大学法学院教授

非常高兴能够有机会参与此次论坛。我今天要讲的是无人驾驶汽车的法律和道德的问题。在座各位可能对这个议题都非常熟悉，因为无人驾驶汽车在全球都是一个非常热门的话题，我们也知道汽车是工业革命的产物，它大大地改变了我们的社会与生活，人工智能对汽车行业以及我们未来的生活也将会产生很大的影响。

跟传统汽车不同的是，无人驾驶汽车有很多的好处，它的安全性、效率、经济性和便捷性都有诸多优点。根据某些调查，在美国、德国，有85%的受访者都支持无人驾驶汽车。在中国，无人驾驶汽车的接受率是更加高的，根据研究，有98%的受访者都说，他们将会拥抱以及支持无人驾驶汽车和技术的使用。

说到无人驾驶汽车的立法和政策，在中国以及世界的政策制定者们，他们都是偏好无人驾驶汽车的，比如说在维也纳公约中就已经进行了修改，拥抱无人驾驶技术。在中国的许多城市，包括上海、北京、深圳、长春和许多其它的城市，也推出了在道路上测试无人驾驶汽车的法律法规，今年也出台了一个全国范围内的测试无人驾驶汽车的法规。

在说复杂的法律和监管之前，我们首先应该来看一下这个不同的无人驾驶汽车的发展阶段，大家可能已经非常熟悉了，我会很快地跟大家解释一下SAE的标准，它把无人驾驶的等级分为了6个阶段（从0—5）。从0—3级，人类的驾驶员依然是扮演了主要的角色，到了第四和第五级，这个车就可以叫做无人驾驶汽车了，人类就是乘客，而不是司机。无人驾驶汽车所带来的法律问题

首先是跟道路法有关。根据现有的中国道路法规，它要求驾驶人必须是拥有驾照的人类，但是在无人驾驶汽车或者自动驾驶汽车，它是自动驾驶系统来操作汽车的，没有人类干扰，因此立法者首先要修改《道路交通法》，来适应无人驾驶汽车的系统，正如维也纳交通公约的修改一样。

第二个是隐私的保护。在我们上一节的讨论中，很多专家已经讨论过，这个话题已经有了一个深入的探讨，我们也已经见到在不同的国家，也有不同层面的数据保护、隐私保护的措施。我也必须说，中国和美国、欧洲相比，我们的保护的层面还不够深。无人驾驶车在道路上行驶，它还会搜集周围行人、车辆的信息，也包括乘坐这辆车的乘客的信息，因此就会有风险，有一些企业和个人，他们有可能会侵犯到某一位乘客的个人隐私数据。

第三是网络安全。对于无人驾驶车，网络安全是非常重要的，因为将来每一辆无人驾驶车都是联网的，如果有黑客控制了中央系统，控制了这辆无人驾驶车，有可能会有灾难性的后果。我也知道在欧洲、美国，已经有一些类似的法规，就是针对如何保护网络安全方面的。无人驾驶带来的问题

无人驾驶车也会带来一些麻烦，比如说责任的界定，在我们真正进入到全面的无人驾驶车这个时代之前，比如说去到L4、L5的阶段之前，我们现在所有的法律法规针对界定责任方面都是针对人来制定的，也许未来10年之后，在道路上行驶的都是无人车，这些车万一发生任何事故，谁来负责呢？这个责任的规定应该是如何界定呢？现在在中国我们针对这个话题也已经开始了热烈的讨论。

最严重的一个问题，我们可以称之为电车问题，一辆无人驾驶车，怎么样让它承担起道德责任。有的时候针对人来讲，道德责任都难以划分，更不用说是一辆车，所以对无人驾驶车来讲，这也是一个很大的需要解决的问题。我自己的看法是，所有相关的一些因素，我们都要仔细地去考虑。

我就先讲到这里，谢谢。Tom Rubin：无人驾驶与人工智能演讲者系斯坦福大学法学院教授

大家好，非常感谢主办方邀请我来发言。我在微软工作了15年，1998年的时候，进行了AI的研究。现在要讲的是一些关于公众部署的AI的安全的问题，主要是从公共的角度来讲。我也会深入分析一下，Uber在今年早些时候发生的无人驾驶汽车发生交通事故的问题。无人驾驶汽车的安全问题不容忽视

我昨天过来的路上也发生了这么一件事情，有一辆特斯拉的车在凌晨3点的时候发生了一起交通事故，特斯拉车可以自动驾驶的，交警发现这辆车开得非常快，交警就把它拦停，结果那个车并没有停下来，最后发现是司机睡着了，公路巡警一直跟了他7英里，才把他拦停。加州的公路巡警也想提醒大家，最后他们把这个驾驶员拘捕了，不管这个车是人在开，还是车在自己开，人是要最终为此负责的。这也是一个最新的涉及到公众安全的例子，无人驾驶车的确会给带来一些麻烦。亚利桑那州引领无人驾驶车革命

亚利桑那州的州长提出要创造更多的工作机会，要有一个共享机制，要让亚利桑那州能够借由新经济带来更多的机会。他的确也这样努力做了，他非常欢迎Uber的进入，给他们发了很多的牌照，也因此在亚利桑那州有了很多Uber的无人驾驶车。加利福尼亚州的法律和亚利桑那州是不一样的，Uber拒绝遵守加利福尼亚州相关的安全规定，所以它在那里不能展开实验。旧金山是加州的州府，所以他们也有很多的规定，要求Uber的自动驾驶车不能上路，然后Uber就把这些车装上卡车运到亚利桑那州，他们知道亚利桑那州的法律监管没有像加州这么严格。所以推特上就有人说，加州这个地方监管过度了。

亚利桑那州非常欢迎无人驾驶车，2015年他们就开始了相关工作，他们鼓励这些无人驾驶车，还给Uber的无人驾驶车给予了很多的支持，成立了一个无人驾驶车监管委员会，并且通过当地政府形成一些新的文件和新的政策，进一步支持无人驾驶车。2018年亚利桑那州的州长签署了一条新政令，上面对无人驾驶车如何进行测试都有严格而明确的规定。就算是测试本身，还有这个车辆的运行，在这个行政命令上都有一个明确的规定。因为他们也想能够在亚利桑那州针对无人驾驶车建立起一些最基本的规管。亚利桑那州的无人驾驶车辆第一宗行人受害事故

现在我们还没有足够的法律来保障无人驾驶的安全和规管无人驾驶车。对于亚利桑那州的第一宗无人驾驶车辆行人受害事故，警察局长说，因为这个受害者是很快的从阴影中冲出去的，没有任何人能够避免，但那时候警察还没有得到所有的信息。过了几天之后，我们才看到了当时的录像，也暴露出了真正的问题，该行人的自行车已经被照亮了。这个无人驾驶车是激光雷达感应的，行车记录仪看到什么对这个无人驾驶车来说并不能感受到，它是通过激光雷达来反应的，从这个视频中我们也可以看到，这辆无人车上的驾驶员他本来应该在紧急情况的时候踩刹车，但是他在发生事故的时候眼睛并没有看着前面，而是盯着旁边的屏幕在看视频。

在发生这些事故之后，人们开始关注这方面的法律框架。亚利桑那州在之前组成了一个专家委员会，只是简单介绍了无人驾驶汽车。后来州长发了一封通告，说这个委员会已经履行了它的职能，但是一周之后他就撤销了Uber在当地的运营权。之后他们初步发现是在沃尔沃车辆上的绝大部分安全措施都被Uber取消了，这个激光雷达在撞击之前6秒钟就已经发现了这个行人，撞击之前3秒就决定要刹车，但是这个车并没有刹住，它识别了要刹车，但是没有进行刹车的动作。

Uber在这个事故发生之后10天之内就跟受害者的家庭达成了和解，而且它停止了在亚利桑那州的运营，而且也请了上任的全国交通委员会的主席来改进他们的安全，之后Uber就改进了他们对于安全的投入，公布了他们的报告，这个月他们也向匹兹堡市提出了申请，重新进行他们的运营。政策制定者需要更好地了解技术的使用以及该技术对公众安全的影响

这就是亚利桑那州第一宗行人受害事故的经过。AI需要高质量的数据，需要真实世界的测试和使用，政策制定者也需要更好地了解技术的使用，然后也更好地了解它造成的对于公众安全的影响。另外AI会是迭代的，我们一定要去理解它会对公众有怎样的影响。精彩问答：

Angel Gomez De Agreda：我认为您刚才说的问题是非常有用的，我之前也做过调查，我会发现算法说的我的意图并不是我真实的意图，你在训练算法的时候，需要巨大的数据，所以算法才能够是可靠的。除此之外还必须要复查，才能保证这个结果是你想要的。从我的观点来看，我是不同意AI算法的结果。

Roland Vogl：你觉得Uber和亚利桑那州各自的责任是多少？

Tom Rubin：Uber是一个商业公司，在一个竞争激烈的领域，对用户来说他们面对着巨大的压力，任何公司都要关心公众的安全，这也是政府所需要做的事情。所以我就想要说，亚利桑那州和加州是不同的，他们两者都有责任，但是亚利桑那州绝对不是公众立法的典范。

Tom Rubin：我有一个问题，就是关于国际协议，关于部署人工智能用于武器方面，国际的协议是什么？

Angel Gomez De Agreda：我们在上一周在日内瓦开了一个会议，就讲到有一些武器上可以使用人工智能，实际上大家还只是讨论，并没有达成一个一致的意见，我想未来前景是可以的，因为有一些比较先进的国家，他们是有能力去研发这样的一些武器，这就等于是一个优势。Angel Gomez De Agreda：人工智能在武器中的使用演讲者系西班牙马德里工业大学教授

大家好，很高兴在此与大家做一个报告分享。今天说到无人驾驶汽车这个话题，我认为无人驾驶汽车会给我们带来伤害。我想要简要地介绍无人的武器系统，无人武器系统其实是跟无人驾驶系统非常相似的，就好像刚才亚利桑那州的警察说的，无论它的无人驾驶汽车有多高级，也是要有人控制的，无人武器系统和无人驾驶系统是一样的。以人为本，AI和网络空间需要多方共同努力

我总是很喜欢这样一句话，我们说战争非常重要，不能只有军方来负责。我认为AI和网络空间也非常重要，我们不能只让工程师来做。绝大部分在座的观众可能都是律师，你可能会同意我的这个想法，当我在一个工程师论坛上这样说的时候，很多人都表示不同意。人们都居住在网络空间之中，我们每天都在使用这些工具，我认为人的因素是我们最需要考虑的。工具和武器的比较

从国际法的角度来说，工具和武器的确是不同的，你在使用工具，你就不是执行武力，用工具的时候你就不在袭击某人，但是你用一个锤子袭击别人的话，这个工具就变成了一个武器。工具和武器也有很多共同之处，我们需要更好地了解它们，这就是道德和法律的交叉点。AI的三部分

AI其实有三部分，一个是“软”的AI，主要是做连接方面的；一个是“硬”的AI，它除了连接之外，有一部分是致命的自动武器系统；除此之外我们也看到“生物性”的AI，如有一部分AI也会通过脑际界面连到我们的大脑中。我认为最为重要的可能是规管这些事物的法律，如果我们能够考虑到对于这些危险的、致命的AI的武器，可能我们就能更好地进行规管。AI技术是把双刃剑需要正确进行规管

这跟你为什么有关系呢？以前一个军队出兵，另外一个军队也出兵，他们在战场打仗，但是现在恐怖分子把这个战争带到了城市之中，带到了人群中。在AI里面，这个战争是在人的内部的，我们不仅仅是袭击的主体和客体，同时也是袭击的战场。绝大部分的技术都是双刃剑，它们可以用在非军用，也可以用在伤害人的方面。之前也在说，我们正在规管的这些武器系统，可能会影响了这个行业的其它的部分，打造一些对人有好处的工具和方法，所以我们对这些武器系统的规管其实是有其它的影响的。此外，我们必须要理解一个系统，我还不太知道我们怎么打造一个超越人类的系统，同时还能实时地了解它的状况。我们可能需要引进透明性，以便获知其信任度，我们也可以了解他们的决策过程怎么样的。机器会提供决策，做出行动，并且解释是怎么做的，这样我们就可以在需要的时候来调整它这个过程。比如说无人驾驶车，那个司机不要只是坐在驾驶室，还要保证他是清醒的状态，这些是我们的风险管理委员会现在正在做的事情。

有很多传统的常规武器也都是非常危险的。在日内瓦的研究当中，大家都希望把这些常规武器纳入到我们的规管当中。可以见到像这些研究的过程当中，涉及到不同的可能性，很多常规武器因为技术的开发，就像无人驾驶车一样，失去了人类的控制，它是自我控制的，怎么保证这些新开发出来的武器，无人操控的武器仍然能够满足到日内瓦公约的要求。因此我们就成立了一个专家委员会。

试读结束[说明：试读内容隐藏了图片]

下载完整电子书