□这是一本打着微软旗号的书。作者布拉德·史密斯(Brad Smith)是微软总裁兼首席法务官,比尔·盖茨为这书写了推荐序。通常这种身份的人写书,总难免对自己所属的企业和行业有所美化。本书作者虽然也没有违背这一规律,但书中对各种问题的回顾和讨论还是非常有价值的。
当今世界上,跨国科技公司“富可敌国”早已司空见惯,而“富”之后就要追求“贵”——希望拥有和国家政府分庭抗礼的权力和地位。这种权力近年最典型的表现,就是推特居然能够封了时任美国总统特朗普的号。只是一者作为美国总统特朗普实在太过奇葩,二者封号发生在特朗普失去权力的前夕,所以这个标志性事件的典型意义似乎还不太够。那么本书第二章讲述的事件——让我们先假定作者的讲述是真实的——可以帮助我们进一步理解这种权力。
这一章讲述斯诺登爆出美国政府监听丑闻的猛料,其中有 9 家美国科技公司“允许美国国家安全局直接访问用户的电子邮件、聊天记录、视频、照片、社交网络详细信息和其他数据”。这9家公司包括微软、雅虎、谷歌、脸书、苹果、YouTube……
对于微软到底有没有“允许”国家安全局直接访问自己用户的数据,作者有这样一番奇妙的说辞:“也许我们是某个秘密俱乐部的成员,而这个俱乐部实在太隐秘了,连我们自己都不知情。”
但不管怎么说,经斯诺登一爆料,上述科技公司的用户和公众现在对于美国国家安全局的“直接访问”肯定是“知情”了。为了平息用户对监控的愤怒和恐惧,这些平时一直尔虞我诈明争暗斗的科技公司,居然在此事上联起手来,决定对自己的用户数据进行加密,同时起诉美国政府。
后来奥巴马在白宫“约谈”了这些公司巨头,听取他们的意见。有人说斯诺登是英雄,建议奥巴马赦免他,被奥巴马断然拒绝。对于用户数据的隐私问题,奥巴马也有一番奇妙的说辞:你们各大公司掌握的用户数据,比美国政府掌握的要多得多,“我怀疑,未来枪口将会调转”。奥巴马的预言,不知如今是不是正在实现。
■应该说,这本书还是很有意思的。你上面举的这个例子也很有意思。类似情景在我们以前对谈丹·布朗的小说时也曾出现过,但这次不是文学虚构,而是现实中的实例,这就更值得讨论和关注了。
无论是政府还是各大科技公司,通过对用户数据的掌握和在此基础上对用户隐私的侵犯,虽然有着权力结构的问题,但归根结底,还是现代网络通信技术本身的出现才使这种侵犯成为可能。以往,许多人为科学技术的发展辩护时总是说,科学是中性的,技术是中性的,它们都是无辜的,如果出现问题,也只是他们的使用者有问题。但这样的辩护其实很难成立。
其一,从根本上讲,科学和技术就不可能回避其要被使用的问题。抽象地、孤立地谈科学技术,把科学和技术与它们在其中发展的人类社会环境和被利用的可能相分离,这种论证本身就不成立。其二,也正像著名的墨菲定律所说的,如果说可能存有出现问题的可能性,那问题就一定会出现。换到这里的例子,也就是说,如果这种技术可能被滥用,就一定会被滥用!你所举的书中的这个例子,不正是典型的情况吗?
□在上面的例子中,微软等公司被描绘成仿佛是受害者,是美国政府的安全部门在利用它们,从而也就是伤害了它们。它们也起来抗争了,至少摆出了抗争的姿态。按照本书作者的说法,奥巴马政府后来有所让步,“我们成功地前进了一步”。
不过,到了本章的后面几节,内容就变得更为“政治正确”了。因为当政府以“反恐”的名义要求科技公司提供有关用户的数据时,法律障碍和心理障碍就都烟消云散了。公司认为,因反恐的要求而向美国国家安全部门提供用户的任何数据就完全没有问题了,它们甚至主动请缨替政府干事。
但问题的复杂性在于,不同国家、不同民族对于“恐怖主义”会有不同的理解,对于“隐私”更会有不同的理解。微软作为巨大的跨国公司,当然不会只面对美国政府,它需要在世界各地面对各种不同的政府。这些政府对于数据安全的理解会有很大的不同,各国的法律也会有种种不同。
本书作者对于“隐私”,当然持有典型的西方式理解。在这种理解中,“隐私”被毫无疑问地视为“人权”的一部分。本书作者写道:“微软在决定于一个新的国家设立数据中心之前,都会要求一份详细的人权状况评估报告……因为人权风险太高。”到这里本书书名所提的问题就来了:这些跨国科技公司所掌握的巨大数据,既可以用为工具(比如防控疫情),也可以用为武器(比如煽动暴乱)。甚至同一种运用,在此国只是工具,在彼国就成武器。所以问题非常复杂,本书作者也不可能给出万灵药方。
■你继续分析的这个例子,以及结论,原则上几乎可以适用于所有的科技进展,对涉及隐私的数据掌握和利用只是其中之一,差别或许只在应用这些技术所可能带来的“正面”或“负面”影响体现在不同方面而已。更何况,对于何为“正面”何为“负面”的评判,又在相当程度上依赖于评判者本身的价值观。所以,本书书名似乎表述了这样一个判断:新的科技成果,既可以作为工具,也可以作为武器。
在这种表述中,作为“武器”的对立面,又似乎赋予了“工具”以正面的价值。其实在最一般的意义上,武器也是用于杀戮和战争的工具。问题在于,真的有纯粹中性或只有正面价值意义的工具吗?
在此书关于人工智能与劳动力的那一章中,涉及的问题和讨论也是在这样的矛盾中展开的。在此,作者先是以由于汽车的发展,使得原用于消防的马匹被取代的例子,来说明技术进步的意义,但在继续谈及人工智能的发展会带来就业结构的变化,导致一些工作岗位上的人会被人工智能取代时,一方面确实承认这会带来劳动力的失业风险,但另一方面,却并不因而否定人工智能,只是被动地探讨可以如何应对这种冲击,将应对归结为“需要政府和公共部门的创新”,认为“从长远上讲,车到山前必有路,事情总有办法解决”。实际上,其立场仍然是为了“进步”而不对科技的发展进行质疑作。
□你注意到的问题,在书中关于黑客网络攻击的一些章节中特别突显了出来。武器就是用来害人的工具,但你可以用来害别人,别人也可以用来害你。反恐和实施恐怖主义行动之间,有时只有一步之遥。比如关于2017年那次著名的对各国电脑的黑客攻击,书中写道:“《纽约时报》很快报道说,WannaCry恶意代码中最先进的一段由美国国家安全局开发,可利用微软Windows操作系统中的漏洞入侵电脑。”
从更广阔的背景来看,互联网可以说就是瓶中的魔鬼,美国人率先将它释放出来,现在美国虽然大体上仍然维持着互联网霸权,但自身也已经无法保证不被攻击。目前对这类攻击也只能用加强监控、给系统打补丁等办法应付。
本书作者也没忘记在这个问题上乘机对微软自我美化一番,比如为了应对WannaCry病毒,微软决定向Windows XP的所有用户——包括盗版用户——免费提供补丁。如果这是真的,那这件事情对微软自身来说也还是有利的,至少有助于维护Windows操作系统的声誉和用户对微软的信心。
作者作为微软的总裁,作为现役业者,脑袋或多或少总要被屁股所影响,我们当然很难指望他们对互联网、大数据、人工智能等做出彻底的反思。像本书作者这样,能够在“接受现实”的基础上,对一系列具体问题有所思考,并且分享给读者,也算不错了。
■俗话说,道高一尺,魔高一丈。虽然微软为一些用户的系统安全提供免费补丁,但这毕竟只是被动的补救措施,而且这种拉锯战恐怕要一直进行下去。而在拉锯战中,用户依然会有损失。如果只纠结在这种补救性的措施——其实面对许许多多科技应用的负面效果,人们都是在以这种补救的方式来对应,那根本性的问题并没有得到解决。关键的前提还是:为什么要把“瓶中的魔鬼”放出来呢?
同样,许许多多关于科技应用负面效应的思考和讨论,似乎也都是在那种如何补救的层面上来进行的。在这样做时,反而回避了最根本性的“放出魔鬼”这个前提。而且,往往是在默认了科学技术的发展是天经地义的,是为了人类的进步,从而使得人们不去反思为什么以及如何发展等根本问题。
我们的对谈,可以就这个最根本性的问题进行一些讨论。这就是,到底“发展”意味着什么?我们应该如何“发展”?科学技术在“发展”中究竟可以扮演什么样的角色?或者,更明确地讲,还是为什么要发展以及为什么要更快地发展科学技术的问题。其实答案也可以很简单:发展科学技术本应是为了人类能够更幸福地生活!但在前面我们谈到的例子中,以及更多的其他事例中,科学技术的发展及其后果,真的完全符合这一目标吗?
□哈哈,我前些年早就说过了,现代科学技术的发展,经常是在客观上让人类“百岁人生十年过”,就是将人类文明从出生成长到衰老死亡的过程压缩得更短,让人类文明的“人生”更快地过完。但明知道理如此,人类目前却也无可奈何。
本书作者在第14章呼吁中美两国加深相互理解,特别是美国的政治家应该更好地了解中国,但面对严酷的现实,他也无法得出任何乐观的展望。说到底,人类世界只有早日实现大同,才有可能避免被资本、技术、地缘政治所绑架,才有可能更好地规划人类的“人生”。在那种状态下,田松教授曾经呼唤的“让我们停下来唱一支歌”才有可能实现。
■你最后所说的“压缩”,应该是一种隐喻了。这样的隐喻也很形象,能够描述一些人在众多科技新成果应用于现实生活的现实下的某种心理感受。当然,也会另有一些人,反而对这种高新科技成果的应用感觉非常刺激,觉得是一种享受,甚至对于人工智能也许会统治人类的可能性,也无动于衷,认为是发展的必然趋势。至于持何种看法,取决于人们对于何为幸福生活之理解的价值判断的不同。我们的对谈,只能提醒人们注意到前一种更有传统基础的幸福价值观的存在和意义而已。
但就是那些持后一种立场的人,应该也无法否认此书中讨论的问题确实存在,那么从有限的目标来看,此书的积极意义还是很明显的。虽然如你所说,只有当实现了“人类大同”的理想,这些问题才有可能得到真正的解决。
《工具,还是武器?——直面人类科技最紧迫的争议性问题》,(美)布拉德·史密斯著,杨静娴等译,中信出版集团,2020年 2月第 1版,定价:68元。