第三章
为技术赋予价值观

《第四次工业革命——转型的力量》一书认为，对于复杂、不确定和快速变化的技术环境，采取基于价值观的方法是“未来之路”的根本。 本章即是从这一观点扩展而来，并提出原则和价值观，指引我们向前发展，确保社会在塑造未来技术中的作用。

毫无疑问，技术推动了全球生活水准和福祉的普遍进步，但也产生了负面影响，并持续造成不良后果。后者的例子包括：许多数字平台使财富日益集中到少数人手中，工人生活更不稳定，劳动力容易被滥用；天然气开采的新技术持续破坏环境，在让股东受益的同时，将成本转嫁给边缘化的利益相关者；1990年以来，资本设备的投资可能使美国制造业职位数量减少了83%，并因此瓦解了整个制造业共同体。

过去30年里，这些外部性缓慢积累，但随着第四次工业革命的展开，变革的速度越来越快，我们需要处理空前多样、复杂而具有颠覆性的技术影响。技术影响的后果目前只能推测，但许多人对潜在的负面效应深表担忧。如第二章文末所列，世界经济论坛《2017年全球风险报告》揭示，专家认为人工智能、生物技术、地球工程和物联网带来的风险尤为令人担忧。 《2018年全球风险报告》（ The Global Risks Report 2018 ）则认为，由于数据、基础设施、个人信息和身份等数字化产物的弱点越来越明显，相应的网络安全威胁已成为2017年以来最值得关注的风险。那么，如何判断第四次工业革命技术能否改善世界状况和我们的生活呢？经济和其他效益是否值得人类付出潜在成本？我们是否拥有缓解风险的有效手段？我们对这些技术的真正需求是什么？

归根结底，虽然许多具体技术可能会带来便利，创造乐趣，提高能力，提高生产率或兼而有之，但总体而言，我们对技术的需求往往与对健康经济体的需求一样，都是增进人类的福祉。我们在第一章中提出，技术应当“赋能，而非支配”，未来应当“由人类设计，造福于人类”，技术应当“使价值观成为特点，而非漏洞”。简而言之，在第四次工业革命中实现福祉，目标显然应该注重以人为本。如果第四次工业革命的技术最终加剧社会不平等、贫困、歧视、缺乏保障、流离失所或环境破坏等问题，并导致人类被边缘化、被侵占或降低价值，那无疑是大错特错。

然而，我们越发感到全世界正不顾一切地追求技术进步和经济发展，对真正重要的东西却视而不见。埃里克·布莱恩约弗森（Erik Brynjolfsson）和安德鲁·麦卡菲（Andrew McAfee）等知名经济学家普及了“大脱节”（great decoupling）的概念，即技术发展导致劳动者与生产率脱节。 到2020年，技术推动下发展起来的“零工”经济预计将影响全球40%的工作。 经合组织成员中，劳动者在国民收入中占比降幅的80%被归咎为技术带来的影响。技术加剧了不平等，越来越多的公众认为政策取向重视经济增长，轻视社会团结和人类福祉。 我们没有自问想从技术变革中获得什么，而是经常被迫去应对负面后果。

我们不要老是做“事后诸葛”，而要主动作为，采取价值型的技术发展方针，帮助我们重新取得平衡。首先，我们要明确技术的政治性，这有助于强调勇于担当、应势而为的治理方式。其次，我们要在技术治理中重视社会价值观，这有助于引导确立技术的使用方式及其受益人群。最后，我们要明确将价值观纳入技术系统的切入点和方式，这有助于增强意识并确定将价值观融入技术开发的最佳策略。

技术的政治性

技术与价值观的关系并不容易确定。价值观抽象、无形，因社会和个人而异。技术的范围也十分广泛，从语言到载人火箭，包罗万象。因此，我们必须找到处理这一关系的简单方法。然而，目前存在两种常见但具有误导性的观点，笔者在此剖析如下。

误导性观点1：技术决定未来

第一种观点认为，技术以不同的方式激励、支持和约束我们，从而对社会产生影响，技术进步是几乎决定性的外在力量，不能改变也无法阻止。在持这种观点的人看来，无论有益还是有害，技术都在推进历史进程和人类的价值观，试图阻挡不过是徒劳之举。

误导性观点2：技术没有价值倾向

第二种观点否认技术本身对社会的任何实质影响，将其描述为中性工具。这种观点认为，影响社会的是人们选择使用技术的方式。这一论点有失偏颇，只关注技术使用者（而不是开发者或传播者）的道德角色，忽略了技术的发展潜力及其对人的影响。

这两种观点都不足以指导第四次工业革命。事实上，尽管这两种观点都有一定的道理，但也都极度危险，因为正如第二章所述，技术发展正呈现出下列特性：传播更快，赋予使用者更强的能力，既包围我们又融入我们。

第一种观点认为技术超出社会控制，第二种观点则割裂了社会责任与技术施加的影响。这两种观点都忽略了一个要点，即技术与社会是相互塑造的。核技术就是一个典型，完全依赖这两种观点中的任意一种，都可能引发核技术的危险性。核技术显然不是“纯粹的工具”，它既拥有发展核能的潜力，又有产生核破坏的威胁，其存在本身就会对社会和社会之间产生巨大压力。例如，近期的地缘政治矛盾增强了人们对核危险的认识，而2017年的诺贝尔和平奖也颁发给了“国际废除核武器运动”（ICAN）。与此同时，核技术未必能支配人类的命运，因为各国社会有能力决定技术开发的种类、方式、主体和用途。事实上，越来越多的国家决定不再发展核能，德国政府就在2011年宣称，将在2022年之前关闭境内的最后一个核能反应堆。

为了推进第四次工业革命，我们必须对技术采取更加严肃、务实的态度，并仔细探讨技术的用途、风险和不确定性。我们还需要树立第三种技术观，即“所有的技术都具有政治性”。这里的“政治”是一种描述性语言，不是说技术代表了政府，采取明确的党派立场，或者具有“左翼”或“右翼”的特点。我们的意思是，技术是通过社会机制开发出来的解决方案、产品和举措，它包含一整套假设、价值观和原则，服务于人民和社会制度，反过来又能够（并确实）影响社会权力、结构和地位。

毕竟，技术与我们的认知方式、决策方式、看待自我和他人的方式密切相关。它关系到我们的身份和世界观，也影响着我们的未来格局。从核技术到太空竞赛、智能手机、社交媒体、汽车、药品和基础设施，技术的内涵决定了其政治性。即便是“发达”国家这一概念，也隐含着这样一层意思，即国家依赖技术的应用及其经济意义和社会意义。

许多科学家和技术专家已经认识到技术的政治性。例如，电气电子工程师学会（IEEE）在“全球人工智能和自主性系统伦理问题提案”中将人工智能定性为“社会–技术系统”。 事实上，为了深度思考人工智能的价值观，学界、政界和行业专家已经协调发起了许多公共倡议。同样，纳菲尔德生命伦理学理事会将生物技术界定为“知识、实践、产品与应用的结合”。 这一定义指出，技术与人一样，绝不只是物理成分的简单加总。

尽管生物技术具有高度多样性，但由于某些条件的限制，特定的社会和历史环境中只能产生特定的结合，这导致了一些常见的问题。这类条件包括自然约束和自主选择（即便这些选择并非总是得到认可或显而易见）。这类选择取决于对技术及其应用的复杂判断，包括价值观、信念和期望。做出选择的方式，包括如何产生、评估、整合或排除不同的价值观、信念和期望，与各种考量因素的性质一样，具有重要的伦理意义和政治意义。

任何技术在开发之时，都包含了一定的价值观、目标和妥协。技术越强大，我们就越需要理解这些因素。

一般情况下，经济因素决定了哪些技术值得开发，也决定了如何设计和实施这些技术。我们可以通过它们的社会影响力观察这些激励因素。例如，关于过滤数字内容（以及大规模推广的成本）以打击“假新闻”是否合乎道德的讨论，就直接关系到技术公司的经济需求、平台设计与用于跟踪、分类和推送内容的方法。与报纸、电视和收音机影响受众的方式一样，在数字化社交媒体环境中，经济压力和产品管理影响着数十亿人获得信息的内容与方式。互联网的开放性令社交媒体技术快速扩展，同时也使对“反社会”内容的监控极具难度。

如果能够理解技术包含明确的社会态度、利益和目标，我们就能增强启动变革的能力。事实上，这要求我们承担责任，因为我们不能将不良后果归咎于技术本身，也不能忽视技术对我们所做决策的影响。接受这一点意味着我们要承担三项责任：

1.识别对特定技术最重要的价值观。

2.理解技术影响我们选择和决策的方式。

3.确定如何与利益相关者一起充分影响技术发展。

在政治层面商讨社会、技术与经济三者的关系时，对社会价值观的重视程度取决于我们。

优先考虑社会价值观

既然技术融入社会生活，我们就有责任塑造其发展，有义务优先考虑社会价值观。尽管技术往往传达已经融入其设计和用途的价值观，但对于具体应当考虑哪些价值观，并非总能存在一致意见。如电气电子工程师学会的约翰·黑文斯（John Havens）所说：“如果我们自己都不知道应该重视哪些价值观，机器又如何知道？……如果不在开发技术前确定共同的价值观，我们就不可能增进人类的福祉。”

每个人、每个社会的价值取向均有不同，针对技术发展的社会和文化视角也一定会有分歧。不同文化和价值观的关注点也不同，但这不应妨碍我们对技术开发采取价值型思维。相反，我们思考得越透彻，就能越好地理解哪些方面对社会最为重要，以及技术如何影响并调和这些价值观。事实上，在大多数文化中，我们都能发现一些普遍性的价值观。世界经济论坛全球议程理事会“价值观”议题组（2012—2014年）编制的《新型社会契约》白皮书认为，“在不同的文化、地区和信仰中，人们广泛认同某些共同的人类愿望”，这些愿望构成“有力、统一的理想”，即“重视个人、相互承诺和尊重后代”。

约定积极、统一的价值观只是第一步，我们还需要将价值观付诸实践。一种方法是采取应势而为、勇于担当的治理。总体而言，现有制度难以跟上技术变革的速度和广度，许多法律系统无法有效防控新的风险。事实上，全世界才刚刚意识到这样一种可能性，即前所未有的广泛情境将威胁从环境到人权等所有方面。此外，我们也很难预见新兴技术会产生哪些外部性，以及它们是否因技术的设计、使用、管理或治理方式而产生。不同技术学科的聚合能够并且确实产生了意料之外的风险。因此，我们必须实施足够灵活和灵敏的治理策略，以正确应对上述风险，而不是妨碍制度发挥作用。

目前，已经出现了若干基于价值观的治理行动，例如将于2018年年中生效的欧盟《通用数据保护条例》（GDPR）。该条例将改变关于用户许可的规定，要求提供明确、可理解的条款与条件。控制数据的公司必须向用户告知安全漏洞，说明用户资料的使用方式，遵守“被遗忘权”（right to be forgotten）流程，实现数据可携性（data portability），必要时任命数据保护官，并依法遵守流程，在技术与服务的设计阶段确定数据保护规则。

《通用数据保护条例》强调在技术设计阶段明确隐私保护规则，这代表了践行价值观的第二种方法：将价值观纳入技术开发过程，确保技术开发反映社会整体的价值观，而不只是开发者的价值观。与其事先在技术和道德问题上自由散漫，事后再努力纠正出现的问题，我们不如积极通盘考虑技术开发各个阶段可能产生的道德、价值观和社会问题，因为这能大大影响技术整合和支持社会共同利益的方式。区块链、物联网、自治系统、神经技术和算法，都是由具有特定利益的专业化社区开发的技术，所在领域未必都建立了明确的价值观。

然而，将具体价值观融入技术开发过程并不简单。这绝不是添加一项“道德”功能那么轻松，而是一个复杂的过程，需要采取新方法，培养组织文化，甚至质疑推动发展的经济学市场思维。另一个挑战则是许多技术，特别是数字技术的应用方式多种多样，其风险和潜在影响难以评估。即便在风险可以预见的情形下，也不是所有技术都“可控”。例如，现在无法确定如何开发区块链技术才能预防其被用于犯罪或减少潜在的碳足迹。无论如何，企业和机构都不应当只考虑如何设计和执行，而应从流程伊始就注意承担社会责任。在工程和产品开发层面，它们应当更宏观地考察技术对社会的潜在影响，而不只是着眼于对开发或使用技术的系统性激励因素和工艺要求。

为技术赋予价值观

要使社会价值观成为优先项，我们不能采取自上而下的方式，而需要将价值观设为议题，为个人和组织实施新行动创造机会，还需要领导者的激励和动员。如下一编关于转折点的讨论所述，这一做法可以在许多方面首先推行，但无论从哪儿开始，我们都可以采取下述方式，促进行为改变，宣传技术的广泛影响，并将社会价值观定为优先任务。

第一，我们必须认识技术的重要性和普遍影响。技术涉及人类生活的方方面面，它协调我们的相互交流，促进经济发展，影响我们的身体和环境，处理机构和个人所需要的信息。人们已经充分认识到，发展先进材料和制药等技术需要可靠的环境，而搜索引擎、自治系统、区块链等其他技术也都需要同等程度的重视。如果用对人类生活的共同影响而不只是死亡率来衡量，许多看似平淡无奇的技术都会呈现新的意义。

第二，反思和理解个人和/或组织的意图，我们能够对采用技术提供明确观点。科技事业需要拓展边界的自由空间，但我们也应努力结合背景来看待新技术，在反思其意图和意义时也考虑社会整体的福祉。例如，在1945年人类首次使用原子弹后，物理学家J.罗伯特·奥本海默（J. Robert Oppenheimer）发表了一次著名的演讲。他说，科学家的使命就是学习和分享知识，发挥知识对人类的固有价值。 因此，他赞同成立联合原子能委员会，旨在自由交换信息并停止制造原子弹，同时支持人们放眼长远、探索未知、共担责任。

第三，站在价值观及其与技术关系的立场上，我们就要将信念化为行动。一个极为有用的做法是：树立信条，遵守组织的价值观。制定道德守则或组织愿景，对技术采取目标明确的价值型方法，均有助于确立企业或组织乃至整个行业或部门的文化。医学界的《希波克拉底誓言》就是典型例子。这一誓言关注技术研究、分析和应用中的重要风险，这或许也能解释：和医疗行业一样受此誓言约束的生物技术行业，为何具有相对较高的自我反省和克制能力？

第四，我们必须利用这些转折点，使价值观成为塑造技术发展的有效工具。寄希望于良好的意图和承诺固然重要，但公民和领袖可以采取更多措施，在技术开发过程的关键环节把握机会并提高价值观意识。例如，在道德教育中，教育者成功普及了极具挑战的“电车难题”，证明理性决策的困难性。 作为一种学习工具，这一道德难题说明，人类的决策难题往往涉及无形或无法估价的生命要素。当机器面对这种决定时，这些不曾被衡量（或许也是无法衡量）的标准必须简化为代码。利用转折点，领导者就能够强调价值观在塑造技术发展中的作用。

认识技术的复杂影响并不难，在媒体中这类议论可谓司空见惯。更加困难的是找到合适的切入点，提高价值观意识，逐渐形成技术开发不同阶段所需的情境化资讯。那么，应当在哪些阶段考虑效率和美学等具体价值观，并使之符合尊严和公益等更广泛的社会价值观呢？

我们认为，可以从下述9个转折点切入。无论是技术设计者、企业家、政策制定者还是具有重要影响力的社会人士，各类领导者都可以利用这些转折点批判性地反思价值观，鼓励探讨技术实施的宏观背景，并采取相应的行动，从而发挥价值观的作用。

教育课程

我们应当关注的不只是技术，还需要负责任地培养人。一些学术认证机构近年来开始将道德定为工程师的必修课，这一做法值得赞扬。 这些课程一般是关于合规和职业操守，强调走捷径或规避要求会造成严重后果。为应对欺诈行为的公共影响，在企业社会责任和环保宣传议题之外，MBA（工商管理硕士）课程也开始纳入道德课程。通过更加开放地探讨价值观如何融入技术、社会和经济系统，上述两类课程都能受益。对教育者而言，培养学生的价值观意识，有助于工程师和管理者采取更宏观的视角解决问题、反思并结合背景考察目标，从而影响其他相关方。

筹资和投资

企业家和投资者是采用价值型技术开发的先锋。企业家寻求解决特定需求人群的问题，必然会影响更大范围的行动方。因此，在这一阶段考虑广泛的社会影响，将会产生显著的瀑布效应。投资者通过手中的资金，可引导技术的开发方向。独立投资者可发挥更大的作用，重点关注社会影响，建立价值型投资的理论基础。如果能找到适当的方式，他们就能积极影响并激励企业家采取价值型技术开发，从而产生极为可观的影响。

组织文化

对于工作场所和技术开发方式，企业家和组织领导者的价值观具有巨大影响。领导者率先垂范，能够改变公司文化，以社会价值观为上。在设定价值观方面，初创企业效率更高，因为早期雇员往往因为志趣相投或共同目标走到一起。佛罗里达冰与农场公司（FIFCO）就是有效领导力的一个案例。该公司是哥斯达黎加的酒精饮料制造商，在首席执行官的价值观指导下，公司支持适度饮酒，确保没有任何员工生活贫困。 在这一转折点，首席执行官和组织领导者的潜在影响最为显著。他们能够制定政策和设置范例，帮助建立目标明确、有社会责任感的组织。

决策和设定优先任务

在任何制度性流程（如编制预算、决定研究日程或选择市场）之初，都要或隐或显地确立优先任务，随之产生明确的连带效应。例如，工程和商业项目的决策流程往往包括有关效率、可扩展性、利润等要素的假设和激励措施。追问这些假设和激励，有助于识别其中隐含的价值观，了解组织或个人在开发或实施过程的选择如何影响下游各方。无论产品是手机应用程序还是秘密军事技术，剖析决策流程都有助于探明其内在的价值观结构。领导者可利用这一机会，重新评估产品价值观是否符合社会整体的优先愿望。

工作方法

从20世纪70年代开始，社会学家就指出，科学家、工程师和其他科研工作者所用的方法与流程反映了其工作场所的价值观，这种结构性价值观又反过来影响他们的实际成果和科研发现。 探讨流程、程序和规范也有助于在技术开发中增强价值观意识。此外，机构领导者应当考虑如何在工作场所应用科学方法，或技术工具和产品的限制如何在无形中影响价值观并将其融入工作方法。机构领导者和从业者可全盘检查工作环境的动态，识别工作成果中包含哪些类型的价值观和偏见。

经济激励机制

任何经济制度都会创造影响社会价值观和目标的激励机制。识别经济压力（如股东责任或竞争性生存能力）促使我们思考使用了哪些技术及其是否更加符合激励机制或价值观。考虑经济压力也有助于凸显激励机制对整个技术类别的负面作用。例如，目前的经济激励机制常常妨碍开发具有社会效益的技术，如机器人修复术。这类技术没有快速的投资回报，也缺乏广阔的市场。通过识别这些领域，我们能够关注对技术的真正需求，并塑造自身行为，实现理想成果。

产品设计

从形式到功能，产品设计的几乎所有方面都与价值观息息相关。设计团队需要考虑许多因素，包括产品责任、文化偏见和产品希望激发的情感。公开鼓励产品设计师考虑价值观的一个例子，就是英国工程与物理科学研究理事会制定的机器人开发5项原则。其中3项明确指出，机器人作为设计的产物，必须考虑人类的需求。 企业高管、发明家、设计师和社会公众，都有责任在产品开发周期中发挥作用。强调技术及成果要符合社会价值观，也是发挥领导力的良机。

技术架构

互联网、军事和交通运输基础设施等大型而复杂的技术架构能够支持其他技术的部署，它们本身的构建或应用方式和地点就包含了价值观。例如，与基础设施相关的技术决策决定了数据流的治理规则，影响着互联网访问权，产生关于公民权的问题，并导致形成数字鸿沟等现象。 要将价值观纳入决策过程并持续关注社会优先任务，政策制定者和行业领袖可采取另一种方式，即在大型系统的设计和建设阶段考虑技术架构如何影响社会。

社会阻力

价值观通过各方协商融入技术。新兴技术源自小群体，这些群体具有特定的利益诉求，会有意或无意地为技术赋予特定的价值观。如果技术的属性与社会优先任务相冲突，就会产生阻力，技术开发者则会设法应对。如果技术遭到公众或特定利益相关者的强烈反对，开发者应当审视遭到反对的方面，找出在开发过程中已融入技术的价值观与社会价值观的矛盾之处。

这些转折点多半没有得到充分利用，与投资者相关的道德和价值观问题以及投资者在塑造价值型技术开发方面的潜力鲜有重要讨论。虽然投资者可能早早参与技术开发，但最后一个转折点（即社会阻力）才是监管机构被迫处理价值观的最常用方式之一。社会阻力存在本身就表明，在技术开发过程中考虑广泛影响和价值观的其他机会已经丧失。在每个转折点主动考虑价值观而不是事后弥补，将为首席执行官、政策制定者、机构领导者和其他相关方提供灵活性，让他们在经济角色之外影响技术开发，并有机会代表自己和公民发声。

秉持价值观，努力向前进

新兴技术不仅改变我们创造、交换和分配价值的方式，而且改变我们获得意义的方式。意义帮助我们设想可能的未来，以及什么样的未来值得追寻。未来，我们必须提高对技术政治性的认识，思考在每个转折点所做选择的影响。要推动第四次工业革命的发展，各行各业的领导者必须承担对技术的责任，考虑自身决定可能影响的群体。为了将包容性纳入技术创新生态系统，领导者需树立强大的价值观，并彰显对塑造美好未来的坚定承诺。

要创造新体系，为越来越多的人口提供优质机会，维护个人作为社会成员的固有价值，我们需要深入思考技术改变世界的方式。此外，致力于实现价值型技术开发，也有助于增进公众、政府和企业之间的互信。展望未来，为了发挥新技术的潜力，我们也必须保持推动技术发展的能力。为了实现文化复兴，我们必须申明社会价值观的重要性，实现社会、技术与经济的再平衡。我们必须携手合作，立即行动。为了建设普惠包容、繁荣发展的未来，我们首先应当考虑多方利益相关者的需求，仔细听取并重视他们的看法。这将是第四章的主题。

当前的新兴技术将在两三代人的时间内发展成熟。当我们的后代回顾往昔时，也许会感谢我们确保技术发展支持了公平、尊严和公共利益，也许会抱怨我们错失了机会，辜负了他们。