购买
下载掌阅APP,畅读海量书库
立即打开
畅读海量书库
扫码下载掌阅APP

悬而未决的伦理困境

微软研究院的一位计算机科学家乔纳森·格鲁丁(Jonathan Grudin)指出,作为独立学科的“人工智能”和“人机交互”之间鲜有交流。他指出,麦卡锡的务实做法确实已经被过去50年间这一领域取得的成功所证实。人工智能研究人员想指出的是,飞机不用拍动翅膀,一样能够飞行;有人就提出,只需复制人类意识或行为,没有必要理解这些。但是,AI和IA之间的鸿沟只会继续加深,因为人工智能系统在人类任务中变得日益灵巧,从视觉到语音,再到移动物体、玩象棋、猜谜或是玩雅达利视频游戏皆是如此。

人工智能里程碑

约翰·麦卡锡早期这样解释AI研究方向:“(我们的目标)是远离对人类行为的研究,将计算机作为解决某种难题的工具。这样一来,人工智能就会成为计算机而非心理学的分支学科。”

特里·威诺格拉德(Terry Winograd)是最早清晰地看出这两个极端并考虑其影响的人之一。他的工作是追踪AI与IA之间的关系。20世纪60年代,他就读于麻省理工学院,他的博士研究主要关注对人类语言的理解,以期打造出一个相当于机器人Shakey的软件——Shakey是一个软件机器人,能够与人类对话和互动。随后,在20世纪80年代,从某种程度上说,因为改变了要对人工智能有所限制的观点,他离开了这一领域——从AI转向了IA。威诺格拉德之所以离开人工智能领域,与他和加州大学的哲学家们的富有挑战性的对话有一定关系。作为少数人工智能研究人员中的一员,他参加了一系列有加州大学伯克利分校的哲学家休伯特·德雷福斯(Hubert Dreyfus)和约翰·塞尔(John Searle)出席的学术研讨会。这些哲学家说服了他,让他相信智能机器是存在真正瓶颈的。威诺格拉德的转变恰巧赶上了人工智能产业初期的衰落,也就是所谓的“人工智能的冬天”。数十年后,威诺格拉德,这位曾经在斯坦福大学担任谷歌联合创始人拉里·佩奇导师的知名学者,建议佩奇关注网络搜索难题而非无人驾驶汽车。

几十年间,威诺格拉德开始深刻地意识到设计师观点的重要性。对人工智能和人机交互领域的分割,在一定程度上属于方法问题,但是,将人类设计“进入”还是“剔出”这些系统同样也属于伦理问题。最近在斯坦福大学,威诺格拉德协助创立了一个关注“解放技术”(Liberation Technologies)的学术项目。这一项目致力于研究和构建基于“以人为本”价值的计算机化系统。

纵观人类历史,技术虽然已经取代了人类劳动力,火车头和拖拉机仍然不会作出人类级别的决策,但在以后,随着技术的进步,“会思考的机器”可以。它还可以了解到技术与人性共同进化的过程,这一过程同样又会提出同样的问题:谁将处于主导地位?在硅谷,庆祝机器的崛起已成为时尚,可以从奇点研究中心(Singularity Institute)这类公司的崛起和凯文·凯利2010年的《科技想要什么》 (What Technology Wants) 这类书籍中清晰地看出这一点。早在1994年的《失控》 (Out of Control) 中,凯利就已坚定地站在了机器一边。他在书中描述了人工智能先驱马文·明斯基和道格拉斯·恩格尔巴特两人间的一次会谈。

20世纪50年代,当这两个家伙在麻省理工学院见面后,人们认为他们之间进行了如下对话。

明斯基: 我们要让机器变得智能,我们要让它们拥有意识。

恩格尔巴特: 你要为机器做这些事?那你又打算为人类做些什么呢?

通常,那些致力于让计算机变得更友好、更人性化、更以人为本的工程师们会讲这个故事,但是,我直接站在了明斯基一边——站在了机器一边。人们会存活下来,我们会训练我们的机器来服务我们。但是,我们又将为机器做些什么呢?

凯利指出,明斯基和恩格尔巴特分别持有不同的立场,这一点毋庸置疑。但是,认为“人类会存活下来”的观点显然轻视了它们的影响。他基本上是在复述明斯基对人工智能到来的意义的回答:“如果我们够幸运,或许它们会把我们当宠物养。”

明斯基的观点反映了AI和IA之间的鸿沟。到目前为止,人工智能圈子在绝大多数时候都选择忽视他们认为只是强大工具的系统带来的影响,规避了对道德问题的讨论。当我询问自动化对人类影响的话题时,一位正在打造新一代机器人的工程师告诉我:“你不能这样想。你只需决定你将尽己所能,为全人类改善世界。”

在已经过去的50年中,麦卡锡和恩格尔巴特的理论仍然各自为政,他们最为核心的冲突仍然悬而未决。一种方法要用日益强大的计算机硬件和软件组合取代人类;另一种方法则要使用相同的工具,在脑力、经济、社会等方面拓展人类的能力。尽管鲜有人注意这些方法之间的鸿沟,这场新技术浪潮的爆炸(一个正在影响现代生活方方面面的技术浪潮)将极力压缩这种分化,并防止反弹的发生。

人工智能关键思考

机器是会取代人类工人还是增强他们的能力?在某种层面上,这两种结果都会实现,但需要再次注意的是,这个问题本身就存在问题,它只会让我们得到偏颇的答案。软件和硬件机器人都已足够灵活,它们最终都会变成我们在程序中为它们设计的模样。在我们当前的经济体系中,机器人(包括机器和智能系统)被如何设计、怎样使用,都完全是由成本和收益确定的,而且成本正在以不断加快的速度下降。在我们的社会中,经济学理论指出,如果一项工作能够由机器(硬件或软件)完成,并且成本更低,那么在大多数情况下,人们会选择让机器来完成这项工作。只不过是时间早晚的问题。

该在这场争论中站怎样的立场实在很难抉择,因为没有显而易见的正确答案。尽管无人驾驶汽车将取代数以百万计的岗位,但它们也将拯救更多的生命。今天,在大多数情况下,人们会以收益和效率为根据决定实现哪些技术,但也明显需要新的道德演绎。然而,决定成败的不只有细节。就像核武器和核动力一样,人工智能、基因工程和机器人学将在未来10年内产生人们意料之中和意料之外的广泛的社会影响。 L5yE4fYI9y92HqNO0B5DntGq79kVrSq5IjoyGC06ywVx88n5aEc+/7fMu1AC0yjx

点击中间区域
呼出菜单
上一章
目录
下一章
×

打开