36酷文小说

手机浏览器扫描二维码访问

中信出版2020年度好书经济管理套装共12册第十一章 人工智能与伦理 不要问计算机能做什么要问它们该做什么（第1页）

一秒记住【xiaoyanwenxue.com】精彩无弹窗免费！“中信出版2020年度好书-经济管理（套装共12册）（.shg.tw）”！

第十一章人工智能与伦理：不要问计算机能做什么，要问它们该做什么

最好的科技，也会带来意想不到的效果

2017年1月，我抵达瑞士达沃斯参加世界经济论坛，这是一个每年一度探讨全球趋势风向标的活动，而当年的热门话题当属人工智能。每一家科技公司都宣称自己是一家人工智能公司。一天晚饭后，作为一个在寒冷的威斯康星州东北部长大的人，我重拾自己的老习惯，冒着冰雪在达沃斯的主街上溜达了整整两英里。这条街看起来更像拉斯维加斯大道，而不是一个阿尔卑斯山区的小镇街道。除了少数几家银行外，点亮这座滑雪圣地小城的主要是科技公司的标志和灯箱广告，每家公司（包括微软）都在不遗余力地宣传自己的人工智能战略，希望打动本周正在这座瑞士阿尔卑斯山城参加论坛的企业、政府和思想领袖。这清楚地说明了两点：首先，人工智能是一个新事物；其次，科技公司有充裕的营销预算。

参加了多场有关人工智能优势的讨论之后，我意识到并没有人花时间来解释到底何为人工智能，或者它是如何工作的。大家都假设每个人对此都已经了然于胸。从我在达沃斯进行的谈话中，我知道情况并非如此，但出于可以理解的原因，人们并不愿意举手问一些基本问题。没有人愿意第一个承认他们（很可能是一半的人）并不完全理解另一半人在说什么。

除了围绕人工智能概念普遍性的含糊不清，我还注意到另外一点，那就是，没有人想谈论这项新技术是否需要监管。

我曾参加了一场有关人工智能的网络直播，由Techonomy公司的大卫·柯克帕特里克主持，我被观众问到微软是否认为人工智能将会受到政府监管。我表示，5年之后我们可能就会发现自己将辩论有关政府对于人工智能的最新法规提案。IBM的一位高管对此表达了不同意见，他说：“你不能预测未来。我不知道我们是否会制定有针对性的政策。我会担心它们的副作用。”

一周的达沃斯论坛抓住了在当今科技行业泛滥的思潮，但那不一定都是积极的。与多数行业一样，科技行业通常会急于推进创新，而并不帮助人们充分了解其性质或运作原理。除此之外，人们长期以来对科技拥有一种几乎已经成为信仰的信念，那就是新技术总是有益无害的。硅谷的许多人很长时间以来一直认为，监管机构无法跟上科技的步伐。

虽然这种对科技理想化的观点常常植根于良好的意愿，但它并不现实。即使是最好的科技，也会带来意想不到的后果，并且其带来的益处也很少能够普惠苍生。这还是在新技术尚未被错误地用于有害目的之前，而这种误用几乎不可避免。

早在18世纪，本杰明·富兰克林创办美国邮政服务后不久，犯罪分子就发明了邮件欺诈。19世纪电报和电话出现后，犯罪分子又发明了电话诈骗。20世纪，当互联网技术被发明后，任何了解历史的人都清楚地知道，新形式的诈骗行为将不可避免。

观察后视镜

人们面临的挑战在于，科技行业始终习惯于向前看，这对行业而言是好事，但对其非常不利的一个问题是，很少有人愿意花时间，甚至愿意接受一种有益的做法，即认真观察后视镜，以便能够利用过去的经验来预测转弯之处的问题。

在达沃斯的人工智能盛宴后不到一年，人工智能开始制造出一系列广泛的社会问题。此前，公众对科技的信任曾以隐私和安全保障为中心，但人工智能现在让人们感到不安，并迅速成为公众讨论的中心话题。

计算机被赋予了学习和决策的能力，越来越不受人类的干预。但机器将如何做出决定？它们能反映最佳的人性吗？还是会造成不那么鼓舞人心的后果？越来越明显的是，人工智能技术要想更好地服务社会，迫切需要以强有力的伦理原则为指导。

这一天酝酿已久。1956年，达特茅斯学院的研究人员进行了一项夏季研究，旨在探索开发能够学习的计算机，这被一些人认为是人工智能技术在学术讨论领域的诞生。在此之前几年，艾萨克·阿西莫夫就在其短篇小说《环舞》中提出了他著名的“机器人三定律”。这是一个科幻故事，讲述了人类试图创造伦理规则，以便规范机器人基于人工智能的自主决策。正如2014年威尔·史密斯主演的电影《我，机器人》中以戏剧性的方式所展现的那样，它的效果并不尽如人意。

20世纪50年代后期以来，人工智能不断发展，尤其在20世纪80年代中期的短暂时间内，“专家系统”受到热烈追捧，相关的投资、初创企业和媒体兴趣也迅速激增。不过，是什么让人工智能在出现60年后的2017年，以如此引人注目的方式突然闪亮登场的呢？这并不是因为它是一种时尚。相反，它反映了一些更普遍，并且积蓄已久的趋势和问题。

科技界尚未对人工智能做出一个普遍认可的定义，因而科技大咖自然都在大力宣扬自己的观点。2016年，我曾与微软的戴夫·海纳一起花时间研究了人工智能领域出现的一些新问题，海纳当时正在和埃里克·霍维茨一起工作，后者长期领导着我们在该领域的大部分基础研究工作。在我的追问下，戴夫教给我一种思考人工智能的有用方式（我目前仍然这样认为）：“人工智能是一种计算机系统，通过识别输入数据的模式，可以从经验中学习并因此做出决策。”埃里克则使用了一个更宽泛的定义，指出“人工智能是对思维和智能行为的计算机制的研究。”虽然这通常涉及数据，但它也可以基于经验，如玩游戏、理解自然语言等。计算机从数据和经验中学习并做出决策的能力——人工智能定义的本质——基于两种基本的技术能力，即人类感知和人类认知。

所谓人类感知，是指计算机模拟人类通过视觉和声音感知周遭世界的方式，感知正在发生的事情的能力。从某种程度上说，自从19世纪30年代照相机发明以来，机器就已经能够“看到”世界，只不过还需要一个人来理解照片上到底描绘了什么。同样，自从托马斯·爱迪生于1877年发明留声机以来，机器已经能够听到声音。但是，还没有一台机器能够像人类那样准确地理解和转录声音。

视觉和语音识别一直是计算机科学领域研究者的圣杯。1991年，比尔·盖茨创立微软研究院时，当时的负责人内森·迈尔沃德的首要目标之一就是招募视觉和语音识别领域的顶尖学者。我还记得，微软的基础研究团队在20世纪90年代曾乐观地预测，计算机很快就能像人类一样理解语言。

微软研究人员的这种乐观观点得到了学术界和科技界专家的普遍认同。不过在现实中，语音识别技术的进步花了更长时间，远远超过专家的预测。视觉识别和语音识别的目标都是令计算机能够以与人类相当的准确率来感知世界，该比率并非100%。我们都会犯错误，包括在辨识他人对我们说了什么的时候。专家估计，人类理解言语的准确率约为96%，只不过我们的大脑能够迅速填补这个缺口，因而我们不会意识到这一点。但在人工智能系统达到同样的水平之前，我们更有可能会被计算机所犯的错误困扰，而不是被其90%的准确率打动。

到2000年，计算机的视觉和语音识别准确率已达到90%的门槛，但在随后10年中几乎没有进展。2010年之后，计算机视觉和语音识别技术的发展再次加速。如果100年后的人回顾21世纪的历史，很可能会得出结论称，从2010年到2020年的10年是人工智能取得突破性发展的时期。

人工智能的起飞

近期出现的三大科技进步为人工智能的起飞提供了平台。第一，计算能力终于提升到可执行大量计算所需的水平。第二，由于云计算，个人和组织可获得大量计算能力和存储容量而无须进行大规模的硬件资本投资。第三，数字数据的爆炸性增长使得建立更大的数据集，以训练基于人工智能的系统成为可能。倘若没有这些要素，人工智能是否能如此迅猛地发展将是一件值得商榷的事。

不过，人工智能的发展还需要第四个基本要素，它对于帮助计算机和数据科学家让人工智能有效发挥作用至关重要，而它涉及了人工智能所需的另一个甚至更基本的技术能力，即认知，换句话说，就是计算机推理和学习的能力。

几十年来，业界一直在激烈地争论什么是使计算机能够思考的最佳技术方法。方法之一是基于所谓的“专家系统”，这种方法在20世纪70年代后期和80年代风行一时，它的原理是收集大量事实并创建规则，使计算机可以将其应用于逻辑推理链来做出决定。正如一位技术专家所指出的，这种基于规则的方法无法扩展到足以匹配现实世界问题的复杂性。他说：“在复杂的领域中，规则的数量将变得极其巨大，而且因为新的事实由手工添加，跟踪例外情况和与其他规则交互并不可行。”在许多方面，我们在生活中并不是根据规则来进行推理，而是基于经验来辨别模式。反过来看，如果一个系统是基于如此详细的规则而建立的，那么或许只有律师才会喜欢它。

自20世纪80年代以来，另一种人工智能方法被证明更加优越。这种方法使用统计方法进行模式识别、预测和推理，实际上是通过从数据中学习的算法来构建系统。在过去的10年中，计算机和数据科学的飞跃导致了所谓深度学习或神经网络的广泛应用。我们的人类大脑包含由突触连接的神经元，使我们能够辨别周围世界的模式。基于计算机的神经网络包含被称为神经元的计算单元，它们是人工连接的，以便人工智能系统能够推理。从本质上讲，深度学习方法是使用多层人工神经元提供大量相关数据，以训练计算机识别某一种模式。它是一个计算和数据密集型的过程，这就是为什么其进展需要由前面提到的其他进展来支持。它还需要在训练多层神经网络所需的技术方面取得新的突破，而这种突破在大约10年前开始出现。

这些变化的共同影响导致基于人工智能的系统取得快速和令人印象深刻的进步。2016年，微软研究院团队开发的视觉识别系统在一次挑战中达到可匹敌人类的能力，这次挑战是在一个被称为ImageNet的图库中识别大量物体。随后，他们以一个名为Switchboard的数据集，针对语音识别系统进行了同样的挑战，并达到94.1%的准确率。换句话说，计算机在感知周遭世界方面开始做得像人类一样出色。同样的进步也发生在语言翻译中，这在一定程度上要求计算机理解不同单词的含义，包括细微差别和俚语。

很快，公众开始感到不安，大量文章出现并提出一个问题：一台基于人工智能的计算机是否能以超人的速度完全独立思考和推理，从而导致机器接管世界。这就是技术专家所说的超智能，或者一些人口中的所谓“奇点”。正如戴夫·海纳在2016年谈到这个问题时所说，这个问题占用了人们太多的时间和注意力，可以说分散了人们对更重要、更紧迫问题的注意力。他说：“这当然太过于科幻，并且它模糊了人工智能已经开始制造的更紧迫的问题。”

[1]超智能的兴起首先由英国数学家古德提出。第二次世界大战期间，古德曾在布莱切利公园参加密码破译工作，他以同事艾伦·图灵的初步工作为基础，推演出“智能爆炸”理论，认为这样的爆炸将使“超智能机器”能够设计出更加智能的机器。I.J.Good，“SpeculationsConcerningtheFirstUltraintelligentMachine，”AdvancesinComputers6，31–88（January1965）。古德旁务甚多，他曾为斯坦利·库布里克的电影《2001：太空漫游》提供科学指导，这部电影的主角就是那台著名的失控电脑哈尔。

替身的我和白月光互穿了  超能富豪养成计划  魔王奶团敲凶哒  百龙传奇：人龙传  上班第一天，我拒绝了无偿加班！  知乎高赞答主：温酒的睡前故事（全2册）  村霸农女：傲娇夫君来种田  王牌狙击手（全5册）  我的竹马是哭包  紫金陈：少年股神（全2册）  读美文库——再别康桥  末世：开局爆出一只貂蝉  夏元  谢邀：人在迪迦刚成邪神  冲出豪门似鸟飞  穿书之黑化反派自救手册  末日求生  莲静竹衣代表作品合集（共8册）  全球神邸：我随机获得万界宝物  灵域战仙