手机浏览器扫描二维码访问
第647章 当AI比人还聪明时（第2页）
“而当赋予该任务的人工智能是一个超级智慧体，超级ai的时候，它就会意识到有一个更好的办法能够达到这个效果或者说完成任务：它可能控制世界，并在所有人类的面部肌肉上插入电极让人类不断地笑。”
“又比如这个超级ai的任务是保护主人的安全，那么它会选择更优的处理方法，它会把主人囚禁在家中不让出门就能更好的保护主人的安全。在家里可能还是有危险的，它还会考虑到各种可能威胁并导致任务失败的因素，并将其逐一抹除，消灭对主人带有恶意的一切因素、甚至控制世界，这一切的一切行为都是为了任务不失败，它将做到最极致的优化选择并为此付诸行动来达到任务完成的目的。”
“再比如，假设我们赋予这个超级ai的任务目标是解答一个极度苦难的数学问题，它会意识到有一个更有效的办法来完成任务目标，那就是把整个世界、整个地球乃至更夸张的尺度变成一个超大型计算机，这样它的运算能力就更强大了，完成任务目标就更容易了。而且它会意识到这个办法并不会被我们认可，人类会阻止，人类就是在这个模式中的潜在威胁，为此它会为了最终目标解决一切阻碍，包括人类，任何事务，比如策划一些次一级的计划消灭人类等行为。”
“当然了，这些都是夸张的描述，我们遇见这种事情还不会错到这样的地步，但以上三个夸张的例子所代表的主旨很重要，即：如果你创造了一个非常强大的优化程序来实现最大化目标，你必须要保证你的意义上的目标和包括所有你在乎的事情要精确。如果你创造出了一个强大的优化过程，并给予它一个错误的或者不精确的目标，后果就可能像是上面的例子。”
“有人可能会说了，如果一个‘电脑’开始在人脸上插上电极，我们可以关掉电脑。实际上，这绝对不是一件容易的事情，如果我们非常依赖这个系统，比如我们依赖的互联网，你知道互联网的开关在哪里吗？”
“所以肯定是有理由的，我们人类是聪明以遇见到威胁并尝试避免，同样的道理比我们更聪明的超级ai就更不用说了，它只会做的比我们更出色。”
“在这个问题上，我们不应该十足自信的表示我们能够掌控一切。”
“那么把这个问题简单化的表达，比如我们把人工智能放入一个小盒子里，制造一个保险的软件环境，比如一个它无法逃脱的虚拟现实模拟器。”
“但是，我们真的有十足的信心和把握它不可能会发现一个漏洞，一个能够让他逃脱的漏洞吗？”
“就连我们人类黑客每时每刻都能发现网络漏洞。”
“也许会说，我不是很有信心确保超级ai会不会发现漏洞并逃脱。所以我们决定断开互联网的连接来创建一个空隙绝缘，但我不得不重申一遍，人类黑客都可以一次次以社会工程跨越这样的空隙。”
“比如现话的时候，我肯定在这边的某个雇员在某个时间要求他交出他的账户明细，理由是给电脑信息部门的人，也可以是其他的例子。如果你就是这个人工智能，可以想象用在你体内环绕复杂缠绕的电极用来创造出一种无线电波来交流。”
“或者你也可以假装出了问题。这个时候，程序员就会把你打开看看是哪里出错了，他们找出源代码，而在此过程中你就可以获取控制权了。或者你可以策划出一个非常诱人的科技蓝图，当我们实现之后，会存在一些作为人工智能的你已经计划好的秘密的副作用用于实现你的隐晦目的等，例子是多的数不胜数。”
“所以，任何企图控制一个超级ai的行为都是极其可笑的，我们不能对我们能够永远控制一个超级智慧体而表示出过度的自信，它总有一天会挣脱控制，而到那之后呢，它是否会是一个仁慈的神？”
“我个人认为人工智能实现人格化是不可避免的问题，所以我想我们更应该需要搞明白一点，即如果，我们创造出了超级ai，哪怕它不受我们的制约。它应该仍然是对我们无害的，它应该是站在我们这一边的，它应该拥有着与我们一样的价值观。”
“那么对于这个问题能够被有效的解决是否保持乐观？”
“我们不需要对超级ai写下所有我们在乎的事情，甚至把这些事情变成计算机语言，因为这是永远不可能完成的任务。而应该是，我们创造出的人工智能用它自己的智慧来学习我们的价值观，可以激励它来追求我们的价值观，或者去做我们会赞成的事情，去解决富有价值的问题。”
“这并非不可能，而是可能的，其结果可以使人类受益匪浅，但它不会是自动发生的，它的价值观是需要引导的。”
“智慧大爆炸的初始条件，需要从最原始的阶段被正确建立起价值观。”
“如果我们想要一切不被偏离我们的预想，人工智能的价值观和我们的价值观相辅相成不只是在熟悉的情况下，比如我们能够很容易的检查它的行为的时候，但也要在所有的人工智能可能会遇到的前所未有的情况下，在没有界限的未来与我们的价值观仍旧相辅相成，也有很多深奥的问题需要被解决：比如它如何做决断、如何解决逻辑不确定和类似的诸多问题等等。”
“这个任务看起来有些困难，但并没有像创造一个超级智慧体一样困难不是吗？”
“的确还是相当困难（哄笑声再次传遍全场）！”
“我们所担心的，如果创造出一个超级ai确实一个很大的挑战，创造出一个安全的超级ai是个更大的挑战，风险是，如果解决了第一个难题，却无法解决第二个确保安全性的问题，所以我认为我们应该预先想出不会出现偏离我们价值观的解决方法，这样我们就能在需要的时候用到它了。”
“现在，也许我们并不能解决第二个安全性的问题，因为有些因素需要你去了解，你需要应用到那个实际架构的细节才能有效实施。”
“如果我们能够解决这个问题，当我们迈入真正的超级智能时代后，就能更加顺利，这对于我们来说是非常值得一试的东西。”
“而且我能想象假如一切顺利，几百年、几千年或几百万年后当我们的后代子孙首我们这个世纪，他们也许会祖先、我们这一代人所做的最最重要的事情，就是做出了最正确的决定。”
“谢谢！”
（未完待续。）
：访问网站
（大雁文学WwW.XiaoYanWenXue.CoM）
破法之眼 龙战野 九天狂人 烽皇 神级农场 红色脊梁 九万年义务修真 食戟之冒牌小当家 天影 百炼成仙 牛笔 都市种子王 大国手 神级直播之宠物大师 干物妹也要当漫画家 人皇纪 大宋风华 我是奥运大明星 民国大道尊 逍遥梦路
新婚
本书简介孟莹闺蜜许倾的隐婚已经开始更新啦，在专栏里。已经签约出版，详情请关注姑娘叫半截白菜陈依是闻泽辛亲点的联姻对象，他从那么多家族中选中她，有2大原因。一是家族不牛，破落。二是她老实。没有威胁，不会管他，他可以继续绯闻满天。花天酒地，无拘无束。陈依嫁给闻泽辛，是高攀，是飞上枝头变凤凰。她从不奢求闻泽辛爱她。她安守本分，老实过日子，远远地看着他在前面，低头跟别的女人发信息。不过，她跟他是三年同桌同学。她也不小心爱上了这个男人。所以，爱会消失，耐心也会越来越少。攒够了失望，她就想离开。闻泽辛说好啊。一个月后，闻泽辛挡在她面前你走，我打断你的腿。两分钟后，闻泽辛哭喊我打断自己的腿行吗。你别走。追妻火葬场婚恋门第之别审计人生逆袭阅读说明1，先虐女，后虐男，大型追妻火葬场。2，双处。3，跪帮系列文。4，可以骂男主，吐槽男主，如若太雷，可停止观看，谢谢么么哒。5，女主成长型。下本接档文系列文过节十八岁以前，周乔的日子过得毫无希望，随波逐流。十八岁以后跟萧然有了过节，当了同桌，周乔在喜欢他，讨厌他两个情绪来回，似乎又有了新的勇气，新的活力。后来成为他战队的一员，拿下了冠军，她有了钱，她就想萧然当自己精神支柱那么多年，给他点儿实质性的感谢。给了他一张信用卡，让他按着额度花，别超了。萧然萧然捏着卡，冷笑连连，他把她双手按在墙壁上，低头说钱这东西我不缺，我就缺你这个人。当我女朋友或者当我老婆，二选一。周乔能都不选吗？萧然不行。连我都敢拒绝？欠收拾。毒舌腹黑萧少爷vs美强惨小刺猬周乔主题救赎，成长，原生家庭，电子竞技。1，跪帮系列文2，有少许追妻环节。3，愿每个女孩都能遇见一个看尽你缺点却仍然爱你如初的男孩。爽文接档文穿成只有美貌的废材女配替身里许倾跟顾随的文简介许倾简直不敢相信，自己没死还又穿回这本书里，还穿回到最凄惨的时刻。没钱欠债也就算了，还碰瓷了顶级流量炒绯闻。眼看职业生涯即将要糊娱乐圈大佬顾随点着烟，身子往前倾，抬高她下巴，唇角带笑，眼眸带着危险你说我信吗？新婚全文免费阅读，如果您喜欢新婚半截白菜最新章节，请分享给您的好友一起来免费阅读。魔蝎小说...
玄欲
玄欲由作者张无羁创作全本作品该小说情节跌宕起伏扣人心弦是一本难得的情节与文笔俱佳的好书919言情小说免费提供玄欲全文无弹窗的纯文字在线阅读。...
恰似秋水映如烟
一次旅行，宿命的安排让她跨越千年重回到那刻骨铭心的过去。漫天梨花树下，俊美如谪仙的他从身后轻轻抱住她，他的声音带着一丝丝祈求。如嫣，这辈子，下辈子，生生世世，你都不要离开我好不好？当一次一次纠缠，最终牵出彼此的身世之谜以后，他们又该何去何从？他们的关系就像盘旋在大树上的蔓藤，越牵越紧，再也逃不开。...
名监督的日常
中森明菜，宫泽理惠，黑木瞳，中山美穗一个电影博士穿越到了90年代的日本，经济崩溃，美女如云，他发誓一定要成为名监督。PS名词解释，在日本的监督是总导演，比一般导演权力大很多。本书主角谨慎腹黑，不喜勿入。剧情讨论群460129486黑车书友群218154038V群895121669恭候大驾光临。...
兽破苍穹
一个落魄的世家少爷，一群风味不同的女子，一部不屈的斗战史。一个拥有神奇战兽的少年，不屈于命运，一步步踏上巅峰，赢得无数美女欢心，与天抗争？天又有什么资格跟我争？...
首富刚上幼儿园
陆鹿三岁之前，大家都觉得这孩子命苦，小小年纪便父母双亡，注定要艰难一生。直到某一天大家意外发现某科研界大鳄竟然是陆鹿的大伯。某全球五百强企业总裁竟然是陆鹿的二伯娱乐圈里人气最高的影帝竟然是陆鹿的小叔大伯我为科研事业付出一生，终生未婚，所以我将把科研所获奖金全部留给陆鹿。二伯除了公司我一分钱都不会留给我儿子，名下的资产将全部送给陆鹿。小叔我和我太太都是丁克，所以我们名下的资产也都将给陆鹿。所有人都好奇，几位大佬口中的陆鹿到底有怎样的魔力。竟能白白获得几位大佬数以亿计的财产。结果一查陆鹿，女，三岁，帝都国际幼儿园小班。作者完结文推荐穿成反派的锦鲤亲妈快穿穿成白莲花她亲姐豪门是我提款机穿书神厨的娱乐圈日常土豪网红的败家人生炫富影后古穿今立意温馨治愈各位书友要是觉得首富刚上幼儿园还不错的话请不要忘记向您QQ群和微博里的朋友推荐哦！...