说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

抢工作、争资源,如此聪明的AI你拿什么阻止?

HTML文档下载 WORD文档下载 PDF文档下载
英国牛津大学的人类未来研究所主要研究人类的“宏观”未来,该研究所的Stuart Armstrong专注于人工智能领域的研究,他对人工智能的发展感到担忧,认为它会终结人类,最后他呼吁:当机器增强时,人类应该做好准备。

【编者按】相对于核爆炸、大规模传染病的威胁,人工智能对人类的威胁也许更大,英国牛津大学人类未来研究所专家Stuart Armstrong一直专注于人工智能领域的研究,同时他也是一名哲学家,他对人工智能发展以及可能出现的危险发出了警告,人工智能发展的不确定性在增加,所以人类只有未雨绸缪才能有备无患,下面看Thenextweb的Martin Bryant给我们带来的精彩消息。

以下为译文:


世界末日对大多数人来说可能只是随便想想,但对有些人来说,这却是一种职业。英国牛津大学人类未来研究所专门研究人类的“宏观”未来。你也许认为这研究所研究的危险应该是核战争或者彗星撞击,但是令人意想不到的是AI带来的威胁可能更严重。计算机会不会智能到足以成为我们的竞争对手,抢走我们的工作岗位,并最终消灭我们?这个终结者系列电影里面的场景看起来像科幻小说,但关注AI研究的人员对此非常担忧。

该研究所一名专注于AI领域的研究人员Stuart Armstrong说:“我认为很多学术论文关注屎壳郎或者星际迷航,而不是实际存在的风险,世界上很少有研究机构调查这些大规模的风险,也很少有专门的研究,但是那些小的风险,例如交通安全之类的研究却比这多得多。”


Armstrong解释说:“AI让人恐怖的地方在于它是为数不多的真正能够灭绝全人类的技术,而其他的威胁,比如核战争,它的毁灭范围有限,即使加上核辐射、核冬天影响,也很难使整个人类灭绝,流行病也一样,即使它们的毒性很强。”

当AI和人类相遇在酒吧……

Armstrong说:“真正可怕的是它们的智力,实际上它们比我们更聪明、更擅长社交,当AI以机器人形式走进一个酒吧,然后用它们的武器赶走所有的男人和女人,那时它们才真的可怕。”

Armstrong认为,首先技术上的影响是我们几乎完全失业。“你可能需要一个AI,它拥有人类的智力,复制一百次,训练它一百个不同的职业,复制那些一百次,你将在一百个行业里面拥有一万名高级员工,也许一个星期训练完成,或者你可以把它复制的越来越多,成千上万的员工……如果它们真的是超人,性能肯定比我描述的更强。”


AI为什么会终结人类

好吧,它们抢走了我们的工作,但是,它们会将我们全部消灭的说法是不是太荒唐了呢?谷歌工程总监Ray Kurzweil对此持乐观看法,天网不会成为现实,如果真的有天网,它也不一定背叛它的创造者,但是Armstrong认为我们应该未雨绸缪。

“争论的第一点是它们很聪明,非常强大,第二点是它很难设计出某种积极的结构或程序,让这样强大的‘人类’为我们所用。”

“要设计一个专门的反病毒程序来过滤电子邮件中的病毒或者想要控制它的程序,Armstrong继续说,它将意识到杀死每个人可以解决所有问题,因为如果它杀死所有人,关闭所有的电脑,就不会有更多的电子邮件发送过来,也就没有病毒。”


这是一种不恰当的例子,但它足以说明的一点是,对于机器人来说,这是一个可能的方案。难道我们就不能设计出一个不消灭人类的程序吗?事实证明,这是一个更复杂的程序,远远超过我们的预想,比如我们需要定义人是什么,生与死是什么等等,我们需要做的就是对人类的美好生活做出定义,以及什么东西是不允许干涉的,什么东西是允许干涉的等等,然后将这些代码植入AI。

不确定不等于安全

Armstrong描绘了一幅AI统治世界的可怕情景,但这是不可避免的吗?他说,这还不确定,但是我们不应该掉以轻心。

“持续增加的不确定性不是一个好迹象,人们的理解往往是不确定性在增加,但我们是安全的。”

“因此如果他们说不确定性在增加,几乎经常是风险的概率在增加,‘我们不知道AI这个东西’和‘我们的AI是安全的’是两码事。 ”

我们看到的AI会是什么样子

至于什么时间我们将拥有超级AI,Armstrong承认这是一个很难回答的问题,“我们可能几百年也不会实现,但还有其他的方法,人们追求全脑仿真,就是模仿人类大脑的想法并在计算机上实例化它们,这个看上去似乎更靠谱一点,因为不同于AI,我们知道想要什么,有明确的目标,这也许可以在本世纪实现。”

如果计算机“只是”能和人类一样思考,结果可能也不会如前文所说的那般糟糕。Armstrong说:“全脑仿真……这将是一个真正的人类思维,所以我们不必担心‘保证人类的安全’被错误理解,我们需要担心的是如何约束这种强大的‘人类’,但这个挑战完全不同于有着外星人思维的AI。”


和Armstrong的谈话使我意识到哲学家的重要性,他们在人类如何处理越来越“聪明”的技术时扮演了重要的角色。

Armstrong将他的工作比作计算机编程,“我们试着将一切都分解成最简单的条款,如果你试图对一个AI或任何电脑上编程,编程经验是非常有用的,但幸运的是,哲学家特别是分析哲学家,已经这样做了,你只需要扩展程序,所以你只需要看看你有什么,如何建立在它上面。”


AI威胁到你的工作

Armstrong面临的最大问题是人们没有认真对待那些来自AI大规模灭绝的威胁。人类处理极端风险的手段非常有限,人类只是没有准备好对付高强度、低概率的东西……不过Armstrong还是取得了一定的进展,当A对我们的实际生活影响I越来越大的时候,例如人工智能已经逐渐代替我们工作时,人们开始感到担忧,这是非常合理的担忧,相对于大规模灭绝,人们似乎更关注这种对自己生活产生影响的威胁。

“AI几乎可以代替任何人,包括各类专业人员,我发现人们更喜欢听我谈论人类将失去自己喜欢的工作,而不是人类灭绝,前者比后者更真实。”


我们也许距离电影《终结者》里面的情节很远,不过也许这根本不会出现,但是自主机器人在未来的战场上具备杀人能力已经引起很多人的担忧。AI的不确定性就是我们为什么不能忽视Armstrong警告的原因,当机器增强时,我们需要做好准备。


以“云计算大数据 推动智慧中国”为主题的第六届中国云计算大会将于5月20-23日在北京国家会议中心隆重举办。产业观察、技术培训、主题论坛、行业研讨,内容丰富,干货十足。票价优惠,马上报名

原文链接: Artificial Intelligence could kill us all. Meet the man who takes that risk seriously (编译/魏伟 审校/毛梦琪)

比预想晚几年!IBM x86服务器或终将卖给联想 App推广的节操呢? iMessage垃圾短信产业链暗访 Apkudo CEO访谈:免费为Android开发者提供测试 Web API核查表:设计、测试、发布API时需思考的43件事 开源Android构建工具Buck 速度超Ant两倍 从史上八大MySQL事故中学到的经验 OpenStack Heat向应用市场更近一步 初创公司Ionic Security:云安全必须与时俱进 谷歌董事长:一年后消费者才能用上Goolge Glass Windows 8.1重新推出的“开始按钮”毫无意义 手眼并用 代码泄露三种Google Glass手势操作 Google新论文 CPI²:基于Linux的世界级跨数据中心服务器CPU监控 20款非常实用的Web工具和资源列表 数据库界大事件 随机写性能巨好的TokuDB开源了 CMDN Club 26期:数字渠道营销主题沙龙 暴强:用iOS设备控制的HTML5“小蜜蜂”游戏 Leap Motion:500元体感,精确到0.01毫米 大事件:三大运营商将发布融合计费SDK 再培养一个扎克伯克:六款适合儿童上手编程的App 首届中国软件工程标准高峰论坛:软件开发的新机遇与挑战 Verizon研究显示:中国成为2012年度网络间谍攻击的主要来源 Clang宣布全面支持C++11标准 北大陈钟:SEMAT—中国软件工程发展的新机遇 超华尔街预期:苹果第二财季营收为436亿美元 跨平台游戏引擎Spaceport已被Facebook收购 文科生开发GPU数据库 性能超传统数据库70倍 开发者赚了90亿:从苹果Q2财报,看iOS生态 备受开发者青睐的13款热门开源项目 Netflix赌赢《纸牌屋》背后的秘密武器:大数据分析 为什么:Google Glass只能运行Web应用? 对话Rackspace高级副总裁Jim Curry:我们没有"辜负"营销炒作 列表框中有多列,怎样让记录按列对齐? 求助capboy等网络视频播放高手-MPEG-1流的实时网络播放(2) the System V IPC机制是怎么一回事? 无组件上传图片,但我不能控制上传文件只为jpg or gif,请问怎样实现.急,在线等待!谢谢! 关于tomcat 的问题(急) help about windows printer 有关SDK的问题,高手请进! 高分寻求一个例子! dataset更新。100分 请您支招 通配符 有爱国心的高手快去黑了这个网站 这样的字符串比较怎么做?? 怎样在VB中加入动画? 费时操作是如何估计所花费时间的? 为什么我新装的机器在播放声音和视频文件时速度比原速度快了好多? 怎么样清楚Cookies 如何通过一个链接弹出一个没有标题栏,没有菜单栏,没有地址栏等的新页面? 配置问题,在线等待?分不够再加! MFC基础, 如何实现在CScrollView上, 把某一文本文件显示出来(不用file - new)? 求救:请问哪儿有《Beginning Visual Basic.Net》英文书下载??? 高分100 label 控件刷新问题 如何通过一个链接弹出一个没有标题栏,没有菜单栏,没有地址栏等的新页面? 实现这样一个报表??????? 求救。。。。。Access2000的数据库密码忘了,该怎么办呀!!! 动态产生的列表框,如何让记录按列对齐? 为什么有时自动打开网页,有时却不能? 在JDBTable中如何选中行? 我想让进度条竖着从下往上显示,应该怎么做? 可否知道数据表即将产生记录的标识键值???? 怎样让程序启动时最大化,但又不允许用户再还原或者改变窗口大小,谢谢! 紧急求救!关于ADSL下的固定IP地址访问问题,相关IP地址转发技术 谁见过这种编译错误,怎么办啊? 我的RH7.2不能Telnet ,请帮忙. GPRS 有无条件等待指令吗? 简单的问题_50分。 在vba的编写过程中无法在excel中调用word等其他对象,怎么办?(顶者有分) 事实证明,weblogic会对注释行报错! 一个让人困惑的问题 bcp 的问题 请问:有没有UNIX下的测试工具? 请问一个关于BCB消息MAP的问题... 系统2000,用installshield6.0包了程序,有问题 请问我用VC++做的数据库程序怎样打包在线等待急用, 在控制面斑-- >删除/添加程序 选项中 Win2000和Win98怎么不一样啊 改写了8254后如何得到正确的系统时钟 在别人机子上生成报表时提示出错,除打包安装外有无其他办法? ★ 懂 ORACLE 和 DB2 的高手请进... ★ 求助!!! 100分求小软件 消化产物 水解产物 氧化分解产物 有什么区别? 为什么利率降低会加剧通货膨胀啊? google搜索词之间“和”与“或”的使用怎么不能得到满意的结果呢?我在google.com上搜索关键词“cocktail and juice”的时候,结果43400000条;关键词“cocktail or juice”,结果43400000条,而且前几页结果 新制度经济学派对企业概念的理解 我认为那样做是毫无意义 的.I think doing( )that is ( ). 手提式二氧化碳灭火器是怎么换药的?因为我公司的几个灭火器换完药后瓶口的生料带还是原来那样脏脏的,要是换药的话是不是生料带也要换过?还是二氧化碳的灭火器换药只要把原来的气体 有ab两个圆柱体容器,原来,a容器里装2毫升的水,b容器是空的.现在往两个容器中以每分钟0.4毫升的速度注入水,4min后,两个容器的水面高度相等,已知b容器的底面半径为5厘米,a容器的底面直径是 已知一个铁原子的质量是一个碳原子质量的4.66倍,求铁的相对原子质量 遵守公共生活规则包括哪些 叫佳纯的女孩子应该取什么样的英文名呢我觉得最好是用佳开头sen结尾 或者是用卡开头森结尾之类要好听有意义一点的 风幕机型号如何确定选择 生活中最基本的社会规范有哪些? He went to the cafe yesterday?改否定句 经济过热和通货膨胀有什么区别? 基督徒应该遵守的生活规范和饮食规范应该是哪些?我不太懂,希望能够具体些. 用经济学解释政府如何采取措施控制房价 经济过热和通货膨胀有区别吗? board怎么读 we went to the ming tombs yesterday改为一般疑问句 煤粉细度R200是什么意思 求《吕氏春秋》的简介 i went to the parlc yesterday.变一般疑问句 请问关于煤粉细度的R90是什么意思啊?而R90为18%~请说得通俗点 《三豕涉河》道理这个是文言文,这个故事的道理是什么 为什么要装风幕机(风帘机,空气幕)? 粉末细度 《吕氏春秋》共有几篇?《吕氏春秋》共有几览?《吕氏春秋》共有几纪? 风幕机,空气幕 熟料煅烧为什么要控制煤粉的细度 生物中水解产物是什么意思? 如果一个经济出现过热(通货膨胀),政府应当如何进行宏观调控 风幕机一般多少W 关于糖类的生物题,我知道最终水解产物都是单糖,求具体的名称.3Q二糖:蔗糖水解最终产物是?麦芽糖水解最终产物是?乳糖水解最终产物是?多糖:淀粉的最终水解产物是?糖原的最终水解产物 利息=( )税后利息=( )利息税=( ) 煤粉细度R90=0.25的含义 化纤布料有哪些分类 (1)宏观调控 (2)通货膨胀 (3)投资减少 (4)物价回落 (5)经济过热A. 2-5-1-3-4 B. 3-5-2-1-4 C. 4-3-2-5-1 D. 5-2-1-3-4 答案是哪个呀 三豕涉河的字面解释一定要完整,不要害人哦! 化学纤维的布料都包含什么? 洋葱表皮实验 要是出现出现汽泡,怎么办 三豕涉河中 晋师已亥涉河也 涉 结合所学政治生活知识说明我国为什么坚持走和平发展道路 已知一个碳-12的原子的质量为1.99乘10的负26kg.镁的相对原子质量为24.035,求一个镁原子的质量 当经济出现通货膨胀时应采取什么样的政策? 不议价是什么意思 风幕机有什么作用 风幕机工作原理 关于天气的知识夏季的黄昏,一阵雷雨过后,你开始观察当时的天气现象.假如你随着时间的推移观察到了彩虹、晚霞、月亮周围的色彩光环,清说一说天气的趋势将如何发展?这是我们的思考题.. 议价粮油什么意思 They went to the zoo yesterday,_ _(反意疑问句) 风幕机什么作用 运用所学的经济生活知识,说明我国为什么要稳定房价 They went ti the zoo yesterday.改一般疑问句 松下风幕机FY-35ELC1单价多少钱? 运用所学经济生活知识,说明我们为什么能富起来 运用所学政治生活知识说明我们为什么能够站起来运用所学经济生活知识,说明我们为什么能富起来(11分)运用所学政治生活知识说明我们 羊毛衫的成分是什么? 经济增长和经济波动之间有什么区别?经济波动与通货膨胀、失业率和利率之间有怎样的关系? c4h8的同分异构体CH2=CHCH2CH3 CH3CH=CHCH3 CH3=C(CH3)2 还有别的么? 如何识别羊毛衫的标签成分? 通货膨胀会使利率升高还是降低?为什么? 食品添加剂甘油跟护肤品甘油一样吗
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘