说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

抢工作、争资源,如此聪明的AI你拿什么阻止?

HTML文档下载 WORD文档下载 PDF文档下载
英国牛津大学的人类未来研究所主要研究人类的“宏观”未来,该研究所的Stuart Armstrong专注于人工智能领域的研究,他对人工智能的发展感到担忧,认为它会终结人类,最后他呼吁:当机器增强时,人类应该做好准备。

【编者按】相对于核爆炸、大规模传染病的威胁,人工智能对人类的威胁也许更大,英国牛津大学人类未来研究所专家Stuart Armstrong一直专注于人工智能领域的研究,同时他也是一名哲学家,他对人工智能发展以及可能出现的危险发出了警告,人工智能发展的不确定性在增加,所以人类只有未雨绸缪才能有备无患,下面看Thenextweb的Martin Bryant给我们带来的精彩消息。

以下为译文:


世界末日对大多数人来说可能只是随便想想,但对有些人来说,这却是一种职业。英国牛津大学人类未来研究所专门研究人类的“宏观”未来。你也许认为这研究所研究的危险应该是核战争或者彗星撞击,但是令人意想不到的是AI带来的威胁可能更严重。计算机会不会智能到足以成为我们的竞争对手,抢走我们的工作岗位,并最终消灭我们?这个终结者系列电影里面的场景看起来像科幻小说,但关注AI研究的人员对此非常担忧。

该研究所一名专注于AI领域的研究人员Stuart Armstrong说:“我认为很多学术论文关注屎壳郎或者星际迷航,而不是实际存在的风险,世界上很少有研究机构调查这些大规模的风险,也很少有专门的研究,但是那些小的风险,例如交通安全之类的研究却比这多得多。”


Armstrong解释说:“AI让人恐怖的地方在于它是为数不多的真正能够灭绝全人类的技术,而其他的威胁,比如核战争,它的毁灭范围有限,即使加上核辐射、核冬天影响,也很难使整个人类灭绝,流行病也一样,即使它们的毒性很强。”

当AI和人类相遇在酒吧……

Armstrong说:“真正可怕的是它们的智力,实际上它们比我们更聪明、更擅长社交,当AI以机器人形式走进一个酒吧,然后用它们的武器赶走所有的男人和女人,那时它们才真的可怕。”

Armstrong认为,首先技术上的影响是我们几乎完全失业。“你可能需要一个AI,它拥有人类的智力,复制一百次,训练它一百个不同的职业,复制那些一百次,你将在一百个行业里面拥有一万名高级员工,也许一个星期训练完成,或者你可以把它复制的越来越多,成千上万的员工……如果它们真的是超人,性能肯定比我描述的更强。”


AI为什么会终结人类

好吧,它们抢走了我们的工作,但是,它们会将我们全部消灭的说法是不是太荒唐了呢?谷歌工程总监Ray Kurzweil对此持乐观看法,天网不会成为现实,如果真的有天网,它也不一定背叛它的创造者,但是Armstrong认为我们应该未雨绸缪。

“争论的第一点是它们很聪明,非常强大,第二点是它很难设计出某种积极的结构或程序,让这样强大的‘人类’为我们所用。”

“要设计一个专门的反病毒程序来过滤电子邮件中的病毒或者想要控制它的程序,Armstrong继续说,它将意识到杀死每个人可以解决所有问题,因为如果它杀死所有人,关闭所有的电脑,就不会有更多的电子邮件发送过来,也就没有病毒。”


这是一种不恰当的例子,但它足以说明的一点是,对于机器人来说,这是一个可能的方案。难道我们就不能设计出一个不消灭人类的程序吗?事实证明,这是一个更复杂的程序,远远超过我们的预想,比如我们需要定义人是什么,生与死是什么等等,我们需要做的就是对人类的美好生活做出定义,以及什么东西是不允许干涉的,什么东西是允许干涉的等等,然后将这些代码植入AI。

不确定不等于安全

Armstrong描绘了一幅AI统治世界的可怕情景,但这是不可避免的吗?他说,这还不确定,但是我们不应该掉以轻心。

“持续增加的不确定性不是一个好迹象,人们的理解往往是不确定性在增加,但我们是安全的。”

“因此如果他们说不确定性在增加,几乎经常是风险的概率在增加,‘我们不知道AI这个东西’和‘我们的AI是安全的’是两码事。 ”

我们看到的AI会是什么样子

至于什么时间我们将拥有超级AI,Armstrong承认这是一个很难回答的问题,“我们可能几百年也不会实现,但还有其他的方法,人们追求全脑仿真,就是模仿人类大脑的想法并在计算机上实例化它们,这个看上去似乎更靠谱一点,因为不同于AI,我们知道想要什么,有明确的目标,这也许可以在本世纪实现。”

如果计算机“只是”能和人类一样思考,结果可能也不会如前文所说的那般糟糕。Armstrong说:“全脑仿真……这将是一个真正的人类思维,所以我们不必担心‘保证人类的安全’被错误理解,我们需要担心的是如何约束这种强大的‘人类’,但这个挑战完全不同于有着外星人思维的AI。”


和Armstrong的谈话使我意识到哲学家的重要性,他们在人类如何处理越来越“聪明”的技术时扮演了重要的角色。

Armstrong将他的工作比作计算机编程,“我们试着将一切都分解成最简单的条款,如果你试图对一个AI或任何电脑上编程,编程经验是非常有用的,但幸运的是,哲学家特别是分析哲学家,已经这样做了,你只需要扩展程序,所以你只需要看看你有什么,如何建立在它上面。”


AI威胁到你的工作

Armstrong面临的最大问题是人们没有认真对待那些来自AI大规模灭绝的威胁。人类处理极端风险的手段非常有限,人类只是没有准备好对付高强度、低概率的东西……不过Armstrong还是取得了一定的进展,当A对我们的实际生活影响I越来越大的时候,例如人工智能已经逐渐代替我们工作时,人们开始感到担忧,这是非常合理的担忧,相对于大规模灭绝,人们似乎更关注这种对自己生活产生影响的威胁。

“AI几乎可以代替任何人,包括各类专业人员,我发现人们更喜欢听我谈论人类将失去自己喜欢的工作,而不是人类灭绝,前者比后者更真实。”


我们也许距离电影《终结者》里面的情节很远,不过也许这根本不会出现,但是自主机器人在未来的战场上具备杀人能力已经引起很多人的担忧。AI的不确定性就是我们为什么不能忽视Armstrong警告的原因,当机器增强时,我们需要做好准备。


以“云计算大数据 推动智慧中国”为主题的第六届中国云计算大会将于5月20-23日在北京国家会议中心隆重举办。产业观察、技术培训、主题论坛、行业研讨,内容丰富,干货十足。票价优惠,马上报名

原文链接: Artificial Intelligence could kill us all. Meet the man who takes that risk seriously (编译/魏伟 审校/毛梦琪)

莫轻言已成功部署大数据,也许你离达标还相去甚远! 基于Java的四大开源测试工具 Firefox OS:称霸移动市场?我们的计划更长远! 支撑5亿用户、1.5亿活跃用户的Twitter最新架构详解及相关实现 传苹果为iWatch招兵买马 以确保明年发布新产品 降价高达1200元的Surface RT,并不值得你购买 Daux.io:开源的项目文档生成器 避免代码注释的五大理由 安徽农信:30人,13轮测试,完成日均270万笔交易的综合业务系统架构调整 研究员带来5D光存储技术:容量达360TB,寿命高于百万年 LSI闪存加速或助力互联网IDC自我设计与建设 怎样让用户从100涨到200万?硅谷创业教父如是说 大作修炼之道:就算是手游,也要搞点剧情吧! Java EE 8愿望清单:缺少这些,Java EE将不会完美 Surface Watch?传微软正测试搭载Win 8的智能手表 又一美国造?联想在美设厂制造产品 软件定义未来 2013 SDCC中国软件开发者大会全面开启 可以直接拿来用的15个jQuery代码片段 程序员最害怕的5件事 你中招了吗? 机器智商已达四岁:亲,是时候考虑你的饭碗了 读60行代码完成的NoSQL数据库,看数据库打造面临的挑战 聚焦全球移动市场:韩国,开放之后是春天? Github 终于开始认真考虑开源项目许可证了 雅虎发布今年第二季度财报 总营收为11.35亿美元 既然无法避免被GAE锁定,何不考虑其中的机遇并自力更生 19亿美金背后的分析:91为什么要卖?百度为什么要买? 直接拿来用!最火的iOS开源项目(三) 让代码飞一会儿,超级有用的CSS编码工具集 创业者如何在Demo演讲上打动投资人? 微软小打小闹的移动版Outlook Web App,会不会被用户抛弃? 哪门编程语言影响力最大? 初次使用mysql 关于服务器的用户全部被人删除 真的很是问题 如何保留rtf的文本格式啊? 哪有免费论坛程序? GetFieldValue( nIndex, varValue, nFieldType )函数出错 请问Updata和Refresh有什么区别? DBNull问题,高手指教! 怎么样用xml做树形目录菜单,如csdn的左边的目录菜单,up者有分 关于菜单项的问题 是用outlook到如数据的问题 test7777 求救!!!!! 随机从表中抽出N条记如何写? 如何用脚本动态的生成一个新网页? 如何做出象DELPHI中的菜单在ControlBar1中的样子? 急·!!怎样能把磁盘上的文件删出一行 有关多字段排序的问题? 什么是发布与订阅? 1、五一节快到了,大家打算怎么过啊?:P 我从网上Down下一个VB的事例,但是窗体上控件的位置没法移动??? 如何在访问不同域的COM+服务,如何配置? 求购CRM源码(delphi) 我写了一个exif读取的程序,欢迎大家热心测试,给出好的建议的赠送代码 2、五一散分帖,收集一些东东。 问个弱弱的问题! 帮忙了,谁有XP的序列号? 一个很菜的问题,求助!!! 超时已过期错误提示问题 河北保定,转让大量C++世界经典。 关于控件堆叠的问题 session的问题 今天发工资,太少不爽,大散分,谁要是能帮我找一个挣钱的私活,我给他200分(令给) 请教数据库! 请教有关对话框的问题? 3.五一散分帖,我一个朋友说。。。。。。。。 高分相求:JBUILDER8 Enterprise 版,或下载地址。 怎么才能获得editbox的值 请问rasWinGod 这个控件如何用!(在线等待) 请问如何用CB生成可以在集成到网页上的activeX控件?急阿........ 如何把用逗号隔开的字符串赋给一个数组? FileView下的External Dependencies里面的.h文件是什么?! 请问如何在数据窗口中显示记录序号 怎么看自动生成的Makefile到底做了什么?紧急总动员,满分,在线等待 回答我问题 今天打开邮箱,竟然没有lj邮件,感动ing,散分ing 4、五一散分帖,问问题。:) 单击一个TreeView发生一个事件!我想显示? informix小问题 求一个存储过程,sql server 2000 大家好,请高手赐教,有关在应用程序中如何打开并编辑Word 文档??急需 “一座座青山紧相连,一片片白云绕山间······谁不说俺家乡好······”很多同学一定听过这首优美的歌曲,家乡的一草一木都那么让人眷恋.结合生物多样性的知实写一篇300字的短文 什么是农村劳动密集型产业 在三角形abc中,∠BAC的平分线AD交BC于点D,DE//AC,DE交AB于点E,求证三角形EAD是等腰三角形 运用生物多样性知识为家乡写一篇短文 劳动密集型产业英文怎么讲 三角形ABC,AD是BC边上的高,AE是角平分线,问∠EAD和∠B∠C的关系,为什么 铝挤型散热器,阳极与电泳哪个散热更好? 哪些产业属于劳动密集型产业? 小浪底水电站在什么地方啊? 显卡散热器能降低多少温度我的是5770,玩孤岛危机开高特效温度能上90甚至更高,加个散热能降到多少,就算温度低一直开高特效对显卡有害不 海绵肾是什么?该如何治疗?日常生活中要注意些什么? 口罩的绳子应该怎么绑、详细点、要有图更好 结合所学生物多样性的只是写一篇不少于400字的短文 要写提纲哦 坐标系一定建立在参考系上吗 2A悠悠球绳子怎么系啊?最好有图! 狭义相对论和广义相对论有什么区别? 太空托盘那力买 两带电物体接触为何电荷会平衡?为何负电荷会移动? 电泳后漆膜气泡是为什么?怎么处理? 论述我国发展劳动密集型产业的利弊 用三线式热电阻传感器,数显温控仪显示500度,温度升高时也会变化,但就不准确,要怎么设置?接两线时,屏上ON亮,数字一直跳动:接三线式,屏上OFF亮,数字不变化,但不准确! 磁铁矿有500t,含Fe3O4 70% 能炼多少铁 对祖国有贡献的人急 200分求一道物理题 转动惯量神马的.一个圆形的旋转木马,半径为2米,从静止开始,一个学生以500N的拉力在边缘转动旋转木马(正切)..10秒后速度达到2.0 rad/s ,旋转木马的转动惯量是多少?0 x 10^3 put one's mind to 名人成功之前的失败最后从失败中走向成功的实例,急 关于转动惯量的两个圆环 质量 大小一样 一个实心 一个空心 从同一高度的斜坡下滑 为什么实心的圆环先着地?这是为什么?这与质量的分布有关系? 做了个雨棚,玻璃准备用1.9M*1.4M共6块,6+6的夹胶钢化玻璃,还有这么大的玻璃大概有多重?几个人能搬的动?因为要搬到屋顶上 脱霉剂的作用机理是什么啊? 烘箱显示实际温度比设置温度低怎么处理? 与转动惯量有关的1道物理题一长为L,质量为m的匀质细棒,平放在粗糙的水平桌面上.设细棒与桌面的摩擦系数为μ,令细棒最初以角速度ω绕通过端点且垂直细棒的光滑轴O转动,则它停止转动前需 脱霉剂哪种好 烤箱 下加热 怎么调节温度 一个关于杆的转动惯量的问题在以长杆的一端为轴旋转时所得转动惯量为ml^2/3,将l 缩短一半得转动惯量为ml^2/12,而以杆的中点为轴转动惯量为ml^2/12,也就是说,在轴的另一边增加l/2的长度,效果 关于脱霉剂的几点疑问?1目前我没带脱霉剂以吸附功能为主的具有特异性吸附功能吗?2以分解为主脱霉剂能分解哪些?对营养成分有影响吗?3如果脱霉剂对营养成分有影响,那么影响的那部分与 小浪底黄河三峡的点评 各类名言警句多一点警句 找一篇有关保护生物多样性的论文 您正在使用脱霉剂吗? 各类名人名言越多越好! NO matter what you do,you should put your____into it.是填heart还是mind,答案为什么是mind? 进口脱霉剂 琼脂糖凝胶电泳时上样孔有气泡对电泳结果有什么影响 我国烟草制造业分布在哪里?有哪几个主要的烟草制造区?以及分布在那里的原因? 129事件的作文, 人血白蛋白怎么保存 儿童出生率怎么算我乡有22866人口,今年出生280人,出生率是百分之几 129事件是在那一年发生的?总在广播上听见 实验试剂能否与食品添加剂混放? 生物多样性对我们人类有哪些意义?根据你的看法,写一篇200字的小文章 某农户2006年承包荒山若干亩,改造后,种果树2000棵.今年水果总产量为18000千克,此水果在市场上每千克售a元,在果园每千克售b元(b 实验得到的多肽可用什么试剂检验,原因是化合物中含有的什么与该试剂发生了颜色反应 22.4LCO与N2混合气体中所含电子数?气体还能求电子数? 衣服为什么会长霉 你还知道哪些人为维护祖国领土完整作出过贡献,说说他们的事迹. I put my anchor into your 为什么我的橡胶会长霉? solidworks中不同零件的输出坐标系一样吗 浙江省的劳动密集型产业有哪些 大学转动惯量问题将一质量为m的圆筒上绕上几圈后置于水平地面上,如图所示,用水平力F拉绳使圆筒在地面上滚动(存在摩擦力),圆筒加速度为a.请用m和a表示F的大小,class="ikqb_img" src="http://c.hipho 勒紧腰带节俭办展 浙江临海户外休闲用菲人质事件赔偿谈判开启 马尼拉代表语俄媒:中美等十余国将参与2014年在奥巴马出席投资美国峰会 游说外商投资日韩两国或围绕慰安妇问题大闹法国国际朴槿惠称决不容忍腐败 要求根除核电腐日俄拟举行联合军演 被指意遏制中国进法媒称4名被绑法国人雇主为救人交付高美国将建全球最高摩天轮 超越伦敦眼西班牙走出两年经济衰退 首次出现经济俄副总理:俄能够在举办冬奥会的同时保美国指责德国过度依赖出口危害世界经济俄罗斯富人与穷人代名词:寡头、工薪族斯诺登在俄觅得网站工作 11月1日开以色列再次兴建犹太人定居点 被指破坏巴官员称以色列炮击加沙地带 一名武装欧洲或限美企处理数据 封杀数百亿美元智利沿海发生6.6级地震 未引发海啸律师:斯诺登在俄找到网站工作 今日开巴西前首富申请破产保护 身家蒸发99印尼强烈抗议美国监听 指其违反外交准回到寝室就像回到家 大学男生打对折成必然 服务来比拼临界线两男子在超市专偷口香糖世预赛主场可能放在香港抢购有风险 双十一五大陷阱逐个躲国画大师沙龙现场指点赏画门道武广印象2015绿色环湖跑完赛古巴国家芭蕾舞团舞者来汉教学4年后,沌口有望 造飞机卫星爷爷逗孙子口接硬币卡食道歌声诉说我多年乡情习近平以双重身份访越A股上演二八分化行情“跑鲁奖”官司的看点在哪里2020年武汉将布局1285所中小学“喘婆婆”吃半年平喘药竟呼吸衰竭欧冠 拜仁5:1大胜阿森纳东风标致亮相2015北京国际创新峰会环卫车竟在后官湖岸边倒垃圾百幅儿童画温暖市民之家站
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘