说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

抢工作、争资源,如此聪明的AI你拿什么阻止?

HTML文档下载 WORD文档下载 PDF文档下载
英国牛津大学的人类未来研究所主要研究人类的“宏观”未来,该研究所的Stuart Armstrong专注于人工智能领域的研究,他对人工智能的发展感到担忧,认为它会终结人类,最后他呼吁:当机器增强时,人类应该做好准备。

【编者按】相对于核爆炸、大规模传染病的威胁,人工智能对人类的威胁也许更大,英国牛津大学人类未来研究所专家Stuart Armstrong一直专注于人工智能领域的研究,同时他也是一名哲学家,他对人工智能发展以及可能出现的危险发出了警告,人工智能发展的不确定性在增加,所以人类只有未雨绸缪才能有备无患,下面看Thenextweb的Martin Bryant给我们带来的精彩消息。

以下为译文:


世界末日对大多数人来说可能只是随便想想,但对有些人来说,这却是一种职业。英国牛津大学人类未来研究所专门研究人类的“宏观”未来。你也许认为这研究所研究的危险应该是核战争或者彗星撞击,但是令人意想不到的是AI带来的威胁可能更严重。计算机会不会智能到足以成为我们的竞争对手,抢走我们的工作岗位,并最终消灭我们?这个终结者系列电影里面的场景看起来像科幻小说,但关注AI研究的人员对此非常担忧。

该研究所一名专注于AI领域的研究人员Stuart Armstrong说:“我认为很多学术论文关注屎壳郎或者星际迷航,而不是实际存在的风险,世界上很少有研究机构调查这些大规模的风险,也很少有专门的研究,但是那些小的风险,例如交通安全之类的研究却比这多得多。”


Armstrong解释说:“AI让人恐怖的地方在于它是为数不多的真正能够灭绝全人类的技术,而其他的威胁,比如核战争,它的毁灭范围有限,即使加上核辐射、核冬天影响,也很难使整个人类灭绝,流行病也一样,即使它们的毒性很强。”

当AI和人类相遇在酒吧……

Armstrong说:“真正可怕的是它们的智力,实际上它们比我们更聪明、更擅长社交,当AI以机器人形式走进一个酒吧,然后用它们的武器赶走所有的男人和女人,那时它们才真的可怕。”

Armstrong认为,首先技术上的影响是我们几乎完全失业。“你可能需要一个AI,它拥有人类的智力,复制一百次,训练它一百个不同的职业,复制那些一百次,你将在一百个行业里面拥有一万名高级员工,也许一个星期训练完成,或者你可以把它复制的越来越多,成千上万的员工……如果它们真的是超人,性能肯定比我描述的更强。”


AI为什么会终结人类

好吧,它们抢走了我们的工作,但是,它们会将我们全部消灭的说法是不是太荒唐了呢?谷歌工程总监Ray Kurzweil对此持乐观看法,天网不会成为现实,如果真的有天网,它也不一定背叛它的创造者,但是Armstrong认为我们应该未雨绸缪。

“争论的第一点是它们很聪明,非常强大,第二点是它很难设计出某种积极的结构或程序,让这样强大的‘人类’为我们所用。”

“要设计一个专门的反病毒程序来过滤电子邮件中的病毒或者想要控制它的程序,Armstrong继续说,它将意识到杀死每个人可以解决所有问题,因为如果它杀死所有人,关闭所有的电脑,就不会有更多的电子邮件发送过来,也就没有病毒。”


这是一种不恰当的例子,但它足以说明的一点是,对于机器人来说,这是一个可能的方案。难道我们就不能设计出一个不消灭人类的程序吗?事实证明,这是一个更复杂的程序,远远超过我们的预想,比如我们需要定义人是什么,生与死是什么等等,我们需要做的就是对人类的美好生活做出定义,以及什么东西是不允许干涉的,什么东西是允许干涉的等等,然后将这些代码植入AI。

不确定不等于安全

Armstrong描绘了一幅AI统治世界的可怕情景,但这是不可避免的吗?他说,这还不确定,但是我们不应该掉以轻心。

“持续增加的不确定性不是一个好迹象,人们的理解往往是不确定性在增加,但我们是安全的。”

“因此如果他们说不确定性在增加,几乎经常是风险的概率在增加,‘我们不知道AI这个东西’和‘我们的AI是安全的’是两码事。 ”

我们看到的AI会是什么样子

至于什么时间我们将拥有超级AI,Armstrong承认这是一个很难回答的问题,“我们可能几百年也不会实现,但还有其他的方法,人们追求全脑仿真,就是模仿人类大脑的想法并在计算机上实例化它们,这个看上去似乎更靠谱一点,因为不同于AI,我们知道想要什么,有明确的目标,这也许可以在本世纪实现。”

如果计算机“只是”能和人类一样思考,结果可能也不会如前文所说的那般糟糕。Armstrong说:“全脑仿真……这将是一个真正的人类思维,所以我们不必担心‘保证人类的安全’被错误理解,我们需要担心的是如何约束这种强大的‘人类’,但这个挑战完全不同于有着外星人思维的AI。”


和Armstrong的谈话使我意识到哲学家的重要性,他们在人类如何处理越来越“聪明”的技术时扮演了重要的角色。

Armstrong将他的工作比作计算机编程,“我们试着将一切都分解成最简单的条款,如果你试图对一个AI或任何电脑上编程,编程经验是非常有用的,但幸运的是,哲学家特别是分析哲学家,已经这样做了,你只需要扩展程序,所以你只需要看看你有什么,如何建立在它上面。”


AI威胁到你的工作

Armstrong面临的最大问题是人们没有认真对待那些来自AI大规模灭绝的威胁。人类处理极端风险的手段非常有限,人类只是没有准备好对付高强度、低概率的东西……不过Armstrong还是取得了一定的进展,当A对我们的实际生活影响I越来越大的时候,例如人工智能已经逐渐代替我们工作时,人们开始感到担忧,这是非常合理的担忧,相对于大规模灭绝,人们似乎更关注这种对自己生活产生影响的威胁。

“AI几乎可以代替任何人,包括各类专业人员,我发现人们更喜欢听我谈论人类将失去自己喜欢的工作,而不是人类灭绝,前者比后者更真实。”


我们也许距离电影《终结者》里面的情节很远,不过也许这根本不会出现,但是自主机器人在未来的战场上具备杀人能力已经引起很多人的担忧。AI的不确定性就是我们为什么不能忽视Armstrong警告的原因,当机器增强时,我们需要做好准备。


以“云计算大数据 推动智慧中国”为主题的第六届中国云计算大会将于5月20-23日在北京国家会议中心隆重举办。产业观察、技术培训、主题论坛、行业研讨,内容丰富,干货十足。票价优惠,马上报名

原文链接: Artificial Intelligence could kill us all. Meet the man who takes that risk seriously (编译/魏伟 审校/毛梦琪)

移动周报:两岸三地在线编程学习网站大搜罗 有道周枫和他的“放养”团队 看IE11如何助力AAF推动公益事业 SUSE总裁Nils:将SUSE Cloud 2.0打造成“零影响的云安装程序” Windows 8之父Steven Sinofsky:2014年科技界的十大趋势 电视盒子还没智能化?看Fan TV们怎么玩 畅游启动“必赢计划” 十亿巨资代理优质产品 数据控使用Hadoop的三种最常用方式 值得创始人学习的五大企业文化管理方式 圣诞节快乐:来自程序员们的问候 宏碁任命新CEO Jason Chen:曾任职英特尔14年、台积电8年 史上第一次越狱发布会与Evad3rs太极助手罗生门 新东方在线CTO曾明:已用Cocos2d-html5开发出150余款产品 Facebook 2013年的9个开源项目 开源力量公开课2013年度庆典:我们的开源项目 看雪学院“走进企业看安全”活动走进安全管家 视频+PPT:苹果iOS7 Tech Talks大会演讲内容 iPhone 6和Galaxy S5暂不会采用弯曲屏技术 当程序不工作时,开发者常用的借口 携程技术副总裁叶亚明:三次重大技术改进的故事及背后原因 Google抛弃C语言,采用Go语言重写Go编译器 jQuery Mobile 1.4.0正式版发布,着重性能改进 IBM收购Aspera加速大数据传输 各式各样的极品程序员,你属于哪一种 Google员工离职前必做的14件事情 GitHub上最火的开源项目及编程语言是什么? 2014的12个大数据趋势:Hadoop继续升温,R将进入主流 研究称三星手机可能存在安全漏洞 初创IT公司里开发者最容易犯的九种错误 还有多少开发者在为IE6做兼容性测试? 解读华三“新IT易之道”理念下的云计算和数据中心 请大侠帮我解决一个数据库的问题 请问如何操作分布在两个数据库中的表数据? 寻求合作(有关车间数据采集):谁要MONEY? 请问哪里有有关COM原理的Ebook可以下载???? 有谁能够告诉我有关网站发展历史的资料么?世界上第一个网站是怎样建成的?以后的发展脉络呢?如果有谁能够相告不胜感激啊。 讨论:可视化开发XSLT的工具!! 如何使用VC进行“毫秒级”以下的 定时器。即(xx uS 的定时器)。。。。。。。。。。。。 看电视(转载) jsp比asp,php等好么?(在线等候) 怎样实现图像的自动拼接? 报表输出问题 我用ActionManage做出的菜单为何汉字显示总是最后一个字少半边? c#里如何使用shbrowseforfolder?那位兄弟给个例子 如何实现MAC和IP绑定。 帮帮我啊,老大们我真的很急谢了 session问题?????? 报表输出问题 你愿意吗? 关于PB中做VFP的ODBC的一个问题 我为什么不能提问? 在PASCAL语言中的"集合"概念,转化到C语言中,该怎么实现? 帮我看一下这个程序. 谁人发个QB的编辑器给我? 如何改变应用程序的图标 网吧管理 帮我看一下这个程序. 谁看谁头疼的问题!你除外! 请问JDK和J2SDK有什么区别? win98 转 win2000出现的问题,急,再线等候! 停止函数执行 请问如何在鼠标点击xx button 的时候获得 JtextField 中的文本输入--有重分送 我不能关机了!救救我哟~~给你分! tomcat4.0.1无法启动的问题 SoS!俺用fireworks做了一套菜单,但是应用于框架结构中时,只显示菜单所在框架的部分菜单。也就是说菜单显示不完整,如何能够让菜单跨越 刚装了REDHAT 7.2,不知道网络怎么设置 报表打印,望各位指点..... 是不是我这里设错了? 菜鸟有问题,Win2k的定时关机程序 关于天数累加的问题 webbrowser控件问题? 421连续进纸标准,打印问题,难啊,难 有个小问题难住偶了! 请教 bdf 文件的格式 在JPrint中如何设置页面的打印范围(不使用打印机的默认打印范围),找不到例子,那位能够给个实例。。。 开发jsp需要什么环境和安装软件,目前版本为多少? 在PASCAL语言中的"集合"概念,如何转化成C语言表示 怎么回事。formshow 不能写太多sql语句么〉?,怎么不显示?大家快帮看看,急死了 自动累加的问题?(100)我只能给这么多了 哪里可以下载powerbuilder7.0 网页自动累加的问题(100) help 数学中√表示什么啊 如图,在以O为圆心的两个同心圆中,AB经过圆心O,且与小圆相交于点A,与大圆相交于点B,小圆的切线AC与大圆相交于点D,且CO平分∠ACB.(1)试判断BC所在直线与小圆的位置关系,并说明理由;(2) 用狐狸,小山羊和小白兔. 我想问下数学中“^”代表了什么 如图,在以O为为圆心的两个同心圆中,AB经过圆心O,且与小圆相交于点A,与大圆相交于点B.小圆的切线AC与大圆相交于点D,且CO平分∠ACD.(1)试判断BC所在直线与小圆的位置关系,并说明理由.(2) 用小白兔,胡萝卜和山羊编童话故事 500字 火车转弯向心力如何得到 角铝规格6*60*60,长度是2636,怎么计算价格啊? 40(?)+20(?)=1(?)填单位! 3(4):火车在转弯时 受向心力作用,对其所受向心力分析正确的是( )B.主要由于内外轨的高度差的作用,车身略有倾斜,车身所受重力的分力产生了向心力请问上述B选项分析是否正确?为什么? 刺猬汉斯是-----国作家-------写的————(体裁)我还读过他们其他的童话,有,< > 《 》《 》等. 一棵树高20( )填单位 火车转弯时的向心力类型问题真心不会 刺猬汉斯的主要内容是什么? 若二次函数y=f(x)的图像经过原点,且1≤f(-2)≤2,3≤f(1)≤4.求f(2)的取值范围 /在数学中代表什么? 刺猬汉斯讲了几件事,都什么事? 分米的英文符号是什么? 在数学中∧代表什么 《刺猬汉斯》是《格林童话》写的. 改病句 若已知二次函数y=f(x)的图象过原点,且1 ∧这个在数学中代表什么? 刺猬汉斯帮我分段啊! 分米的符号怎么表示? 解释一下火车转弯时外轨和内轨等高和不等高时向心力分别由什么力来提供 【高中物理必修二向心力】火车最佳速度问题中 重力和支持力的合力等于向心力;那么摩擦力呢 是不是没有办法算 所以算这个合力只能通过重力算 不能先把重力正交分解成支持力和静摩擦 会计判断题 1.“短期借款”账户不核算应支付的借款利息.2、银行借款不论期限长短都必须按期偿还,并按规定支付利息.3、企业计提固定资产折旧时,应借记“累计折旧”账户,贷方“固定资产 猴子的屁股为什么是红的写一篇童话故事 为什么火车拐弯时,支持力所提供的向心力是水平的而非其他方向?火车拐弯时除前进方向还有其他摩擦力吗? 求这些会计的判断题答案,最好能说明错在哪里 1.用银行存款去归还银行贷款,属于“一种形式的资产减少,引起另一种形式的负债减少”.2.按会计核算原则,凡是支出的效益仅与本会计年度 汽车转弯时的向心力是静摩擦力提供的,静摩擦力的方向应该是与相对运动趋势相反,而汽车转弯时若不受外力则物体会沿切线方向继续运动,可推的其相对运动趋势应为其切线方向.那为什么静 豆浆里的油条打一歇后语.提示是两个字的. 点A在半径为1且圆心在原点的圆上,且角AOx=45度,点P从A点出发,逆时针等速沿着单位圆旋转已知P在1秒内转过的角度为M(0度 在恶补微积分,我目前大一,希望高手们求救!有什么用的?怎么很多式子都有? 如今的专家些,牛奶和鸡蛋,豆浆和油条都不能搭配!那娃娃现在早餐还能吃啥呢? 如图,在平面直角坐标系xoy中,直线AB过点A(-4,0),B(0,4),圆的半径为1原点为圆心,点P在直线AB上,过点P作圆的一条切线PQ,Q为切点,则切线长PQ的最小值为? 在数学上面X代表什么意思 数学速度是用v表示吗? 如图,以原点为圆心的圆的直径AB= /代表什么数学意思 V代表什么? 如图,在平面直角坐标系中,半径为1的圆的圆心O在坐标原点,且与两座标轴分别交于A/B如图,在平面直角坐标系中,半径为1的圆的圆心O在坐标原点,且与两座标轴分别交于A、B、C、D四点,抛物线y=ax 《时间老人与穿衣镜》是童话还是寓言? v是在古代数学中代表几 童话故事,200字左右的 时光老人与穿衣镜时光老人和穿衣镜明亮的穿衣镜四平八稳地立在过道里,来来往往的人们都向她投去亲切而期待的目光,她总是忠实地反映出人们的容貌和衣着.一天,时光老人路过这里,镜子 小性人怎么交往 跨度9米,用那种规格H型钢能承受10吨的重量柱子与柱子距离是9米,上面铺导轨,10T双梁起重机在上面跑.H型钢用多大16T天车 ,柱子与柱子距离是9米,9米的跨度轨道梁应该是多大的,上面是16T天车 时光老人与穿衣镜的问题答案 已知:如图,圆心C过原点,并与坐标轴分别交于点A,D,∠OBA=30°,点D的坐标为(0,3),求点A,C的坐标求点A,C的坐标 如图在以O为原点的直角坐标系中,点A,C分别在X轴,Y轴的正半轴上,点B(a,b)在第一象限一四边形OABC,反比例函数y=分之k(k>0,x>0)的图像与AB相交于点D,与BC相交于点E,且BE=CE(1)试说明:BD=AD(2) 时光老人和穿衣镜告诉我们什么道理 买2根油条1杯豆浆一共8元4角钱,油条上涨50%豆浆上涨20%一共9元6角钱. 以平面直角坐标系的原点O为圆心以1为半径作圆若点P是是该圆上第一象限内的一点且OP与X轴正方向组成角R则点则点P的坐标为 《时光老人与穿衣镜》的读后感在1月10日之前我万分感谢. 解决几道判断题,顺便讲解一下对或错的理由1、将一个半径为rcm的圆形纸片切割成若干等份后拼成长方形,长方形的长是π rcm ( )2、r的平方=r×r=2r ( ) 如图,在以O为原点的直角坐标系中,点A、C分别在x轴、y轴的正半轴上,点B(a,b)在第一象限,四边形OABC是矩形,若反比例函数y=k/x的图像经过ab边的中点f,交bc边与点e (1)求证be=ce(2)若四边形oe ⊙在数学里代表啥 1、准确数18精确到个位,2、四舍五入奖3.995精确的百分卫是4.00 市场营销判断题~无差异性市场营销战略完全不符合现代市场营销理论.市场定位、产品定位和竞争性定位分别有不同的含义.企业在市场营销方面的核心能力与优势,会自动地在市场得到表现.
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘