说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

抢工作、争资源,如此聪明的AI你拿什么阻止?

HTML文档下载 WORD文档下载 PDF文档下载
英国牛津大学的人类未来研究所主要研究人类的“宏观”未来,该研究所的Stuart Armstrong专注于人工智能领域的研究,他对人工智能的发展感到担忧,认为它会终结人类,最后他呼吁:当机器增强时,人类应该做好准备。

【编者按】相对于核爆炸、大规模传染病的威胁,人工智能对人类的威胁也许更大,英国牛津大学人类未来研究所专家Stuart Armstrong一直专注于人工智能领域的研究,同时他也是一名哲学家,他对人工智能发展以及可能出现的危险发出了警告,人工智能发展的不确定性在增加,所以人类只有未雨绸缪才能有备无患,下面看Thenextweb的Martin Bryant给我们带来的精彩消息。

以下为译文:


世界末日对大多数人来说可能只是随便想想,但对有些人来说,这却是一种职业。英国牛津大学人类未来研究所专门研究人类的“宏观”未来。你也许认为这研究所研究的危险应该是核战争或者彗星撞击,但是令人意想不到的是AI带来的威胁可能更严重。计算机会不会智能到足以成为我们的竞争对手,抢走我们的工作岗位,并最终消灭我们?这个终结者系列电影里面的场景看起来像科幻小说,但关注AI研究的人员对此非常担忧。

该研究所一名专注于AI领域的研究人员Stuart Armstrong说:“我认为很多学术论文关注屎壳郎或者星际迷航,而不是实际存在的风险,世界上很少有研究机构调查这些大规模的风险,也很少有专门的研究,但是那些小的风险,例如交通安全之类的研究却比这多得多。”


Armstrong解释说:“AI让人恐怖的地方在于它是为数不多的真正能够灭绝全人类的技术,而其他的威胁,比如核战争,它的毁灭范围有限,即使加上核辐射、核冬天影响,也很难使整个人类灭绝,流行病也一样,即使它们的毒性很强。”

当AI和人类相遇在酒吧……

Armstrong说:“真正可怕的是它们的智力,实际上它们比我们更聪明、更擅长社交,当AI以机器人形式走进一个酒吧,然后用它们的武器赶走所有的男人和女人,那时它们才真的可怕。”

Armstrong认为,首先技术上的影响是我们几乎完全失业。“你可能需要一个AI,它拥有人类的智力,复制一百次,训练它一百个不同的职业,复制那些一百次,你将在一百个行业里面拥有一万名高级员工,也许一个星期训练完成,或者你可以把它复制的越来越多,成千上万的员工……如果它们真的是超人,性能肯定比我描述的更强。”


AI为什么会终结人类

好吧,它们抢走了我们的工作,但是,它们会将我们全部消灭的说法是不是太荒唐了呢?谷歌工程总监Ray Kurzweil对此持乐观看法,天网不会成为现实,如果真的有天网,它也不一定背叛它的创造者,但是Armstrong认为我们应该未雨绸缪。

“争论的第一点是它们很聪明,非常强大,第二点是它很难设计出某种积极的结构或程序,让这样强大的‘人类’为我们所用。”

“要设计一个专门的反病毒程序来过滤电子邮件中的病毒或者想要控制它的程序,Armstrong继续说,它将意识到杀死每个人可以解决所有问题,因为如果它杀死所有人,关闭所有的电脑,就不会有更多的电子邮件发送过来,也就没有病毒。”


这是一种不恰当的例子,但它足以说明的一点是,对于机器人来说,这是一个可能的方案。难道我们就不能设计出一个不消灭人类的程序吗?事实证明,这是一个更复杂的程序,远远超过我们的预想,比如我们需要定义人是什么,生与死是什么等等,我们需要做的就是对人类的美好生活做出定义,以及什么东西是不允许干涉的,什么东西是允许干涉的等等,然后将这些代码植入AI。

不确定不等于安全

Armstrong描绘了一幅AI统治世界的可怕情景,但这是不可避免的吗?他说,这还不确定,但是我们不应该掉以轻心。

“持续增加的不确定性不是一个好迹象,人们的理解往往是不确定性在增加,但我们是安全的。”

“因此如果他们说不确定性在增加,几乎经常是风险的概率在增加,‘我们不知道AI这个东西’和‘我们的AI是安全的’是两码事。 ”

我们看到的AI会是什么样子

至于什么时间我们将拥有超级AI,Armstrong承认这是一个很难回答的问题,“我们可能几百年也不会实现,但还有其他的方法,人们追求全脑仿真,就是模仿人类大脑的想法并在计算机上实例化它们,这个看上去似乎更靠谱一点,因为不同于AI,我们知道想要什么,有明确的目标,这也许可以在本世纪实现。”

如果计算机“只是”能和人类一样思考,结果可能也不会如前文所说的那般糟糕。Armstrong说:“全脑仿真……这将是一个真正的人类思维,所以我们不必担心‘保证人类的安全’被错误理解,我们需要担心的是如何约束这种强大的‘人类’,但这个挑战完全不同于有着外星人思维的AI。”


和Armstrong的谈话使我意识到哲学家的重要性,他们在人类如何处理越来越“聪明”的技术时扮演了重要的角色。

Armstrong将他的工作比作计算机编程,“我们试着将一切都分解成最简单的条款,如果你试图对一个AI或任何电脑上编程,编程经验是非常有用的,但幸运的是,哲学家特别是分析哲学家,已经这样做了,你只需要扩展程序,所以你只需要看看你有什么,如何建立在它上面。”


AI威胁到你的工作

Armstrong面临的最大问题是人们没有认真对待那些来自AI大规模灭绝的威胁。人类处理极端风险的手段非常有限,人类只是没有准备好对付高强度、低概率的东西……不过Armstrong还是取得了一定的进展,当A对我们的实际生活影响I越来越大的时候,例如人工智能已经逐渐代替我们工作时,人们开始感到担忧,这是非常合理的担忧,相对于大规模灭绝,人们似乎更关注这种对自己生活产生影响的威胁。

“AI几乎可以代替任何人,包括各类专业人员,我发现人们更喜欢听我谈论人类将失去自己喜欢的工作,而不是人类灭绝,前者比后者更真实。”


我们也许距离电影《终结者》里面的情节很远,不过也许这根本不会出现,但是自主机器人在未来的战场上具备杀人能力已经引起很多人的担忧。AI的不确定性就是我们为什么不能忽视Armstrong警告的原因,当机器增强时,我们需要做好准备。


以“云计算大数据 推动智慧中国”为主题的第六届中国云计算大会将于5月20-23日在北京国家会议中心隆重举办。产业观察、技术培训、主题论坛、行业研讨,内容丰富,干货十足。票价优惠,马上报名

原文链接: Artificial Intelligence could kill us all. Meet the man who takes that risk seriously (编译/魏伟 审校/毛梦琪)

加速Visual Basic For Application(VBA) 监视程序的运行情况 -VB资料 交换鼠标按钮 -VB资料 交换鼠标左右键 -VB资料 禁止使用 Alt-Tab 或 Ctrl-Alt-Del -VB资料 控制光驱门的开关 -VB资料 VB利用 窗口函数监视系统的运行情况(VB类) VB判断是否在VB5环境下运行 VB判断一个32位程序是否结束 VB判断一个程序启动完成(不是结束) 屏蔽TextBox的系统菜单 -VB资料 启动时禁止装入 Add-Ins -VB资料 让Timer控件每5分钟触发一次事件 -VB资料 让程序启动快一点 -VB资料 VB如何调用系統的【查找】、【替换】的对话框? VB如何动态新增、移除 ODBC DSN? VB如何读取 Picture 内任何一点的颜色值? VB如何获取硬盘卷标、序列号和文件系统类型? VB如何判别程序是在Win95或NT下执行? VB如何启动控制面板? VB如何取得磁盘序列号? VB如何让Window不接受键盘输入及Mouse Click VB如何让程序拥有多个热键? VB如何让用户自行输入方程式,并计算其结果? VB如何使程序不在Ctrl+Alt+Del弹出的对话框内? VB如何使用 VB 编写自动反安装的程序? VB如何用VB建立快捷方式 VB如何用VB在桌面建立快捷方式 VB如何在 VB 中控制 Modem 行为? VB如何在VB中判断Windows9x的运行模式 VB如何在Visual Basic中实现异步执行程序 送分题,如何取得一个表的所有字段名? 那里可以下载Wrox系列书的英文版? 无法启动sqlserver的问题. DELPHI中dbgird的语句问题 关于控制动态产生Checkbox,并进行动态控问题 BCB中使用MSComm控件,无法定义动态数组变量,该怎么办?--急啊!在线等待 战神----巴蒂 两个问题! 用ADO访问DBASE数据库 百分求救:关于COM方法的reference参数不返回值的问题 请教各位高手 如何将程序中不同的查询结果写入报表? 怎样自编程序监控icmp包,应该截获什么消息,还是用别的方法? java本地化的问题(各位帮帮我!) 一个关于类型转换的菜鸟问题!! 招聘 Jpeg中FFd9可以有几个? ?????不同窗口中多个参数传递的问题,在线等待中........ 关于 EmbeddedWb 的Mshtml_tlb, SHDocVw_tlb 问题! 各位大虾 帮我翻译一下 急 悲... DBGrid为什么没有数据集记录失去焦点事件? 怎样手动和在程序中更改SEQUENCE的当前值? 怎么结贴子,什么叫FAQ? 关于“软件蓝领”的3个疑惑。 在函数中以引用方式调用结构的问题?给我能给的最高分100 怎样实现随机打印一个数据表的几个子段? 大家看看,这个功能如何实现? 怎样编一个程序读取服务器上的时间? VC工程不能正常打开? Jpeg中FFd9可以有几个? datawidgets简介!简单的问题---“送大伙一点小分” 新人到!!有问题想要问!!! 有谁知道sybase12.5中定义的所有保留字keywords? 为什么我的Tomcat突然找不到Serverlet了 关于报考程序员的问题 请问:一个应用程序发布时需要为每个发布的实例建立一个唯一标识用GUID好不好? 介绍些ActiveX/COM的好书吧! 图片的名字是中文就不能显示,怎么办 奇怪的问题关于NULL! 高分求助:pb中数据传输的问题 请教,在窗体改变大小时,有没有通用的办法,改变窗体内控件的大小,位置 如何用VB在CMOS中获取指定信息? ??低级问题,如何得到一个hdc(最好多几个方法) !!!!!!!!!急急急!!!!!!!!!!!!! 如何在頁面引用outlook的收件人地址控件,使得輸入的mail帳號會自動加上下划线,请给代码,并解释,非常感谢! 有名的ehlib控件,2.3版,功能多多,本人在其基础上又增加了很多属性,不能错过! 不是高手莫进来!:) 这是小雨田子第N次给大家送分了,请进吧!!! 如何打包 一个百思不得其解的问题,使用SetSQLSelect()语句重置数据窗体的SQL语句,SQL语句无错,但存在部分机器不能成功执行。不知何故。 make a switch有哪些意思?都是什么? 实际气体为什麽在高温低压下才接近理想气体?为什麽要比气体的沸点高很多,又要在低於0.1个大气压的情况下才接近理想气体?请问这压力是指哪里的压力? 汽车电路中,50线的作用是什么? 楼梯间非采暖 不设置散热器 其热负荷如何计算 是否要计算温度要算作室外计算温度 还是另外的计算温度 求解 低压下的气体( ).选项:a、可以视为理想气体 b、 不能视为理想气体 c、 可以忽略分子间的相互作用 d、低压下的气体( ).选项:a、可以视为理想气体 b、 不能视为理想气体c、 可以忽略分 检查汽车电路应注意哪些事项 灯罩的作用是利用光的( )将光线尽量集中罩到需要照射的地方,因此灯罩内表面应尽量( ) 为什么高温低压的气体可近似看做理想气体低压可以理解,压强小,气体密度小,分子间距大故分子间作用力小,那高温呢?是为了增强热运动还是破坏分子间的相互作用了 汽车电路怎么查线 楼梯间不采暖时候温度按多少算? 求助啊I2(g)+H2(g)=2HI(g) 放热 恒容时 降低温度,HI的物质的量是不是增多? 将玻璃罩罩住两根蜡烛,为什么长蜡烛会先灭? 怎样测量光的频率和波长光的频率和波长是怎样测量出来的?什么仪器可以测量光的频率和波长? 为什么2HI=H2+I2这个反应中反应前后气体的物质的量不变 两根蜡烛一根长,一根短,问如果将两根蜡烛点燃后,用一个封闭的玻璃罩罩住后,问哪个先灭? LED日光灯的灯罩种类有哪些? 可逆反应2HI(g)=H2(g)+I2(g),达到平衡,增大HI的物质的量,HI的分解率和体积分数不变,为什么呢?,能不能解释清楚啊 在一个玻璃罩中有两只长短蜡烛那只先灭?为什么 年最大负荷利用小时数计算公式 door除了门还有什么意思新概念英语初阶第27课 响度跟距离发声体的__有关,响度的单位是__ 日光灯为什么要装灯罩 在水平桌面上,放上两只蜡烛,罩上玻璃罩,哪只蜡烛先灭? 冰熔化过程的特点是_______. 在一定温度下,在一个密闭容器中加入H2和I2蒸气各0.5mol一个密闭容器中加入H2和I2蒸气各0.5摩,发生反应H2+I2 2HI,达到平衡时,生成HI 0.8摩,若其它条件不变,开始充入的H2为2摩,则达到平衡时生成的H 在桌上放1高1低蜡烛,点燃后罩上玻璃罩,问哪只蜡烛先灭为什么说出来 响度跟发声体的什么有关 LED蜡烛灯哪些有哪些最好想买一些LED的蜡烛灯,但是又对LED产品不了解. 在水平桌面上放两支蜡烛,罩上玻璃罩,哪个蜡烛先灭? 响度与发声体的什么及距发声体的什么有关?急. LED蜡烛灯 在平桌面上放两根高低不同的蜡烛,罩上玻璃罩,哪根先灭可是我做实验的时候是长的先灭的,有什么原因使他们不同时间灭? 汽车常用检测设备有哪些? LED节能玻璃灯罩 球泡 蜡烛泡 拉尾灯罩哪里可以买到?如题 LED节能玻璃灯罩 球泡 蜡烛泡 拉尾灯罩哪里买比较便宜? 放两根蜡烛,一根长一根短,同时罩上玻璃罩那根先息,为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么?为什么? 汽车钢材检测项目有哪些?所涉及到的检测设备有哪些?公司筹建汽车钢材检测实验室, LED蜡烛灯在哪家比较好? door是什么意思 溶质对溶液的熔沸点有何影响 牧童描写了怎样的场面 声音的响度越大,传播的越远,这句话对吗? 为什么 溶质加入水后,溶液的熔沸点发生上什么变化? 台灯灯罩是金属的好吗?LED灯 45000平方米制冷面积,用蒸汽式溴化锂机组还是用离心式机组,蒸汽价格220元电价1元 声音传播距离与响度无关,为什么越远越听不清不懂 灯罩能否让LED灯的光平行射出?我现在需要一个灯罩可以将灯泡发的光最后与灯罩面垂直的方向平行射出,最后可以通过一个凸透镜将光线收集到一个点.不知道这样的灯罩有没有厂家能做?还有 双效溴化锂吸收式制冷机组为什么要用圆筒圆形筒有什么优点或缺点啊?为什么不用方形筒啊 音调越大声音传的越远,还是响度越大声音传播的越远.警报声之所以能传播很远的距离,是因为它的( )A.音调高 B.响度大 C.音色美 D.节奏快 如果不慎将油汤洒到衣服上,可以用什么方法除去?原理是什么? 白色物体能_各种颜色的光,无色物体能_各种颜色的光 如果把长短不一的两支蜡烛点燃后用玻璃罩罩上,请问哪支先熄灭呢? 关于光的波长和频率光入射水中时速度会改变,是频率还是波长改变了?波长有可能改变么? 上午化学课做实验,将无色液体和白色粉沫混合,产生大量无色气体,这两种物品是什么 用玻璃罩罩住一支长蜡烛与一支短蜡烛,哪一支会先熄灭?玻璃罩小的话,玻璃罩大的话,(老师没有说明玻璃罩的大小)如何写实验报告?(第一分实验报告,希望能写的准确些)求达人解答请写 That's a switch 别用词典上的“那是一个开关”,来忽悠我。不是表面上的意思 一个玻璃罩,罩住一长一短两根蜡烛,同时燃烧,那根先熄灭,为什么?我个人觉得是短的,但是做实验只做了一次,是长的先灭,为什么?如果是短的,为什么我们做出来的是长的?有没有什么误差? 如果不慎将油汤洒到衣服上,可以用什么方法除去?说一下你的依据得原理 switch (a) 和 switch(a==1)有什么区别以下选项中与if(a==1)a=b;else a++;语句功能不同的switch语句是A)switch(a){case1:a=b;break;default:a++;}B)switch(a==1){case0:a=b;break;case1:a++;}C)switch(a){defa 一长一短两支蜡烛在同一玻璃罩中燃烧,哪个先灭? door什么意思
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘