说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

抢工作、争资源,如此聪明的AI你拿什么阻止?

HTML文档下载 WORD文档下载 PDF文档下载
英国牛津大学的人类未来研究所主要研究人类的“宏观”未来,该研究所的Stuart Armstrong专注于人工智能领域的研究,他对人工智能的发展感到担忧,认为它会终结人类,最后他呼吁:当机器增强时,人类应该做好准备。

【编者按】相对于核爆炸、大规模传染病的威胁,人工智能对人类的威胁也许更大,英国牛津大学人类未来研究所专家Stuart Armstrong一直专注于人工智能领域的研究,同时他也是一名哲学家,他对人工智能发展以及可能出现的危险发出了警告,人工智能发展的不确定性在增加,所以人类只有未雨绸缪才能有备无患,下面看Thenextweb的Martin Bryant给我们带来的精彩消息。

以下为译文:


世界末日对大多数人来说可能只是随便想想,但对有些人来说,这却是一种职业。英国牛津大学人类未来研究所专门研究人类的“宏观”未来。你也许认为这研究所研究的危险应该是核战争或者彗星撞击,但是令人意想不到的是AI带来的威胁可能更严重。计算机会不会智能到足以成为我们的竞争对手,抢走我们的工作岗位,并最终消灭我们?这个终结者系列电影里面的场景看起来像科幻小说,但关注AI研究的人员对此非常担忧。

该研究所一名专注于AI领域的研究人员Stuart Armstrong说:“我认为很多学术论文关注屎壳郎或者星际迷航,而不是实际存在的风险,世界上很少有研究机构调查这些大规模的风险,也很少有专门的研究,但是那些小的风险,例如交通安全之类的研究却比这多得多。”


Armstrong解释说:“AI让人恐怖的地方在于它是为数不多的真正能够灭绝全人类的技术,而其他的威胁,比如核战争,它的毁灭范围有限,即使加上核辐射、核冬天影响,也很难使整个人类灭绝,流行病也一样,即使它们的毒性很强。”

当AI和人类相遇在酒吧……

Armstrong说:“真正可怕的是它们的智力,实际上它们比我们更聪明、更擅长社交,当AI以机器人形式走进一个酒吧,然后用它们的武器赶走所有的男人和女人,那时它们才真的可怕。”

Armstrong认为,首先技术上的影响是我们几乎完全失业。“你可能需要一个AI,它拥有人类的智力,复制一百次,训练它一百个不同的职业,复制那些一百次,你将在一百个行业里面拥有一万名高级员工,也许一个星期训练完成,或者你可以把它复制的越来越多,成千上万的员工……如果它们真的是超人,性能肯定比我描述的更强。”


AI为什么会终结人类

好吧,它们抢走了我们的工作,但是,它们会将我们全部消灭的说法是不是太荒唐了呢?谷歌工程总监Ray Kurzweil对此持乐观看法,天网不会成为现实,如果真的有天网,它也不一定背叛它的创造者,但是Armstrong认为我们应该未雨绸缪。

“争论的第一点是它们很聪明,非常强大,第二点是它很难设计出某种积极的结构或程序,让这样强大的‘人类’为我们所用。”

“要设计一个专门的反病毒程序来过滤电子邮件中的病毒或者想要控制它的程序,Armstrong继续说,它将意识到杀死每个人可以解决所有问题,因为如果它杀死所有人,关闭所有的电脑,就不会有更多的电子邮件发送过来,也就没有病毒。”


这是一种不恰当的例子,但它足以说明的一点是,对于机器人来说,这是一个可能的方案。难道我们就不能设计出一个不消灭人类的程序吗?事实证明,这是一个更复杂的程序,远远超过我们的预想,比如我们需要定义人是什么,生与死是什么等等,我们需要做的就是对人类的美好生活做出定义,以及什么东西是不允许干涉的,什么东西是允许干涉的等等,然后将这些代码植入AI。

不确定不等于安全

Armstrong描绘了一幅AI统治世界的可怕情景,但这是不可避免的吗?他说,这还不确定,但是我们不应该掉以轻心。

“持续增加的不确定性不是一个好迹象,人们的理解往往是不确定性在增加,但我们是安全的。”

“因此如果他们说不确定性在增加,几乎经常是风险的概率在增加,‘我们不知道AI这个东西’和‘我们的AI是安全的’是两码事。 ”

我们看到的AI会是什么样子

至于什么时间我们将拥有超级AI,Armstrong承认这是一个很难回答的问题,“我们可能几百年也不会实现,但还有其他的方法,人们追求全脑仿真,就是模仿人类大脑的想法并在计算机上实例化它们,这个看上去似乎更靠谱一点,因为不同于AI,我们知道想要什么,有明确的目标,这也许可以在本世纪实现。”

如果计算机“只是”能和人类一样思考,结果可能也不会如前文所说的那般糟糕。Armstrong说:“全脑仿真……这将是一个真正的人类思维,所以我们不必担心‘保证人类的安全’被错误理解,我们需要担心的是如何约束这种强大的‘人类’,但这个挑战完全不同于有着外星人思维的AI。”


和Armstrong的谈话使我意识到哲学家的重要性,他们在人类如何处理越来越“聪明”的技术时扮演了重要的角色。

Armstrong将他的工作比作计算机编程,“我们试着将一切都分解成最简单的条款,如果你试图对一个AI或任何电脑上编程,编程经验是非常有用的,但幸运的是,哲学家特别是分析哲学家,已经这样做了,你只需要扩展程序,所以你只需要看看你有什么,如何建立在它上面。”


AI威胁到你的工作

Armstrong面临的最大问题是人们没有认真对待那些来自AI大规模灭绝的威胁。人类处理极端风险的手段非常有限,人类只是没有准备好对付高强度、低概率的东西……不过Armstrong还是取得了一定的进展,当A对我们的实际生活影响I越来越大的时候,例如人工智能已经逐渐代替我们工作时,人们开始感到担忧,这是非常合理的担忧,相对于大规模灭绝,人们似乎更关注这种对自己生活产生影响的威胁。

“AI几乎可以代替任何人,包括各类专业人员,我发现人们更喜欢听我谈论人类将失去自己喜欢的工作,而不是人类灭绝,前者比后者更真实。”


我们也许距离电影《终结者》里面的情节很远,不过也许这根本不会出现,但是自主机器人在未来的战场上具备杀人能力已经引起很多人的担忧。AI的不确定性就是我们为什么不能忽视Armstrong警告的原因,当机器增强时,我们需要做好准备。


以“云计算大数据 推动智慧中国”为主题的第六届中国云计算大会将于5月20-23日在北京国家会议中心隆重举办。产业观察、技术培训、主题论坛、行业研讨,内容丰富,干货十足。票价优惠,马上报名

原文链接: Artificial Intelligence could kill us all. Meet the man who takes that risk seriously (编译/魏伟 审校/毛梦琪)

数据恢复服务商的6个最佳实践 【走近讲师】谭晓生:魔高一尺道高一丈,360基于大数据的网络攻击检测 一周热点:摩尔定律让位于贝索斯定律 阿里巴巴集团CTO王坚确认出席第六届中国云计算大会 【走近讲师】青云甘泉:混合云的构建及其对企业的帮助 RadiumOne创始人兼CEO因家暴被公司解雇 3D打印狂潮:可检测皮肤疾病的低价手机显微镜 浅谈导航设计,开发者必备的十大实用技巧 【云先锋 41】上海越诚:基于云服务的建站类iService软件超市 董西成:Hadoop将在高速发展和完善中扩大优势! 【走近讲师】 华云数据郁珉:公有云市场八仙过海 价格不是唯一标准! Facebook、Twitter、Google移动广告之争 开发者的黄金时代=运维人员的恶梦? 研发团队平稳度过“从小到大”并非易事 诺基亚品牌手机不久将消失 Stephen Elop回应不是木马 看七家科技公司Logo的最初模样 移动UI框架Fries:私人定制最Sexy的用户界面 必须Mark!最佳HTML5应用开发工具推荐 百度技术开放日感悟:看百度如何获取大数据时代的“船票” 谷歌亚马逊微软的烧钱游戏 拉手网CTO官冲:团购网在大数据应用上的探索 究竟谁真正关心比特币,不妨看看基于大数据的百万条推特分析 Firefox 29正式版:高度自定义模式、全新菜单和Australis UI 冼茂源:HBase在垂直搜索业务以及数据存储中的应用! 阿里云计算北京布点 全球第三个云数据中心开放 【走近讲师】友友天宇CEO姚宏宇:与行业结合是私有云厂商的重要出路 万亿移动支付产业的难点和痛点 削减硬件运营成本?亚马逊或自主研发ARM架构芯片 开源框架eMobc:XML开发原生移动应用so easy iOS应用安全开发,你不知道的那些事 市场化API的十个捷径 我的电脑有两个内存条(不是一种型号),今天用优化大师优化了一下,结果出现不能启动的现象,请问各位高手如何解决? 请教大侠!!!!vb调用com组件方法时传递参数类型的问题 updatesql出错: 在java中如何生成可单独安装运行的应用程序呀?就像.exe一样! 请问有没有关于C#的源代码或资料的网站呢? 怎样定位access数据库的路径? 在32代码中调用过16DLL的高手请进! 高分请教!!!!急请大侠帮忙!!!!!!!!!!!!!!! 我的电脑有两个内存条(不是一种型号),今天用优化大师优化了一下,结果出现不能启动的现象,请问各位高手如何解决 -???? 请大家出谋:朋友要离了,怎么安慰她? pfc问题 jin_shan(DOS)请进来看看,谢谢!! 大家平时玩什么网络游戏?请留下ID和擅长的游戏(玉笛书生有偿调查) 请帮一个忙? 怎么样在程序里注册OCX控件件? 奇怪,为什么我的电脑在死机后重起就不能浏览我写的asp页面了 各位,我現在到這一步了,下一步要做什麼 怎样把一个 Frame 窗体放进一个Penal 中??? 我编了4年程序,可是我在这里的提问没有一个人的回答让我满意!!!! 搞张jbuilder6破解? 特殊字符串查找 请问Win2k pro的Inetinfo.exe进程怎么占用CPU达99%呀?怎么解决呢? 自由自在的人,你在吗? 后缀是nlc的电子图书那里找? 请问vc里缺省参数的函数是怎么定义的?(70分) 救救我!!!数据库管理的几个基础问题?? 急需控件 请教一个关于CListCtrl的问题??? c语言实现"智力游戏" --? Redhat下设置环境变量 我的帐号被盗了啦!!!!!!! select max(count(*)) from table group by aa这个意思的语句该怎么样写? 在SQL SERVER7.0中如何实现类似于ORACLE中的CONNECT BY实现的树型查询? 这里都是些菜尿,吗的没有一次我的提问有人给我解决的! 为什么我的问题没人响应???????? 隐藏FORM的API,谁能提供? 谁知道 jdbc-odbc数据库连接是否要装jdbc程序 哪位大峡知道MetaTools公司的Photo Soap下载网址??? 数据库打开问题? 为什么会出现 Capability not suported???? 请教高手们一个在天极网没人能回答的问题,认真做答者有分 jsp的中文问题求救 何為數據流? 为什么在保存Word文档时总是提示Word内存不足,不能保存? 谁有开发支付网关的经历,请介绍一下经验,或提供些资料给我参考,谢啦。 求救!关于怎样提交表单???? 怎样写入txt文件里 alphagx送分了 求教: delphi中 JPG图片怎样存入数据库中的BLOB字段?怎么进行VCD文件分割或存入BLOB字段? 有关ICMP重定向报文的疑问!!! 在C++Builder中调用计算机内置扬声器,声音太轻了,怎样提高音量? 包饺子的作文 2篇 300字 生活垃圾的处理和回收利用研究报告 印象最深的一节课300字作文 月球是地球的?星 关于生活垃圾处理与回收利用研究报告 印象最深的一节课 作文谁帮我做一下 月亮是地球的什么星 找几篇400或500字的美文摘抄不要诗歌, 写人作文《印象深刻的一个人》300字 月球是地球的什么星?地球,月球的运行情况?月球是地球的行星还是? 好文章摘抄500字要有主要内容和感悟拜托了 让我印象深刻的人 作文(300字左右) 月球是离地球最近的什么星? 写一篇反映人优秀品质的文章.(400字左右)提刚:第一段、外貌描写;     第二段、简单介绍一下人物特点;(略写)     第三段、用具体事例反映人物品质;(详写) 《格列佛游记》读后感 200~300字左右如题.要求1.文学常识 2.主要情节 3.主题 4.人物性格特征 5.艺术特色 求一好文章,800字左右,要加400字左右的点评 太阳是一颗( )星,地球是太阳的()星,月球是地球的()星 求一篇关于大自然风景的作文200 关于亲情的好文章,400字, 200到300字作文 格列佛游记读后感200字左右一定要300字左右!多了不要,急!不要抄袭哦,尽量原创,不行再抄. 写人作文5篇,写事作文5篇 400字左右 电动车的旧电池可以回收再利用吗? 一件感人的事 作文450字 描写自然景物的美文要两篇, 电池可以回收利用吗? 据美联社2002年10月7日报道,天文学家在太阳系的九大行星之外,又发现了一颗比地球小得多的新行星,而且还测得它绕太阳公转的周期约为288年.若把它和地球绕太阳公转的轨道都看作圆,问它与 描写大自然风景的作文,500字. [物理题目]关于旧电池的再利用家里手电筒的旧电池用旧了,灯泡发出的光会变暗,但我们将旧电池取下来,还可以使石英钟用很长一段时间.这是为什么?什么原理可以解释? 据美联社2002年10月7日报道,天文学家在太阳系的九大行星之外,又发现了一颗比地球小得多的新行星而且还测得它绕太阳公转的周期约为288年.若把它和地球绕太阳公转的轨道都看做圆,问它与 月亮是地球什么星 废旧电瓶还能回收利用吗? 据报道,天文学家近日发现了一颗距地球40光年的“超级地球”,名为“55Cancri e”该行星绕母星(中心天体)运行的周期约为地球绕太阳运行周期的,母星的体积约为太阳的60倍.假设母星与太阳 地球叫什么星 废旧电池回收利用新办法?本人有意向对废旧电池回收利用处理进行投资建厂以保障对环境的污染破坏,包括:普通电池,电瓶电池、电动车电池等所有废旧电池.如有知情者请留言,设备来源,产 天文学家在太阳系的九大行星之外又发现一颗比地球小的多的新行星,而且还测得它绕太阳公转的周期约为288年,人们已测得冥王星绕太阳公转周期为7.92*10^9s,A新行星离太阳距离比冥王星远.为 写人的作文,400~500字,要有具体事例.要用到“侧面描写”“语言描写”“动作描写”“神态描写”.如果回答的好,我再加5分!急!急!急!快点啊,最迟明天就要!大家都来帮个忙! 描写自然美景的文章有那些? 2007年4月24日欧洲国家天文学家报告说,在太阳系以外,存在着一颗与地球最为相似的行星,这颗行星被命名为Gliese 581 c,这颗行星每13天围绕它的恒星红星运行一周,若用an表示从发现这颗行星的那 写人的好文章,400字以上,500字以下400字以上,500字以下!题目最好是《我的爷爷》其他的也行!呜呜呜 太阳是一颗什么星,地球时太阳的什么星,月球是地球的什么星. 描写桂林山水的文章 描写大自然的风景的小学作文有几个字?美丽的颍洲西湖 太阳是一颗( )星,地球是太阳的( )星,月球是地球的( )星.地球和月球的运行情况(只要简要介绍) 描写桂林山水的作文抓住一个特点,就一个描写桂林的山或水不要太长的抄袭的也没关系抓住一个特点还有只是写景的短一点只是平时的习作竞技而已 其他写景的也没关系 最好是桂林 求一篇描写大自然其中一景的作文~(如:描写花草、森林、麦穗、草原……之类的)希望文章的内容能跟“走进大自然”的话题作文画上钩! 太阳是什么星,地球是太阳的什么星,月球是地球的什么星快,快,我认为答的好有悬赏分 描写桂林山水的短文 写大自然景色的文章是风 雪 雨 露这样天气的文章 太阳是银河系中的一颗什么星,地球是什么的一颗什么星,月球是什么的一颗什么星 作文:妈妈的爱让我感动1000字 400字写人作文 求生活垃圾的处理与回收利用的研究性课题? 格列佛游记读后感300字以上可抄可不抄(尽量不抄)不抄100分 抄 80分 包饺子的作文(450字) 月球是地球的什么星 描写自然景观的作文最好300字 能少不能多 急需关于包饺子的1000字作文文体不限, 论文:生活垃圾的处理和回收利用3000字以上3000字以上,结构完整,重点突出,内容充实,条理清楚,可信度强,(差不多就行啦~~~各位亲帮帮忙吧,俺明天中午就走人啦!) 急求描写自然风光的作文2011/8/9 20:40:56,
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn