说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

抢工作、争资源,如此聪明的AI你拿什么阻止?

HTML文档下载 WORD文档下载 PDF文档下载
英国牛津大学的人类未来研究所主要研究人类的“宏观”未来,该研究所的Stuart Armstrong专注于人工智能领域的研究,他对人工智能的发展感到担忧,认为它会终结人类,最后他呼吁:当机器增强时,人类应该做好准备。

【编者按】相对于核爆炸、大规模传染病的威胁,人工智能对人类的威胁也许更大,英国牛津大学人类未来研究所专家Stuart Armstrong一直专注于人工智能领域的研究,同时他也是一名哲学家,他对人工智能发展以及可能出现的危险发出了警告,人工智能发展的不确定性在增加,所以人类只有未雨绸缪才能有备无患,下面看Thenextweb的Martin Bryant给我们带来的精彩消息。

以下为译文:


世界末日对大多数人来说可能只是随便想想,但对有些人来说,这却是一种职业。英国牛津大学人类未来研究所专门研究人类的“宏观”未来。你也许认为这研究所研究的危险应该是核战争或者彗星撞击,但是令人意想不到的是AI带来的威胁可能更严重。计算机会不会智能到足以成为我们的竞争对手,抢走我们的工作岗位,并最终消灭我们?这个终结者系列电影里面的场景看起来像科幻小说,但关注AI研究的人员对此非常担忧。

该研究所一名专注于AI领域的研究人员Stuart Armstrong说:“我认为很多学术论文关注屎壳郎或者星际迷航,而不是实际存在的风险,世界上很少有研究机构调查这些大规模的风险,也很少有专门的研究,但是那些小的风险,例如交通安全之类的研究却比这多得多。”


Armstrong解释说:“AI让人恐怖的地方在于它是为数不多的真正能够灭绝全人类的技术,而其他的威胁,比如核战争,它的毁灭范围有限,即使加上核辐射、核冬天影响,也很难使整个人类灭绝,流行病也一样,即使它们的毒性很强。”

当AI和人类相遇在酒吧……

Armstrong说:“真正可怕的是它们的智力,实际上它们比我们更聪明、更擅长社交,当AI以机器人形式走进一个酒吧,然后用它们的武器赶走所有的男人和女人,那时它们才真的可怕。”

Armstrong认为,首先技术上的影响是我们几乎完全失业。“你可能需要一个AI,它拥有人类的智力,复制一百次,训练它一百个不同的职业,复制那些一百次,你将在一百个行业里面拥有一万名高级员工,也许一个星期训练完成,或者你可以把它复制的越来越多,成千上万的员工……如果它们真的是超人,性能肯定比我描述的更强。”


AI为什么会终结人类

好吧,它们抢走了我们的工作,但是,它们会将我们全部消灭的说法是不是太荒唐了呢?谷歌工程总监Ray Kurzweil对此持乐观看法,天网不会成为现实,如果真的有天网,它也不一定背叛它的创造者,但是Armstrong认为我们应该未雨绸缪。

“争论的第一点是它们很聪明,非常强大,第二点是它很难设计出某种积极的结构或程序,让这样强大的‘人类’为我们所用。”

“要设计一个专门的反病毒程序来过滤电子邮件中的病毒或者想要控制它的程序,Armstrong继续说,它将意识到杀死每个人可以解决所有问题,因为如果它杀死所有人,关闭所有的电脑,就不会有更多的电子邮件发送过来,也就没有病毒。”


这是一种不恰当的例子,但它足以说明的一点是,对于机器人来说,这是一个可能的方案。难道我们就不能设计出一个不消灭人类的程序吗?事实证明,这是一个更复杂的程序,远远超过我们的预想,比如我们需要定义人是什么,生与死是什么等等,我们需要做的就是对人类的美好生活做出定义,以及什么东西是不允许干涉的,什么东西是允许干涉的等等,然后将这些代码植入AI。

不确定不等于安全

Armstrong描绘了一幅AI统治世界的可怕情景,但这是不可避免的吗?他说,这还不确定,但是我们不应该掉以轻心。

“持续增加的不确定性不是一个好迹象,人们的理解往往是不确定性在增加,但我们是安全的。”

“因此如果他们说不确定性在增加,几乎经常是风险的概率在增加,‘我们不知道AI这个东西’和‘我们的AI是安全的’是两码事。 ”

我们看到的AI会是什么样子

至于什么时间我们将拥有超级AI,Armstrong承认这是一个很难回答的问题,“我们可能几百年也不会实现,但还有其他的方法,人们追求全脑仿真,就是模仿人类大脑的想法并在计算机上实例化它们,这个看上去似乎更靠谱一点,因为不同于AI,我们知道想要什么,有明确的目标,这也许可以在本世纪实现。”

如果计算机“只是”能和人类一样思考,结果可能也不会如前文所说的那般糟糕。Armstrong说:“全脑仿真……这将是一个真正的人类思维,所以我们不必担心‘保证人类的安全’被错误理解,我们需要担心的是如何约束这种强大的‘人类’,但这个挑战完全不同于有着外星人思维的AI。”


和Armstrong的谈话使我意识到哲学家的重要性,他们在人类如何处理越来越“聪明”的技术时扮演了重要的角色。

Armstrong将他的工作比作计算机编程,“我们试着将一切都分解成最简单的条款,如果你试图对一个AI或任何电脑上编程,编程经验是非常有用的,但幸运的是,哲学家特别是分析哲学家,已经这样做了,你只需要扩展程序,所以你只需要看看你有什么,如何建立在它上面。”


AI威胁到你的工作

Armstrong面临的最大问题是人们没有认真对待那些来自AI大规模灭绝的威胁。人类处理极端风险的手段非常有限,人类只是没有准备好对付高强度、低概率的东西……不过Armstrong还是取得了一定的进展,当A对我们的实际生活影响I越来越大的时候,例如人工智能已经逐渐代替我们工作时,人们开始感到担忧,这是非常合理的担忧,相对于大规模灭绝,人们似乎更关注这种对自己生活产生影响的威胁。

“AI几乎可以代替任何人,包括各类专业人员,我发现人们更喜欢听我谈论人类将失去自己喜欢的工作,而不是人类灭绝,前者比后者更真实。”


我们也许距离电影《终结者》里面的情节很远,不过也许这根本不会出现,但是自主机器人在未来的战场上具备杀人能力已经引起很多人的担忧。AI的不确定性就是我们为什么不能忽视Armstrong警告的原因,当机器增强时,我们需要做好准备。


以“云计算大数据 推动智慧中国”为主题的第六届中国云计算大会将于5月20-23日在北京国家会议中心隆重举办。产业观察、技术培训、主题论坛、行业研讨,内容丰富,干货十足。票价优惠,马上报名

原文链接: Artificial Intelligence could kill us all. Meet the man who takes that risk seriously (编译/魏伟 审校/毛梦琪)

软件工程篇-理解错误处理代理 -VB资料 软件工程篇-清空集合内容的几种方法 -VB资料 软件工程篇-受限制的共享软件Shareware -VB资料 设定CapsLock ScrollLock NumLock-VB资料 设置计算机名称-VB资料 深入SERIPTING RUNTIME LIBRARY-VB资料 &#39;识别常数的简单四则运算-VB资料 实现平面工具栏 -VB资料 使程序不在 Ctrl+Alt+Del 弹出的对话框内-VB资料 VB使用 API 开始屏幕保护 VB使用rdoPreparedStatement实现参数化查询 使用Vb5制作Easter Egg 使用VB实现所见即所得功能 使用VB中的SERIPTING RUNTIME LIBRARY VB使用Win95的动画光标 VB使用Windows内建的图标 VB使用Word的“艺术字”工具 VB使用WriteFile 块读/写数据 VB使用枚举变量 VB使用数组做属性 VB使用未安装的字体 输入限制确认-VB资料 熟悉VB的集成开发环境 鼠标取词-VB资料 谈变VB中APP.PAHT的注意事项 探讨高效的排序合并算法-VB资料 剔除INI文件中的注释部分-VB资料 提取可执行文件中的图标-VB资料 添加记录到文档菜单-VB资料 突破 SendKeys 的限制-VB资料 突破SendKeys的限制 -VB资料 祝贺水园小斑竹选举法在立法会获得通过 救救小弟我吧! 请问哪位有在PB中实现类似WORD“气泡提示”的功能?多谢 C# Builder Enterprise BT下载 哪位高手可以教我一点扫雷的技巧 一道汇编题 到了他家,他老婆开的门,他一把抱住他老婆还笑嘻嘻的对我们说:“这小姐挺漂亮的,有点像我老婆!嘿嘿 立法会第一立法案:水源小斑竹选举法 关于TProgressBar控件的几个问题 有个问题请教,是关于“名字空间”的!~~ 点击了一个Button(删除)安钮就可删除选中了的复选框的相关记录?看看代码是什么原因?? 谁能提供《The C++ Programming Language》书后的练习题的答案? 多外部IP的情况下,如何让Socket以其中一个指定的IP地址去连接外部的机器? PowerPoint XP设置模板的问题 linux 下有那些开发工具? 打开InputPanel出错 下载 oci不能正常显示汉字 帮我看个jsp程序,这是我的处子show,很多错误,希望大家来找碴。 请问如何实现在两个Form内各自的textbox之间进行数据流通?(50分) 急急急!在SQLserver中怎样调用索引? TreeView控件的字体如何改变? 关于字符串的处理问题 關于用存儲過程實現表關鍵字段自增的問題 <<雍亲王发迹史>>(有正文) 请问XML问题,很急,再线等!!谢谢!! 有人用msn messager 吗? 有关PXE技术,大虾请进 为什么我创建dialog时总是失败?? 数据窗口求和问题 三个小问题 【求助】【ZJU1504】那位能花点时间看看我的代码 如何实现类似vc的可视化拖拉形成界面功能? repeater控件的ItemTemplate模板问题!不容忽视!!! 怎样在自己的程序中备份数据库!!!??? 谁知道哪里有《杀手的童话》电影下载? 有谁知道用VC6在没有服务器端程序的情况下,如何通过账号操作远程SQL数据库. 散分!! 回复被删除,信誉分被扣! 请VFP高手帮我! mysql如何连接java,菜鸟求救!!! 有关win32 api 的问题 使用字典或者数组的问题(急) 电脑装不上xp了,急急急!那位大侠救救我! 如何使用WebLogic的LDAP服务,最好有相关文档和教材,拜谢 再问安装程序制作:我实在一点都不知道! 从哪开始啊,装了install 。。。。 想作一个阻止IE弹出窗口的程序,谁有例子? 3d游戏引擎中的关键的图形图象技术(特别是新的)有哪些? pb高手请进(送分题) 我不懂汇编 SendMessage(ClientPanel->Handle, WM_KEYUP, VK_CONTROL, 0);第三个参数是什么意思? 哪位大哥用过PXE? 《小白杨》听后感 作文 商朝的祖地在哪?现在是什么地方~ 商朝时的“班方”在现在什么地方? 概率论与数理统计 龙永红 小女人一般喜欢什么样的男人呢? 《太史公自序》中有哪些词类活用 国民党现在有多少兵力? 多少年国民党准备北伐 《太史公自序》中的词类活用有什么?诸侯之相王,王印于殷;明主贤臣忠君死义之士 从绵山碑刻看道家文化翻译成英语怎么说,急,我是新手,没有分, 是不是很多男人都喜欢小女人呢?怎样才可以成为小女人呢? 年轻人使用手机成瘾 或因社交焦虑渴望英媒:美国窃听盟国收益是否大于成本存波士顿爆炸案后美警方为纽约马拉松投入印尼爆发全国大罢工 抗议租不起房吃不美“监听”区别对待盟友非盟友 公信力日本拟任命民间人士担任日“国家安全局英小报窃听引关注 法庭百年后解除部分巴黎中国电影节开幕 计划放映56部新专家称叙总统解职叙副总统 传达不愿谈纽约提高香烟禁售最低年龄 未满21不39岁女子当选日本年度美魔女 分享美传发改委突查奔驰上海办公室云南鲁甸地震死亡人数为何大幅上升?要记得住乡愁 先要留得住乡愁重点查处危化车辆昆山中荣公司“8·2”特别重大爆炸事昆山中荣公司“8·2”特别重大爆炸事合生元120万物资驰援灾区“立二拆四”才是郭美美干爹榕餐饮“时段营销”正当红警车也成僵尸车?“出事了别人睡你媳妇”能作安全标语么
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘