说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

抢工作、争资源,如此聪明的AI你拿什么阻止?

HTML文档下载 WORD文档下载 PDF文档下载
英国牛津大学的人类未来研究所主要研究人类的“宏观”未来,该研究所的Stuart Armstrong专注于人工智能领域的研究,他对人工智能的发展感到担忧,认为它会终结人类,最后他呼吁:当机器增强时,人类应该做好准备。

【编者按】相对于核爆炸、大规模传染病的威胁,人工智能对人类的威胁也许更大,英国牛津大学人类未来研究所专家Stuart Armstrong一直专注于人工智能领域的研究,同时他也是一名哲学家,他对人工智能发展以及可能出现的危险发出了警告,人工智能发展的不确定性在增加,所以人类只有未雨绸缪才能有备无患,下面看Thenextweb的Martin Bryant给我们带来的精彩消息。

以下为译文:


世界末日对大多数人来说可能只是随便想想,但对有些人来说,这却是一种职业。英国牛津大学人类未来研究所专门研究人类的“宏观”未来。你也许认为这研究所研究的危险应该是核战争或者彗星撞击,但是令人意想不到的是AI带来的威胁可能更严重。计算机会不会智能到足以成为我们的竞争对手,抢走我们的工作岗位,并最终消灭我们?这个终结者系列电影里面的场景看起来像科幻小说,但关注AI研究的人员对此非常担忧。

该研究所一名专注于AI领域的研究人员Stuart Armstrong说:“我认为很多学术论文关注屎壳郎或者星际迷航,而不是实际存在的风险,世界上很少有研究机构调查这些大规模的风险,也很少有专门的研究,但是那些小的风险,例如交通安全之类的研究却比这多得多。”


Armstrong解释说:“AI让人恐怖的地方在于它是为数不多的真正能够灭绝全人类的技术,而其他的威胁,比如核战争,它的毁灭范围有限,即使加上核辐射、核冬天影响,也很难使整个人类灭绝,流行病也一样,即使它们的毒性很强。”

当AI和人类相遇在酒吧……

Armstrong说:“真正可怕的是它们的智力,实际上它们比我们更聪明、更擅长社交,当AI以机器人形式走进一个酒吧,然后用它们的武器赶走所有的男人和女人,那时它们才真的可怕。”

Armstrong认为,首先技术上的影响是我们几乎完全失业。“你可能需要一个AI,它拥有人类的智力,复制一百次,训练它一百个不同的职业,复制那些一百次,你将在一百个行业里面拥有一万名高级员工,也许一个星期训练完成,或者你可以把它复制的越来越多,成千上万的员工……如果它们真的是超人,性能肯定比我描述的更强。”


AI为什么会终结人类

好吧,它们抢走了我们的工作,但是,它们会将我们全部消灭的说法是不是太荒唐了呢?谷歌工程总监Ray Kurzweil对此持乐观看法,天网不会成为现实,如果真的有天网,它也不一定背叛它的创造者,但是Armstrong认为我们应该未雨绸缪。

“争论的第一点是它们很聪明,非常强大,第二点是它很难设计出某种积极的结构或程序,让这样强大的‘人类’为我们所用。”

“要设计一个专门的反病毒程序来过滤电子邮件中的病毒或者想要控制它的程序,Armstrong继续说,它将意识到杀死每个人可以解决所有问题,因为如果它杀死所有人,关闭所有的电脑,就不会有更多的电子邮件发送过来,也就没有病毒。”


这是一种不恰当的例子,但它足以说明的一点是,对于机器人来说,这是一个可能的方案。难道我们就不能设计出一个不消灭人类的程序吗?事实证明,这是一个更复杂的程序,远远超过我们的预想,比如我们需要定义人是什么,生与死是什么等等,我们需要做的就是对人类的美好生活做出定义,以及什么东西是不允许干涉的,什么东西是允许干涉的等等,然后将这些代码植入AI。

不确定不等于安全

Armstrong描绘了一幅AI统治世界的可怕情景,但这是不可避免的吗?他说,这还不确定,但是我们不应该掉以轻心。

“持续增加的不确定性不是一个好迹象,人们的理解往往是不确定性在增加,但我们是安全的。”

“因此如果他们说不确定性在增加,几乎经常是风险的概率在增加,‘我们不知道AI这个东西’和‘我们的AI是安全的’是两码事。 ”

我们看到的AI会是什么样子

至于什么时间我们将拥有超级AI,Armstrong承认这是一个很难回答的问题,“我们可能几百年也不会实现,但还有其他的方法,人们追求全脑仿真,就是模仿人类大脑的想法并在计算机上实例化它们,这个看上去似乎更靠谱一点,因为不同于AI,我们知道想要什么,有明确的目标,这也许可以在本世纪实现。”

如果计算机“只是”能和人类一样思考,结果可能也不会如前文所说的那般糟糕。Armstrong说:“全脑仿真……这将是一个真正的人类思维,所以我们不必担心‘保证人类的安全’被错误理解,我们需要担心的是如何约束这种强大的‘人类’,但这个挑战完全不同于有着外星人思维的AI。”


和Armstrong的谈话使我意识到哲学家的重要性,他们在人类如何处理越来越“聪明”的技术时扮演了重要的角色。

Armstrong将他的工作比作计算机编程,“我们试着将一切都分解成最简单的条款,如果你试图对一个AI或任何电脑上编程,编程经验是非常有用的,但幸运的是,哲学家特别是分析哲学家,已经这样做了,你只需要扩展程序,所以你只需要看看你有什么,如何建立在它上面。”


AI威胁到你的工作

Armstrong面临的最大问题是人们没有认真对待那些来自AI大规模灭绝的威胁。人类处理极端风险的手段非常有限,人类只是没有准备好对付高强度、低概率的东西……不过Armstrong还是取得了一定的进展,当A对我们的实际生活影响I越来越大的时候,例如人工智能已经逐渐代替我们工作时,人们开始感到担忧,这是非常合理的担忧,相对于大规模灭绝,人们似乎更关注这种对自己生活产生影响的威胁。

“AI几乎可以代替任何人,包括各类专业人员,我发现人们更喜欢听我谈论人类将失去自己喜欢的工作,而不是人类灭绝,前者比后者更真实。”


我们也许距离电影《终结者》里面的情节很远,不过也许这根本不会出现,但是自主机器人在未来的战场上具备杀人能力已经引起很多人的担忧。AI的不确定性就是我们为什么不能忽视Armstrong警告的原因,当机器增强时,我们需要做好准备。


以“云计算大数据 推动智慧中国”为主题的第六届中国云计算大会将于5月20-23日在北京国家会议中心隆重举办。产业观察、技术培训、主题论坛、行业研讨,内容丰富,干货十足。票价优惠,马上报名

原文链接: Artificial Intelligence could kill us all. Meet the man who takes that risk seriously (编译/魏伟 审校/毛梦琪)

新版本SQL Helper类 C#使用iTextsharp生成PDF 在.NET里用iTextSharp库生成PDF文档 用itextsharp将ASP.NET页面导出到PDF中 什么是JQuery-JQuery API jQuery入门指南-JQuery API jQuery的核心部分-JQuery API $(elements)-JQuery API $(expr, context)-JQuery API $(fn) -JQuery API $(html) -JQuery API $.extend(prop) -JQuery API $.noConflict() -JQuery API each(fn)-JQuery API eq(pos)-JQuery API get(num)-JQuery API get()-JQuery API gt(pos)-JQuery API index(subject)-JQuery API length-JQuery API lt(pos)-JQuery API size()-JQuery API CSS-JQuery API css(key, value)-JQuery API css(name)-JQuery API css(properties)-JQuery API height(val) -JQuery API height()-JQuery API width(val)-JQuery API width()-JQuery API DOM-JQuery API 如何在属性页中加入静态切分视图??? 我是天津人有没有同乡? ------------------------smiled 快来 我要饿死了----------------------- 我想用DCOM实现访问数据库,请大家指点,请进 竹子, 还给我一点分吧? TO:Vincent_Jiang(无生无灭) 两机相连的问题??? 提问题给的最高分于其余的分有何关系?请问斑竹 什么叫数据库的别名,应该怎样设置数据库的别名? 怎样与telnet应用服务程序通信 怎样在TStringGrid的整个框内绘图,而不是在某个单元中绘图? WEB安全认证问题 TO: neweb(永不言败) 请问各位大虾,哪里有jdk1.3 for linux SPARC 版本 求救!硬盘坏了! 晨昏三灌水,早晚一个屁 怎么在EXCEL中用VBA控制图表的位置? Delphi确实很好,学了好几年了,但在上海差点没有找到工作,很少有招学Delphi的 关于 VC 6.0 有没有什么补丁,升级文件之类的东西? 高分争解 怎么利用Jsp发邮件? 有谁知道光驱加锁的问题 parodox数据库问题 各位平时用 VC 作东西,都用那些辅助工具?  高分争解 【 http://www.esoftware.com.cn/search.php?condition=%BA%AB%C1%F7%C0%B4%CF%AE&page=1&mode=3 】 JBuilder的使用问题 在VFP中,编程执行SQL语句时,怎样使系统的查询结果不出现? 一个程序流程的问题 为什么当我的SpeedButton的enabled为false时,上面的图标就没有了? 囡囡(baicolt)请进,问你一点事情 简单问题,请赐教 高分相赠!!!:操作系统和SQL SEVER2000都是英文版,用VB连接如何可以正确的输入和显示中文? 则么在程序中得到sql的存储过程的返回值? 请问 VB 6.0 有没有最新的升级文件之类的东西?高分争解 谢谢 谁有用java做的复杂一点的图行界面的例子 网管来看看,为什么不能给分了!右边的文本框又不见了! 各位用 VB 编程都用那些辅助工具? 高分争解 关于ShellExecute 装了redhat7,在/etc里没有inetd.conf文件,谁见过这咋整 菜鸟请教大侠!很急!谢谢!!只有10分对不起! 请问一个关于CLASSWIZARD 的问题 这里有PB反编译程序,你信吗? 怎样解 关于大数据量的问题,经验丰富者里面谈! 我想在程序里控制程序外的浏览器窗口资源管理器窗口,怎么做呢?急呀!!!!!! 请问:我用JavaMail收下的邮件主题,发信人姓名不能正常显示。。。。。 认识我的人都进来跟我聊聊吧,我最近新换了工作,还没有适应,你们各位是怎么换工作? 请问如何在Delphi中表示二进制,或者十六进制数呢? 各位35以后干什么?我们能干什么? ????? 如何将eltree中的数据和某数据表关联 有没有比RECORDCOUNT快的方法实现同样的功能? 鉴于目前有些东西说话不知轻重,把这个旧闻再贴一遍,不要以为真的在网上 “没人知道你是一只狗” 为什么Na2O和Na2O2的阴阳离子个数比相同? 亚硫酸钠试剂部分被氧化成硫酸钠后如何确定纯度? 下表记录了一次实验中时间与温度的数据时间/min 0 5 10 15 20 25 温度/ 10 25 40 55 70 85 1.如果温度的变化是均匀的,21min时的温度是多少?2.什么时间的温度是34摄氏度? Na2O2晶体中的阴阳离子比 Na2O2+NaOH离子方程式 为探究PH值对唾液淀粉酶活性的影响,某同学设计的实验步骤如下表 (两题不会做求帮忙) 向Na2O2与水完全反应后的溶液中加MnO2,产生O2,是由于该溶液中含H2O2为什么? NA2O2和NA2O2投入水中都能生成NAOH,都是氧化还原反应,它们都是碱性氧化物 下表是某小组探究“过氧化氢酶的活性是否受pH影响”的实验,请依据设计的实验操作步骤,回答下列问题:(1)本实验的因变量是____,可观测的指标是____. (2)上述操作步骤中存在明显的缺陷,请写 Na2O2与H2O反应为什么生成H2O2正常不是生成NaOH和O2嘛.为什么会生成H2O2、? na2o2与什么反应生成naoh麻烦写一下方程式……谢谢 为验证pH对唾液淀粉酶活性的影响,某学生设计了下表中的实验方法步骤.在同学们提出的下列评价中,不合理的是项目 试管1 试管21 加入可溶性淀粉溶液 2mL 2mL2 加入新鲜唾液淀粉酶溶液 1mL 1mL3 设计实验证明O2来自H2O2在H2O2+MnO2====O2↑△这个反应中请用实验证明得到的O2来自于H2O2而不是MnO2(注意,是用实验证明)我知道MnO2是催化剂 但必须用好的实验啊 NaO或Na2O2能反应生成NaOH吗 在测定唾液淀粉酶活性时,将溶液PH由2上升到6过程中,该酶活性将? 能用FeSO4溶液来检验Na2O2与足量水反应后的溶液中存在的H2O2么 Na2O2能通过一步反应得到NaOH吗 某同学为了探究pH对人唾液淀粉酶活性的影响,设计如下实验步骤:①在A、B、C、D、E5支试管中分别加入pH5.0、6.0、7.0、8.0、9.0的适宜浓度缓冲液5mL,再分别加入质量分数为1%的淀粉液1mL.②各试 可用CO2来确定某NA2O粉末是否含有NA2O2,为什么错?不是产生O2吗? 现有一份naoh固体样品,里面混有少量的na2co3,nacl杂志,某同学用中和滴定的方法来测定naoh的纯度.操作1称取ag样品放入锥形瓶中,加水,震荡,使固体充分溶解.2向该溶液中加入足量的bacl2溶液,使co3 以下各项措施中,可以消除分析测试中的系统误差的是().A、进行仪器校正 B、增加测定次数 C、增加称样量 D、提高分析人员水平 根据Na2O与O2加热后生成Na2O2可知Na2O与Na2O2哪个更加稳定把前因后果也具体说明一下吧 用蒸馏水酚酞BaCl2溶液和已知浓度盐酸标准溶液作试剂,为什么可测定NaOH固体(杂质仅为Na2CO3)的纯度? 直流电桥(惠斯通电桥)测电阻的实验误差主要来源是什么?我们在实验中采取了什么措施来减小这种误差?还可以采用哪些方法来减小这种误差? 证明Na在空气中燃烧生成淡黄色粉末为Na2O2而不是Na2O 如何检验碳酸钠中含有氢氧化钠 在真正做实验时逐差法能减少误差吗?比如一条纸带有O、A、B、C、D、E、F七个计数点.相邻两点的距离记为S1、S2、S3、S4、S5、S6.根据逐差法的公式,有:a=[(s4+s5+s6)-(s1+s2+s3)]/9T^2问题来了.在实验 为什么说NA2O在空气加热形成NA2O2比NA2O稳定 Na2CO3和NaOH 能不能反应 牛顿环实验采取什么方法消除误差 Na2O与Na2O2哪个是粉末哪个是晶体 在某温度下,将7.8克Na2O2投入100克10%的烧碱溶液中,充分反应后,求所得溶液的溶质的质量分数以及生成气体的体积. 为了减小测量遏止电压的误差,在实验过程中应采取哪些措施 NaOH,Na2O,Na2CO3,Na2O2 哪一个放在空气中,会发生氧化还原反应而变质?希望能详细解答,谢谢了! 装置I中发生反应的化学方程式为?(金属钠和空气制备纯度较高的Na2O2实验) 在一定温度下向饱和烧碱溶液中放入一定量的Na2O2过氧化钠,充分反应后恢复至原来温度,下列说法正确的是(A、溶液中OH-总数不变,有O2放出B、溶液中NA+浓度增大,有O2放出C、溶液中NA+总数减少 将等质量的①na②na2o③na2o2④naoh将等质量的①Na②Na2O③Na2O2④NaOH ⑤Na2CO3·10H2O露置于空气中,最后质量由小到大的顺序是A.⑤<④<③<②<① B.①<②<③<④<⑤?C.⑤<④<②=③<①?D 现用金属钠和空气制备纯度较高的Na2O2,可利用的装置如下.回答下列问题(注:Na2O2可以与H2O、CO2能反应)(1)装置Ⅳ中盛放的药品是______________,其作用是__________________________.(2)若规定气体的气流 7、由氢氧化钠(NaOH)和过氧化钠(Na2O2)组成混合物,并检测出氢元素的质量分数为1%,那么混合物中钠元素的质量分数为( )A.46% B.57.5% C.58.4% D.无法计算 下列物质放置在空气中,变质原因与其他有本质区别的是 Na NaOH Na2SO3 Na2O2请说明原因 一块金属钠放置在空气当中,发生一系列氧化,最终生成什么? 在饱和NaOH溶液中加入一定量Na2O2,充分反应后恢复到原温度,下列说法正确的是?A有晶体析出,原溶液质量不变B有晶体析出,原溶剂质量不变C溶液仍然为饱和溶液,浓度增大D溶液仍然为饱和溶液, Na2O,Na2O2的化学键?分别是什么化学键?离子键?共价键?快 金属钠长期置放在空气中会生成什么? 对比实验对比实验需要注意两个问题一是---两是---对比实验需要注意两个问题 Na2O与Na2O2中化学键的不同点是 在空气中加热金属钠 实验现象 结论 完整的 家庭实验有哪些可以做啊 Na2O2计算问题一含C、H、O的物质ag在氧气中充分燃烧后产物被Na2O2吸收,符合通式(CO)m(H2)n的产物还是ag,为什么?那什么时候产物会小于ag?( ⊙o⊙?) 长期存放的亚硫酸钠可能会被部分氧化,现通过实验来测定某无水亚硫酸钠试剂的纯度.实验步骤如下:(1)称量a克样品,置于烧杯中.(2)加入适量蒸馏水,使样品溶解.(3)加入稀盐酸,使溶 小学科学实验在空瓶子口上套一个小气球,先把他放在热水里,再把他放在冷水里 Na2O2的阴阳离子分别是什么 实验室有一瓶亚硫酸钠试剂,已经被氧化成硫酸钠.某学生设计如下实验来确定其纯度.BaCL2溶液过量的目的是 科学实验设计方案证明.的事业1实验目标:.2.实验器材.3.4.实验现象.5.试验推理.6试验结论. Na2O2和Na2O2的阴阳离子个数比相同吗? 实验室有一瓶亚硫酸钠试剂,已经被氧化成硫酸钠.某学生设计如下实验来确定其纯度.已知往溶液里加盐酸发生如下反应2HCL+Na2SO3=2NaCL+SO2↑H2O(1)有以下实验操作步骤,其正确的操作顺序是-----A 某学生实验过程中获得以下数据,不合理的是A.用10ml的量筒量取了8.5ml浓硫酸B.用托盘天平称得某大理石样品质量为23.5gC.用pH试纸测定某工厂排放的污水pH=5.20D.测的某粗盐中氯化钠的质量分数 Na2O2阴阳离子数之比?是不是1: 验证亚硫酸钠是否变质的试剂根据反映现象判断,未变质,部分变质,全部变质. 你认为下列实验测得的数据不合理的是( ).A用pH试纸测得某河水的pH值为6.24.B用托盘天平称得氧化铜粉末的质量为11.5g.C用10ml量筒取8.5ml的溶液.D测得某粗盐中氯化钠的质量分数为90.5%.请告诉
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn