说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

Google新论文 CPI²:基于Linux的世界级跨数据中心服务器CPU监控

HTML文档下载 WORD文档下载 PDF文档下载
搜索巨头近期又公布了两篇新的论文:其中一篇为CPI²,实现跨数据中心对每台服务器的CPU性能进行监控,更主要的是建立于Linux之上;另一篇则是Omega,Google的大规模集群调度技术。本文专注于CPI²。

Google已经实现世界级数据中心服务器监控,新的技术可以监控世界范围内每台服务器上的每个任务;其最终目的是通过这些数据有选择对进程进行干预、甚至是关闭该进程让同CPU上的其它进程得以运行。

搜索巨头在技术论文(PDF)中详细的描述了这一世界级监视技术的实现方法,相信使用大型基于Linux云计算基础设施的机构都会对此感兴趣。

论文中写道:

性能隔离是云计算的主要挑战。不幸的是,Linux缺少对共享资源(比如:处理器缓存、存储器总线等)中性能干扰的防御;这样的话,公有云中的应用程序将无法避免来自邻居们的干扰。

CPI²方案使用从硬件性能计数器获得的CPI(cycles-per-instruction,平均指令周期数)数据检测问题,中断或者关闭“问题”进程从而达到预期的效果,当然它会根据相同作业中大量任务数据认知这个任务的反常与否。

本质上讲,CPI²让Google可以在集群上万个CPU核心中隔离单个核心上的单个性能低下任务,对这个任务进行检查并进行操作,而造成的CPU开销甚至不到0.1%。它并不需要特殊的硬件支持,唯一的软件依赖恰是使用Linux。

CPI²允许Google收集任何指定指令的预期CPU CPI,从这些数据中分析出标准的资源配置文件,然后使用这些标准的配置文件去帮助网络巨头确定哪些任务比一般情况下耗费了更多的CPI,从而解放与这些任务使用相同CPU的其它进程。

Google称,其绝大多数机器上都运行着多任务。作业的处理类型分为实时处理和批处理两种,同时这些作业由大量的任务组成。Google服务器上96%的任务都会与至少10个的任务组成一个作业,而87%左右的任务会与100或以上的任务组成一个作业。

但是这些任务可能会相互干扰,导致处理器缓存和内存分配问题,造成应用中的某个任务延时飙升——这正是Google不惜一切代价都想避免的问题。

为了实现任务流下每个处理器的控制,Google使用CPI监视所有运行的服务器。通过测量处理器硬件计数器,然后用CPU_CLK_UNHALTED.REF除以INSTRUCTIONS_RETIRED来获得CPI数据。

通过计算模式下的perf_event工具,Google每分钟都会收集一个长为10秒周期的数据。系统中总CPU的开销低于0.1%,并且不会对延时产生影响。


因为集群需要跨大量的平台运行,CPI的目的在于体现各种平台下的CPU运行情况。CPI的值通过每台机器上的agent进行本地分析和测量。agent通常会被给予作业中任务预期最常见的CPI分布,所以它可以独立的分析出运行的正常与否。

如果agent发现有“victim”任务受到影响变得缓慢,它将会每秒一次的对“antagonist”任务进行干涉。agent会使用一个算法来判断“antagonist”任务的CPU占用增加与“victim”任务的迟缓是否曾在关系,依据的则是指令的周期数。

如果agent识别了一个“antagonist”并发现它是个批量作业,系统将会“通过CPU hard-capping来强制减少‘antagonist的CPU占用率’”。

鉴于CPI²和Omega论文的联合作者中都有John Wilkes,Google很有可能是通过Omega(Google大型基础设施管理系统的一个组件)给agent发布任务。

“antagonis”任务的配置文件与CPI数据进行的是离线的记录和存储,这样管理员就可以通过Google的主要网络分析工具Dremel进行查询。

Google工程师使用Dremel进行性能取证,用以确定“antagonists”任务,在将来他们可能为“antagonists”任务重新制定策略,让它们在单独的主机集中运行,然后使用这个调度进度来彻底的避免这个问题。

其中有一个需要改进的方面是处理多个“antagonists”,它将会复杂化算法;另一个则是为capping任务建立的反馈途径。

论文中写道:“即使这两方面还未改善,但是CPI²是个强大的、实用的工具。”

使用CPI²获得应用性能可行信息的开销比Google其它方案来的更少,这里还存在一个被称为“Google-Wide Profiling”可同时对硬件和软件性能进行追踪的平行技术,但是只在Google小范围的进行使用。

从整体上看,CPI²提供的不只是管理,更倾向于让集群运行的更加稳定、效率。如果你在执行搜索或者查看Gmai、通过Google服务查找地址时发现比平常需要更多的时间,那么你可能就会被CPI²冷酷及无情的当做是“antagonists”。

原文链接: Google: 'We'll track EVERY task on EVERY data center server'(编译/仲浩 王旭东/审校)

相关链接:

CPI²论文下载地址: PDF

Omega论文下载地址: PDF

“  第五届中国云计算大会 ”将于2013年6月5-7日在北京国家会议中心隆重举行。猛击报名!

相关活动已经火热启动:

2013中国云计算大调查,每周大奖等你拿! “

Innovation Cloud 2013云创新产品与应用项目征集,欢迎研发者、团队和创业企业参加!

除了乔布斯的鼠标 值得装入时间胶囊的十大科技产品 2013中国互联网安全大会:云环境带来的安全隐患和机遇 2013中国互联网安全大会:软件安全新挑战 专访Line大中华区总裁:即使卖萌,也能深入人心 iOS开发者必备:四款后端服务工具 市场研究公司:iPhone5C/5S成本分别是173、199美元 对软件开发有利的5个敏捷编程方法 移动端性能大比拼:CSS Sprites vs. Data URI 三大峰会七大论坛,2013移动开发者大会将于11月在京举行 黑莓47亿美元收购的背后 微软或成最大受益者 搜索大战升级:360搜狗相互起诉对方不正当竞争 诺基亚将于10月22日发布6款新产品 平板Lumia 2520等 从17美元到50美元 Facebook股价上涨背后的两大关键 12个理由:为什么我会认为Android比iOS 7好! AMD推 "Mantle" API 欲释放GPU全部潜能 Salesforce架构:日事务过13亿,2.4万TPS的数据库峰值 久违的iOS,新鲜的SDK,豌豆荚发布云相册 喜大普奔:谷歌15岁了,生日快乐! 传福特CEO Alan Mulally目前最有希望执掌微软 微软计划将WP8和Win8应用商店合并?太好了! 响应开发者要求:Kinect for Windows SDK 1.8发布 OpenStack基金会BD总监:希望有更多的中国公司加入 CTO如何避免决策失控(三):从CEO角度看CTO的应对能力 IT界需求最旺的16项技能 PMC发布8系列RAID卡 找准国内互联网企业需求 早Google一步,eBay数据中心率先搭载了火星上使用的技术 目标专利2000,技术研发人员占55%,斐讯的厚积薄发 SwiftStack CEO:分布式存储的未来 触控陈昊芝:“好声音”标王对移动游戏未来的预测 Office将更强大:微软正开发Office Reader和Office Lens 百度技术专家详解Clouda 并称计划推出相应UI解决方案 大家晚上好,怎么让我的程序里有一小块是网页的内容呢?(全部家档!!) 关于Database和Session的问题!火急!(快乐的程序员) jsp+mysql如何在linux上配置 有知道黑龙江高程查分方法的吗????? *******我要一个这样的类:显示淡入淡出的菜单(最好还能有半透明的功能) *************** 特急,各位帮忙。怎么样在字符串中包含'(单引号)? 高分求助用paradox数据库保存JPEG图片的代码,我试过网上好多都没成功。markoni@21cn.com 吴文智、袁飞、Jinesc、Jneu、Amoon、ttyp、icevi、progame 快请进 请教一个表与表之间比较数据的问题,由于数据量大,造成事务不够,请教解决方案 execcommand的使用方法求救。高手请进,一定给分。 我的时钟怎么回事? Matlab论坛 打印机的取消按钮 dbgrid中当某个单元格失去焦点时触发什么事件? 关于Database和Session的问题!火急! yanxu1 学习unix下的c编程,该如何学?请介绍方法,资料什么的--我对unix和c都还熟悉。 打印机死机作何解?????? 我是新来的,请各位大哥、大姐们多多关照!!!(有内容) 再次发问关于sql server7的问题?? SQL SERVER中的一个触发器的问题!!! xml里有什么method可以取得子节点在父节点中的位置(序号)? please help me 怎么样才可以把系统存储过程的结果写到结果集里? 如何声明和使用自定义对象(如:Tdataset)的事件(beforecancel)?? 一个奇怪的问题? 各位兄弟,谁知道哪里有pb7的下载? 天呐 我提的问题从来没人回答 SQL Server小小问题 请问那里有DELPHI第二张光盘下载! 如何是使用describe来获取datawindow中的带区参数? 谁有早期的TeeChart5.ocx,文件大小为2,576,384,发行日期在2001-06-17号以前的,我这里有个crack软件,但是新下载的不行,所以重金寻求!!! 请问C语言中有字符串查找函数吗? 请问如何动态的改变应用程序的图标,一定给分 Query主从表编辑问题,从不丢失! 急急急!!!! 高分求禁止IE的自动谈出的广告,有个软见也行,或者告诉实现方法。请告诉下载的网址。 打印一些清单在delphi中用哪些控件比较好? 如何打印到文件 如何得到WINDOWS的拼音字库 如何在BCB中进行SDK编程? 一个简单关于对话框的问题------->> 用asp将图片插入数据库,到底错在哪?苦恼啊!以前这个也通过了(win2000server+Sql7.0)但...(高分!!!!) 为什么我在Access2000的mdb中只能最多得到一条记录? 男人25岁就大吗? 关于 C 类IP的屏蔽 配置为COM+组件后,CoCreateInstance 失败! 关于C 类 IP的屏蔽 有谁知道本.拉登的QQ,俺找他有事?重奖`~~~~~~~~~~~~~~~~~~~! 有没有人告诉我,HTTP头跟正文中间夹的什么? 请问asp和php能访问webservice吗??? 如何一打开NOTE客户端就执行我的数据库(不能设书签)? 把60L水倒一个棱长为5dm的正方体容器里,水的高度是( )dm 一个圆柱底面半径4dm,高3dm和它等底等高的圆锥体积() 啥是中图分类号呀? 什么叫转基因食品? 把一个底面直径是4dm,高是3dm的木质圆柱加工成最大的圆锥,这个圆锥的体积是多少? 中图分类号怎么查询 一个长方体,它的宽和高相等,如果把长去掉2.5厘米,就成为一个表面积是150平方厘米的正方体.那么原来长 1.有关“转基因”的资料,转基因技术的由来.——————————————————————————————————2.“转基因食品”是有益还是有害?请找到相关材料,说明.————— 两个底面积相等的圆柱和圆锥,圆柱的高为4.5dm,体积是81dm3,而圆锥的高为3dm,它的体积是多少? 王叔叔在加油站加了40升汽油,开车去距离加油站200千米的省城办事.每升油行驶8千米,到达省城时还剩下多少升油 小明和父母一起开车到距家200千米的景点旅游.出发前,汽车油箱内储油45升;当行驶150千米时,发油箱剩余油量为30升.(1)写出用行驶路程x(千米)来表示剩余油量Q(升)的代数式 在“绿满梅州”活动中,某镇要从外地运一批树苗,第一次运了520棵,第二次运了总数的12分之5,两次共运了总数的85%.两次共运树苗多少棵? 6、司机王叔叔在加油站加了30升油后,去距离加油站180千米的公司去办事,按每升汽油可行驶8千米计算,要想着回来还需要加多少升汽油? 小强和父母一起开车到距家150千米的景点旅游.出发前,汽车油箱内储油20升,当行驶120千米时,发现油箱剩余油量为10.4升.如果油箱中剩余油量少于3升时,汽车将自动报警.(1)如果汽车平均每一 转基因食品会不会造成基因污染潜在危险?国家对转基因食品态度如何? 汽车消耗1升汽油可行驶6.4千米.已经加了45升气油,去距离加油站15O千米的地方,往返一次,汽油够用吗?为什么? 小明和父母一起开车到距家200千米的景点旅游.出发前,汽车邮箱内储存油45升,当行驶150千米时,发现剩余油量为30升.(1)已知邮箱内储存剩余油量y是行驶路程x的一次函数,求y与x之间的函数关 转基因食品好吗 方舟子为什么要批评钱学森是伪科学家?两弹一星是方舟子造出来的? 有小强和父母一起开车到距家150千米的景点旅游.出发前,汽车油箱内储小强和父母一起开车到距家150千米的景点旅游.出发前,汽车油箱内储油20升,当行驶120千米时,发现油箱剩余油量为10.4升.如 元旦期间,某商场搞优惠活动,决定由顾客抽奖确定折扣,某顾客买甲、乙两种商品,分别抽到7折和9折,共付款386元,这两种商品原售价之和为500元,问这两种商品的原售价分别是多少元? 12.某超市为“开业三周年”举行了店庆活动.对 、 两种商品实行打折出售.打折前,购买5件 商品和1件 商品 小明到距家200千米的地方旅游,汽车油箱内储油45升,当行驶150千米发现剩油量是30 升,已知油箱内余油量y升是行驶路程x千米的一次函数,求函数关系式 一个长方形的周长未24dm,如果它的长和宽各增加3dm,得到的新长方形比原来的长方形的面积大多少平方分米? 超市为“开业三周年”举行了店庆活动.对AB两种商品实行打折出售.打折前,购买5件A商品和一件B商品需要84元;购买6件A商品和三件B商品需要108元.而店庆期间,购买50件A商品和50件B商品仅需960 我市环保局将一个长为2×10分米,宽为2×10分米,高2×10分米的长方体废水池中的满池废水注入正方体储水池中净化.那么请你考虑一下,能否恰好有一个正方体储水池将这些废水刚好装满?若有,求 要做一个底面周长是18dm、高3dm的长方体框架 至少需要多少dm长的铁丝拜托各位了 3Q 某超市为“开业三周年”举行了店庆活动,对A、B两种商品实行打折出售,打折前购买5件A商品和1件B商品需用84元;购买6件A商品和3件B商品需用108元,而店庆期间,购买50件A商品和50件B商品仅需960 什么是转基因食品, 圆的直径增加5dm,周长增加多少dm?圆的半径增加3dm,周长增加多少dm? 把一个长为2×10的3次方分米,宽为4×10的2次方分米,高为80分米的长方体废水池中的废水注入正方体储水池净化,已知正方体储水池的棱长为5×10的2次方分米,这些废水能否一次注入到储水池内净 某市环保局欲将一个长为2*10的4次方cm,宽为4*10的3次方cm高为8*10的2次方cm的长方形水池中的水,正好注满个正方形的水池,求正方体的棱长 转基因食品的利与弊不要转的、要少一点、字别太多就行、、、、、速度的来字也不要太少、、、、、、、、、、、、、 市环保局将一个长为2×10的6次方,宽为4×10的4 次方分米,高为8x10的2次方分米的长方体废水池注入一个正方体贮水池进行净化,请你通过计算考虑,能恰好有一个边长为整数的正方体贮水池,正好 青州市的环保局将一个长为2×10的三次方分米,宽为2×10的二次方分米,高为2×10分米的长方体水池的废水注入正方体水池净化,那么考虑一下,能否恰好百一个正方体水池将这些废水刚好装完?若 转基因食品的利与弊 说的越简单越好 OK 一辆汽车的油箱长50厘米,宽40厘米,高30厘米.如果每升汽油可以行驶10千米,当行驶400千米后,油箱里大约还剩下多少千克汽油?{已知每升汽油重0.82千克} 运一批树苗,第一天运了146棵,第二天运了154棵,两次运的数量比总数少1/4,这批树苗一共有多少棵?列方程 吃转基因食品的利与弊? 方舟子是谁 初二数学上册书上复习题B组第3题 某商场购进商品后,加价40%作为销售价,商场搞优惠促销,决定由顾客抽奖某商场购进商品后,加价40%作为销售价,商场搞优惠促销,决定由顾客抽奖确定折扣,某顾 关于转基因食品的利与弊的短篇英语作文 对的方舟子评价一下我个人挺喜欢方舟子的,他正义,实事求是.看见好多网友的评论有表扬的也有批评的,批评声中不乏文采超好的人.方舟子有错吗?只不过说了真话而已. 某商场购进商品后 加价40%后作为销售价.现商场搞优惠促销活动,决定出顾客抽奖确定折扣.一人买了一双鞋和一个包,分别抽到七折和九折,共付款109.2元,两商品原销售价之和140元,鞋和包进价各 转基因食品利与弊的作文 把60升的水倒入一个棱长为5dm的正方体水箱中,水深()dm 某汽车行驶时油箱中余油量Q千克与行驶时间t小时的关系如下:写出时间t表示余油量Q的代数式行驶时间t小时 余油量Q千克1 36-62 36-123 36-184 36-245 36-30 元旦期间,某商场搞优惠活动,决定由顾客抽奖确定折扣,某顾客买甲、乙两种商品,分别抽到7折和9折,共付款386元,这两种商品原售价之和为500元,问这两种商品的原售价分别是多少元? 请详细解 把100升的水倒入一个棱长为5dm的正方体容器里,水的高度是多少dm? 某汽车行驶时油箱中余油量Q千克与行驶时间t小时的关系如下:写出时间t表示余油量Q的代数式行驶时间t小时 余油量Q千克1 36-62 36-123 36-184 36-245 36-30提问:当T=二分之三时,余油量Q的值为多少千 运输队运一批货第一次运了比总数的百分之四十少十五吨第二次运了48吨后剩的比总数的八分之一多五顿这批货共几吨 把48L(升)水倒入一个棱长为4dm(从里面量)的正方体容器中,水深多少dm? 一辆油箱装满油的汽车,在速度不变的情况下,汽车油箱中余油量Q(千克)与行驶时间t(小时)之间的关系为Q=kt+b,已知车速为40千米/时;当t=0 时,油箱中余油量为60千克;汽车行驶了8小时,油箱中余 把一个底面直径为8DM,高3DM的圆柱形钢材,榕成一个直径为12DM的圆锥形,能熔筹多高 今年“十一”黄金周,超市A和超市B都进行了让利销活动(2个超市东西价格都一样的)超市A是20购买为( )元的商品,A、B超市都合适?思路 数学一辆油箱装满油的汽车,在速度不变的情况下,汽车油箱中余油量Q(千克)与行驶时间t(小时)之间的关系为 Q=kt+b,已知车速为40千米/时;当t=0 时,油箱中余油量为60千克;汽车行驶了8小时,油箱 一个底面周长为6.28dm,高3dm的圆柱形钢材熔涛成一个圆锥.这个圆锥的底面积是1.5平方分米,高多少分米? 把100生的水倒入一个棱长为5dm的正方体容器里,水的高度是多少dm? 转基因食品有什么影响?最近看到一篇博文,说金龙鱼是外商操纵的傀儡,产品原料都是转基因的,还牵扯到一个世界级的惊天阴谋——西方预谋用转基因食品让中国人种族灭绝.有那么严重吗?说 把高5分米,底面直径3dm的圆柱形钢材,切成一个最大圆锥,这个圆锥体积是?切掉部分还可以做几个这样的圆
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn