说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

Google新论文 CPI²:基于Linux的世界级跨数据中心服务器CPU监控

HTML文档下载 WORD文档下载 PDF文档下载
搜索巨头近期又公布了两篇新的论文:其中一篇为CPI²,实现跨数据中心对每台服务器的CPU性能进行监控,更主要的是建立于Linux之上;另一篇则是Omega,Google的大规模集群调度技术。本文专注于CPI²。

Google已经实现世界级数据中心服务器监控,新的技术可以监控世界范围内每台服务器上的每个任务;其最终目的是通过这些数据有选择对进程进行干预、甚至是关闭该进程让同CPU上的其它进程得以运行。

搜索巨头在技术论文(PDF)中详细的描述了这一世界级监视技术的实现方法,相信使用大型基于Linux云计算基础设施的机构都会对此感兴趣。

论文中写道:

性能隔离是云计算的主要挑战。不幸的是,Linux缺少对共享资源(比如:处理器缓存、存储器总线等)中性能干扰的防御;这样的话,公有云中的应用程序将无法避免来自邻居们的干扰。

CPI²方案使用从硬件性能计数器获得的CPI(cycles-per-instruction,平均指令周期数)数据检测问题,中断或者关闭“问题”进程从而达到预期的效果,当然它会根据相同作业中大量任务数据认知这个任务的反常与否。

本质上讲,CPI²让Google可以在集群上万个CPU核心中隔离单个核心上的单个性能低下任务,对这个任务进行检查并进行操作,而造成的CPU开销甚至不到0.1%。它并不需要特殊的硬件支持,唯一的软件依赖恰是使用Linux。

CPI²允许Google收集任何指定指令的预期CPU CPI,从这些数据中分析出标准的资源配置文件,然后使用这些标准的配置文件去帮助网络巨头确定哪些任务比一般情况下耗费了更多的CPI,从而解放与这些任务使用相同CPU的其它进程。

Google称,其绝大多数机器上都运行着多任务。作业的处理类型分为实时处理和批处理两种,同时这些作业由大量的任务组成。Google服务器上96%的任务都会与至少10个的任务组成一个作业,而87%左右的任务会与100或以上的任务组成一个作业。

但是这些任务可能会相互干扰,导致处理器缓存和内存分配问题,造成应用中的某个任务延时飙升——这正是Google不惜一切代价都想避免的问题。

为了实现任务流下每个处理器的控制,Google使用CPI监视所有运行的服务器。通过测量处理器硬件计数器,然后用CPU_CLK_UNHALTED.REF除以INSTRUCTIONS_RETIRED来获得CPI数据。

通过计算模式下的perf_event工具,Google每分钟都会收集一个长为10秒周期的数据。系统中总CPU的开销低于0.1%,并且不会对延时产生影响。


因为集群需要跨大量的平台运行,CPI的目的在于体现各种平台下的CPU运行情况。CPI的值通过每台机器上的agent进行本地分析和测量。agent通常会被给予作业中任务预期最常见的CPI分布,所以它可以独立的分析出运行的正常与否。

如果agent发现有“victim”任务受到影响变得缓慢,它将会每秒一次的对“antagonist”任务进行干涉。agent会使用一个算法来判断“antagonist”任务的CPU占用增加与“victim”任务的迟缓是否曾在关系,依据的则是指令的周期数。

如果agent识别了一个“antagonist”并发现它是个批量作业,系统将会“通过CPU hard-capping来强制减少‘antagonist的CPU占用率’”。

鉴于CPI²和Omega论文的联合作者中都有John Wilkes,Google很有可能是通过Omega(Google大型基础设施管理系统的一个组件)给agent发布任务。

“antagonis”任务的配置文件与CPI数据进行的是离线的记录和存储,这样管理员就可以通过Google的主要网络分析工具Dremel进行查询。

Google工程师使用Dremel进行性能取证,用以确定“antagonists”任务,在将来他们可能为“antagonists”任务重新制定策略,让它们在单独的主机集中运行,然后使用这个调度进度来彻底的避免这个问题。

其中有一个需要改进的方面是处理多个“antagonists”,它将会复杂化算法;另一个则是为capping任务建立的反馈途径。

论文中写道:“即使这两方面还未改善,但是CPI²是个强大的、实用的工具。”

使用CPI²获得应用性能可行信息的开销比Google其它方案来的更少,这里还存在一个被称为“Google-Wide Profiling”可同时对硬件和软件性能进行追踪的平行技术,但是只在Google小范围的进行使用。

从整体上看,CPI²提供的不只是管理,更倾向于让集群运行的更加稳定、效率。如果你在执行搜索或者查看Gmai、通过Google服务查找地址时发现比平常需要更多的时间,那么你可能就会被CPI²冷酷及无情的当做是“antagonists”。

原文链接: Google: 'We'll track EVERY task on EVERY data center server'(编译/仲浩 王旭东/审校)

相关链接:

CPI²论文下载地址: PDF

Omega论文下载地址: PDF

“  第五届中国云计算大会 ”将于2013年6月5-7日在北京国家会议中心隆重举行。猛击报名!

相关活动已经火热启动:

2013中国云计算大调查,每周大奖等你拿! “

Innovation Cloud 2013云创新产品与应用项目征集,欢迎研发者、团队和创业企业参加!

把文件置入到Text或RichText中 -VB资料 避免按 [ENTER] 回车键产生的“嘀”声 -VB资料 避免使用全局变量-VB资料 避免装载多份应用程序-VB资料 不定个数的参数 -VB资料 不在任务栏中显示,只能在Ctrl+Alt+Del对话框中显示或者干脆什么也不显示数 -VB资料 处理 Dropdown List型 Combo的录入问题-VB资料 VB创建和删除快捷方式 从程序中生成 exe 文件 -VB资料 打开和关闭CD-ROM 驱动器 -VB资料 打开和关闭其他应用 -VB资料 打开一个超连接 -VB资料 当前操作系统的语言集-VB资料 当前系统目录-VB资料 得到磁盘上剩余空间的值-VB资料 调用“添加打印机”对话框 -VB资料 调整分辩率和取当前分辩率 -VB资料 定义全局热键-VB资料 动记录应用软件工作时间-VB资料 动态改变屏幕设置-VB资料 读取档案的建立时间及存取时间 -VB资料 多个参数的属性 -VB资料 发现剪帖板的秘密 -VB资料 发现拖(Drap)过来的信息 -VB资料 防止打开同个VB应用多个实例 分割图像的原理 -VB资料 封面的设计 -VB资料 改变 Win95 的 Shell -VB资料 改变墙纸 -VB资料 格式化磁盘 -VB资料 跟我学用ActiveBar-VB资料 如何调用系统默认打印机的属性! 请教新手问题~~~麻烦哪为大侠给解释解释~谢~ 如何用struts实现阴阳色列表? 怎么用vb建立一个数据库呀?注意,不是一个表,是一个数据库! 如何调用系统默认打印机的属性! 一个很老很过时的数码相机。 郁闷,超级简单题目 初学ASP,请教学习心得 我的机器怎么老死机?? 两级表单动态联接?急,急,急!!!!!????? ---见了鬼了,Jre不好用!!!--- 寻求把中文字符串转换为十六进制的串的ORACLE函数? 电力学院惊魂 一條語句 數據庫日誌就寫滿了 怎样获得系统的字体!急!谢谢了! 谁有用java做的聊天系统程序(当作业)分不够可再给 在CB中如何动态的管理窗体 如何调用系统默认打印机的属性! API动态调用问题(很奇观) 好久没有发帖子了,现在心情奇好,兄弟们来接分! 在CB中如何动态的管理窗体 求C#网络编程书籍下载~ 简单问题,在线等待。可以在加分。 请教一题目! thanks sdany java 中能不能实现一个数字键盘 关于重定位 菜菜问题:让VB画出sin(x)和log(x)的函数图象怎么做?刚学VB的,x可以取任意的值! thanks sdy 模拟鼠标键???? 弱智问题,请原谅 我需要帮助~~~~!!!!! 请教:用LoadImage()载入的光标资源,当光标尺寸大于32*32时,显示不正常? cls 怎么用??? 请问<%=type2(RS("qi_type2"))%> 是什么意思? 招ASP程序员,工作地点杭州. ORACLE9i中的storage怎么不起作用了? 评评<<离散数学及其应用>>.我有些题目不会做呀.比如和费马小定理有关的.呵呵 谁能告诉我程序员考试是每年的什么时候啊?? 声音设备问题? 关于字符串输出 利用VB写SQL语句的问题(实现删除功能) 太岁灭城 晋中鬼事之二 (书雅) 有关上传数据库的问题? asc码为13的在jsp里用什么表示? GetCurSorPos声明在哪里? 信誉值怎么升高?怎样提高可用分?我的分太少了! help:中文字段update出错 用VB写SQL语句实现删除功能的问题。 请问怎么发布带有Query组件的odbc引擎的activex程序?急 EXCEL里某一行的行高是100,这个100是什么意思? 霞霞不听话好看的繁体字 求具体过程及答案 题目是这样的 一辆汽车的发动机的额外功率为6*10^4W 水平面匀速行驶受到的阻力是1800N 在额外功率下 当汽车匀速行驶时 求:1 发动机所提供的牵引力大小?2 行驶速度的大小?3 行驶5min牵引力 The man had had an uncomfortable trip.He was very hungry.(not only……but……as well)用括号中的连词改写上面的句子,具体说啊, 支离破碎这个词语有什么样意思!代表什么!它的意思 已知数列an的通项公式为an=以(n+1)为底(n+2)的对数.则它的前n项之积为? 画一张画,和一篇作文! 急死了不知道到明天晚上有没有回答,所以先放20分,有人回答,并且我满意的加50!言归正传,我所学的是哲学基础知识(第二版),高等教育出版社的.都是辨析题,然你说明下面的是否正确.1:追 为什么当车轮高速运转是你会觉得它是在倒转? the man had had an uncomfortable trip.he was very hungery (not only-but-as well)he had not eaten anything for thirteen hours.he had not drink anything for thirteen hours(neither-nor)wollen goods cannot be eaten.at least they are soft.the man had had 二 马克思主义哲学产生的自然科学前提有(  ) (5.0 分) 能量守恒和转化定律 达尔文生物进论     康德星云假说     细胞学说     2.费尔巴哈唯物主义哲学的主要缺陷有( 德语复数的若变化动词是不是都变成-en? 一倾角为30度的斜面放置在粗糙的水平面上,质量m=4kg的物体以a=3m/s^2的加速度沿斜面下滑,而斜面体M保持相对静止,求M于地面的摩擦力大小答案是6倍的根号3额! 假如说我今天用望远镜看见10E光年一个星球爆炸,那是10E光年钱的事情吗? modest dividend是什么意思 为什么汽车定位比手机定位快 一物生来真奇怪,它是世界一盘菜,娘死以后它才生,它死以后娘还在.(打一微生物) 哲学基础作业00081.划分唯物主义和唯心主义的唯一标准是( ).A.对思维和存在何者为第一性的回答B.是否承认世界只有一个本原 C.有否高尚的理想D.是否信仰上帝或菩萨 满分:2 分2.现代科技 诺曼底号遇难记读后感j急 “一切恩爱会,无常难得久.生世多畏惧,命危于晨露.因爱故生忧,因爱故生怖.若离于爱者,无忧亦无怖. dividend smoothing是什么意思 Be early to.还是 be early for 由爱故生忧,由爱故生怖.若离于爱者,无忧亦无怖. 美国独立战争介绍 try to be 求求你们了一根电阻丝的电阻为R=16欧姆,将他做成正方形求(1)A B两点间电阻R AB为多少欧姆?(2)AC两点之间电阻RAB为多少欧姆? 什么是支离破碎? 诺曼底号遇难记读后感五年级水平 假如战斗机在飞行当中突然爆炸,此时的飞行员没有来得及跳伞,那么这个飞行员还有没有生还的可能了?XIE XIE HUI DA. 要详细过程和答案,谢谢啦! be early和early有意思和词性上的区别吗be early是短语吗?是固定搭配吗?---------------------------------He is always early for workHe always finish homework early上面两句表述都对吗? 有关光电效应的一个问题什么是光电效应的阻遏电位(即stopping potential)啊?谁能给解释下. 求解答,要详细过程,谢谢! 如何通过实验确定各转录因子的功能? 小丽每分钟跳绳160下,小李每分钟跳的数量比小红少九分之一,比小华多七分之一.求小红和小华每分钟各跳多少下 多项选择,本大题共10个小题,每小题 4.0 分,共40.0分.在每小题给出的选项中,有一项或多项是符合题目要求的.1.下列命题中属于主观唯心主义的有:( ) A.物是感觉的复合B.宇宙便是吾心,吾心 诺曼底号遇难记读后感300字,急 bonus和dividend的区别?请不要复制词典的内容!最好给出一些例子来, 方程组2x+3y=k,3x+5y=k+2,中x与y的和为12,求k 2 3小题,写纸上,先答先采纳, 如何区分INTEREST的两种意思INTEREST什么时候表达利益的意思,什么时候表达兴趣~以前老师也说单复数,但我在书上看到一句不同的兴趣是"DIFFERENT INTERESTS".对了,还有,表达兴趣的INTEREST一定是不可 英语翻译:谁知道:Dividend equivalent did you leave the park early yesterday afternoon?no,I__there___it was closed.A left;before B stayed;until C was staying;after D was leaving;until dividend与divedent的区别equals 与equal,equation的区别 ( )田野里( )盛开着( )鲜花 日记快 可变成本与不可变成本的含义 课程的名子叫做《毛泽东思想、邓小平理论和“三个代表”重要思想概论》!就是我们平时说的“毛、邓、三”.作业的要求是这样的:字数1500字左右!大标题:中国特色社会主义建设的关键--- 韩式如何画眉毛 固定成本和可变成本的问题当产量增加时,单位产量上摊销的固定成本就会减少,而可变成本不发生变化,其总成本将减少? ()在田野里()盛开着()的鲜花 关于光电效应的一道题“若激光束射入玻璃球之前能使某种金属发生光电效应现象,通过玻璃球时由于有能量损失,穿越玻璃球后射出就有可能不能使该金属发生光电效应现象”这句话为什么 以下哪些是可变成本,哪些是固定成本?外购原材料,外购燃料及动力,工资及福利,修理费,折旧费,摊销费,财务费用,其他费用哪些是可变成本,哪些是固定成本?如果折旧和摊销都采用直线折旧法 大学物理实验数据处理问题 测量值是,200.5.不确定度是0.04.求实验结果该怎么表示? 霞用韩国文字怎么写 总成本包括固定成本和可变成本, 一道物理题-关于汽车的汽车在加速的时候受的是平衡力吗?还有在功率一定的条件下 P=F牵引·V 那么汽车的牵引力和摩擦力是一对平衡力吧汽车的摩擦力大小没变 汽车走动不是靠二力平衡吗? 天上的彩虹,什么万丈,好看极了.用霞组词 支离破碎的意思 一道物理题,关于车的= =!甲乙两列火车,甲长120米,乙长80米,两车同向行驶时的超车时间为40秒,两车相向行驶时的错车时间为8秒,如果甲快乙慢.求甲乙两车的速度各是多少?PS:要有过程啊...最好 芝加哥农产品期价30日涨跌互现韩21名国会议员访问朝开城园区美男子手机“防弹护主”全球首条欧亚海底铁路隧道通车华人要求辱华美媒体道歉“甲壳虫”主唱故居获拍77万 列侬遗美国再发灭门惨案 狂徒强杀前女友一家约旦谴责以色列政府决定在耶路撒冷兴建叙利亚副总理贾米勒被解职都江堰拍到野生大熊猫视频:倒立撒尿圈美情报高官供出欧洲盟友 中国5城市上出差“一夜情”伤脸 澳最高法:不算工普京酷爱百达翡丽 萨科齐最爱Prad津巴布韦男蝉联“最丑先生”美男子遭遇车祸脑部创伤不能交流 女友调查总结女性二十“怕”普京力压奥巴马当选《福布斯》全球最有格鲁吉亚警告:别政治化冬奥会法国情侣将女婴弃于轿车后备厢 涉虐待媒体称比尔·盖茨西雅图豪宅的新邻居多《斯大林格勒》曾欲邀周润发,片酬过高千余家庭参与亲子文化公益池州土地承包经营力解“确权烦恼”黄梅戏《雷雨》电影版年内上映送医送药进灾区广西:男子被骗光家中积蓄 背着妻子接宿州举办首届青年创业大赛四项目列入公共建筑能效提升示范工程为纪念,更为记住ICU病房里接受治疗的消防员省青少年拳击锦标赛开战天长低保金按时足额发放农民工喜入工会蚌埠公布终身禁驾40人名单恪尽职守 以严格的责任到位抓落实党徽在风雨中闪耀合肥蜀山区构建“两委两站”社区治理格故宫与西藏签署合作框架协议人民币贬值压力获一次性释放省城商业风云再起 地产群雄逐鹿争锋向着伟大胜利,敬礼!聚焦区域发展放大“最美”效应
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘