说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

Google新论文 CPI²:基于Linux的世界级跨数据中心服务器CPU监控

HTML文档下载 WORD文档下载 PDF文档下载
搜索巨头近期又公布了两篇新的论文:其中一篇为CPI²,实现跨数据中心对每台服务器的CPU性能进行监控,更主要的是建立于Linux之上;另一篇则是Omega,Google的大规模集群调度技术。本文专注于CPI²。

Google已经实现世界级数据中心服务器监控,新的技术可以监控世界范围内每台服务器上的每个任务;其最终目的是通过这些数据有选择对进程进行干预、甚至是关闭该进程让同CPU上的其它进程得以运行。

搜索巨头在技术论文(PDF)中详细的描述了这一世界级监视技术的实现方法,相信使用大型基于Linux云计算基础设施的机构都会对此感兴趣。

论文中写道:

性能隔离是云计算的主要挑战。不幸的是,Linux缺少对共享资源(比如:处理器缓存、存储器总线等)中性能干扰的防御;这样的话,公有云中的应用程序将无法避免来自邻居们的干扰。

CPI²方案使用从硬件性能计数器获得的CPI(cycles-per-instruction,平均指令周期数)数据检测问题,中断或者关闭“问题”进程从而达到预期的效果,当然它会根据相同作业中大量任务数据认知这个任务的反常与否。

本质上讲,CPI²让Google可以在集群上万个CPU核心中隔离单个核心上的单个性能低下任务,对这个任务进行检查并进行操作,而造成的CPU开销甚至不到0.1%。它并不需要特殊的硬件支持,唯一的软件依赖恰是使用Linux。

CPI²允许Google收集任何指定指令的预期CPU CPI,从这些数据中分析出标准的资源配置文件,然后使用这些标准的配置文件去帮助网络巨头确定哪些任务比一般情况下耗费了更多的CPI,从而解放与这些任务使用相同CPU的其它进程。

Google称,其绝大多数机器上都运行着多任务。作业的处理类型分为实时处理和批处理两种,同时这些作业由大量的任务组成。Google服务器上96%的任务都会与至少10个的任务组成一个作业,而87%左右的任务会与100或以上的任务组成一个作业。

但是这些任务可能会相互干扰,导致处理器缓存和内存分配问题,造成应用中的某个任务延时飙升——这正是Google不惜一切代价都想避免的问题。

为了实现任务流下每个处理器的控制,Google使用CPI监视所有运行的服务器。通过测量处理器硬件计数器,然后用CPU_CLK_UNHALTED.REF除以INSTRUCTIONS_RETIRED来获得CPI数据。

通过计算模式下的perf_event工具,Google每分钟都会收集一个长为10秒周期的数据。系统中总CPU的开销低于0.1%,并且不会对延时产生影响。


因为集群需要跨大量的平台运行,CPI的目的在于体现各种平台下的CPU运行情况。CPI的值通过每台机器上的agent进行本地分析和测量。agent通常会被给予作业中任务预期最常见的CPI分布,所以它可以独立的分析出运行的正常与否。

如果agent发现有“victim”任务受到影响变得缓慢,它将会每秒一次的对“antagonist”任务进行干涉。agent会使用一个算法来判断“antagonist”任务的CPU占用增加与“victim”任务的迟缓是否曾在关系,依据的则是指令的周期数。

如果agent识别了一个“antagonist”并发现它是个批量作业,系统将会“通过CPU hard-capping来强制减少‘antagonist的CPU占用率’”。

鉴于CPI²和Omega论文的联合作者中都有John Wilkes,Google很有可能是通过Omega(Google大型基础设施管理系统的一个组件)给agent发布任务。

“antagonis”任务的配置文件与CPI数据进行的是离线的记录和存储,这样管理员就可以通过Google的主要网络分析工具Dremel进行查询。

Google工程师使用Dremel进行性能取证,用以确定“antagonists”任务,在将来他们可能为“antagonists”任务重新制定策略,让它们在单独的主机集中运行,然后使用这个调度进度来彻底的避免这个问题。

其中有一个需要改进的方面是处理多个“antagonists”,它将会复杂化算法;另一个则是为capping任务建立的反馈途径。

论文中写道:“即使这两方面还未改善,但是CPI²是个强大的、实用的工具。”

使用CPI²获得应用性能可行信息的开销比Google其它方案来的更少,这里还存在一个被称为“Google-Wide Profiling”可同时对硬件和软件性能进行追踪的平行技术,但是只在Google小范围的进行使用。

从整体上看,CPI²提供的不只是管理,更倾向于让集群运行的更加稳定、效率。如果你在执行搜索或者查看Gmai、通过Google服务查找地址时发现比平常需要更多的时间,那么你可能就会被CPI²冷酷及无情的当做是“antagonists”。

原文链接: Google: 'We'll track EVERY task on EVERY data center server'(编译/仲浩 王旭东/审校)

相关链接:

CPI²论文下载地址: PDF

Omega论文下载地址: PDF

“  第五届中国云计算大会 ”将于2013年6月5-7日在北京国家会议中心隆重举行。猛击报名!

相关活动已经火热启动:

2013中国云计算大调查,每周大奖等你拿! “

Innovation Cloud 2013云创新产品与应用项目征集,欢迎研发者、团队和创业企业参加!

用Delphi设计拨动、跳线开关组件 用Delphi 设 计 拨 动、 跳 线 开 关 组 件 用Delphi实现JPEG格式图像的显示 用Delphi制作动态有声标签 运行时生成控件-Delphi资料 在DBGRID中实现COPY、PASTE功能-Delphi资料 在Delphi程序的About窗口中建立URL连接 在Delphi中利用Tbatch组件完成数据批处理 在Delphi中巧改窗体文件实现控件数组化 在Delphi中实现不同风格的SPEED和BUTTON 在Delphi中实现类似VB中的控件数组。 在RichEdit中的串查找-Delphi资料 在按钮中快速启动程序-Delphi资料 怎样读出MEMO控件的当前值-Delphi资料 怎样使用Delphi 5中的TExcelApplication操纵Excel 97/2000 怎样在TDataset中汉英混用-Delphi资料 制作可移动的窗体的MovePanel控件-Delphi资料 制作可移动的分割窗体-Delphi资料 制作用于日期时间型字段的DELPHI数据感知控件 制作主窗口显示前的版权窗口-Delphi资料 状态条插入可视控件-Delphi资料 做动态显示的控件-Delphi资料 做一个OpenGL控件-Delphi资料 Api函数列表——与打印相关-Delphi资料 Delphi 5快速创建控制面板程序 Delphi 编写Windows NT服务 Delphi 的 分 发 工 具 ─ ─InstallShield Delphi 关于系统编程中的技巧 Delphi3如何调用Excel Delphi5.0中的函数调用模式 用Delphi 编 程 时 如 何 利 用 线 程 EJB客户机与Servlet访问eJB的速度的比较 请问如何写一个dll给pb调用啊!比如调用MessageBox()的功能 用javascript或vbscript如何控制radio单选按钮? 菜鸟初学问题,查询两个数据库同一表格中某一字段重复的记录呢? 哪位大哥帮我看看,怎么配置 中秋节送分咯!!!! 如何在winform的datagrid中的cell里面截获keypress事件? 征集创意:在手机短信上还能开展什么新的,有商业价值的业务?就是大家潜在需要而没被开发出的业务。 怎样用c语言驱动1台modem拨通另一台modem? CSDN的朋友们,心中的困惑还需你们的热心帮助。 pb中处理数组的大问题sossos CVS登陆不上 请问各位,现在用什么软件配合.NET做界面设计比较方便一点? 什么操作系统最好? 在一个页面中把串%ba%ba%d7%d7还原为中文字,,用JAVASCRIPT来实现,, 与数据采集设备的通讯问题!!!!!!up有分,高手请进! 中秋节了,发薪水了,散分 讨论:关于Notes数据库隐藏设计的问题 大家中秋快乐,有关内存的释放问题,急急... 送分贴,翻译 更改文件属性的API如何定义? 谁能告诉我这是怎么回事?? treeview显示不正常 Applet问题 Asp程序无法访问远程XML文件 想建立一个公司内部的拔号服务器,像163/169那样?? 问两个简单的C语言问题 如何控制IE的工具条,比如刷新按钮! applet显示问题 新手:关于GDI,怎样取窗口非Client区域的DC? 使用asp连接webservice,实现短信的插入,发送,2003操作系统msxml3.dll 错误 '8000000a' ,2000没事 DataSet或DataView中如何实现类似数据库命令 LIKE 的筛选功能? 如何删除ini中的某个Section 祝大家中秋节快乐!怎么在日志组中增加日志文件?? 使用5xsoft upload组件上传到服务器时,如何检查里面是否包含危险代码? 中秋快乐,关于内存释放问题 内存分配存在的问题 怎么设计ADSL的路由!! javaben的释放问题 用NMUDP如何在Client端和Server端之间传递对象呢? 为什么程序员没人爱? 指点迷津啊??? 关于DataGrid的一个问题 VCD碟的.DAT文件转换成MPEG格式? 中秋节快乐!散!顺便问一下大家都吃什么品牌的月饼?五点钟准时结贴!!!!!!!!!!!! 求助!!!鲁文易盘无法驱动 如何获取提交表单的内容 Ado 问题 oracle中删除一个用户,用语法如何写 北京的兄弟们你们找工作通过哪几种方式 请问哪儿有cobol的编译器? 然侍卫之臣不懈于内 是什么句式 根据下列意思写出含"舌"的成语.形容说话轻薄( )形容能说会道( )形容惊诧无言( )形容随声附和( ) 由两个大小相等的共点力F'、F'',当它们的夹角为90度时合力为F,则当它们夹角为120度时,合力大小为多少?) 宇宙其实很渺小?!镜头一直往后拉,地球越来越小,直到看到太阳系,银河系,接着看见一个发着光的洞口,出来了,其实宇宙是个盒子,盒子放在了窗口,好多巨人在外面!你说有可能吗?我的意思是宇 安阳韩性闻而异之和侍卫之臣不懈于内,中的只是一个意思吗 aggressive是褒义词还是贬义词? 有什么两个字唯美的词 多元线性回归模型中,自相关性的分析在一个多元线性回归模型中,非全部的变量具有自相关性,在用广义差分法时,变量应如何处理,系数P该如何定义? 质量为m的人造地球卫星做匀速圆周运动.它离地面的高度等于地球半径R,地面上的重力加速度为g,则卫星 A周期为4π根号2R/g B加速度为1/2g C角速度为1/2根号g/2R D速度为根号2gR 求ambitious.aggressive区分 判断下列加点字的词性“好”字在不同句子中的词性 节目的街头好热闹啊! 青年人应杜绝好高骛远的思想 “好人一生平安”是一句多么朴树而真挚的祝词! 他的感冒已经好了 美媒称奥巴马支持率跌至新低 挫折积累罗马表新款岩螺多功能系列 向大海致敬“京城土豪聚会超海天盛筵美女全裸上阵江苏沿江8市今起用“苏五” 耗油量几吉林前郭地震灾区已发现2户房屋倒塌、江苏全省出现液态奶供不应求 物价上涨调查显示逾半受访香港公司明年平均加薪中国最后一个未通公路的县墨脱今日举行通讯:通往“高原孤岛”的“生命线”高薪由五毛一块凑起 过万很少聚焦激发社会投资活力:用改革撬动“活金正恩视察平壤机场工地乌东部两州选举准备就绪加拿大杀3警男子被判终身监禁 75年中国拉动日本旅游收入创纪录塔利班火箭弹射偏击中监狱 致20余名“博科圣地”将绑架的200余女学生全墨西哥释放美前陆战队员迎新仪式酿血案 美校园乐手获罪凯蒂猫40岁了!肯尼亚袭警事件致10人死亡12人失踪媒体:广电总局要求引进剧先审后播 同万古天尊天罚至尊纨绔天王四小阴门最强男人塞外江南绝品门卫极品纨绔兵王一代武神至尊邪龙九焰至尊虎头崖旅游清漾毛氏文化村旅游贡川古城墙旅游永兴湖旅游水街旅游澎湖天后宫旅游望夫石旅游寺口旅游绿岛监狱旅游西子湖风景区旅游翠郊古民居旅游
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘