说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

Google新论文 CPI²:基于Linux的世界级跨数据中心服务器CPU监控

HTML文档下载 WORD文档下载 PDF文档下载
搜索巨头近期又公布了两篇新的论文:其中一篇为CPI²,实现跨数据中心对每台服务器的CPU性能进行监控,更主要的是建立于Linux之上;另一篇则是Omega,Google的大规模集群调度技术。本文专注于CPI²。

Google已经实现世界级数据中心服务器监控,新的技术可以监控世界范围内每台服务器上的每个任务;其最终目的是通过这些数据有选择对进程进行干预、甚至是关闭该进程让同CPU上的其它进程得以运行。

搜索巨头在技术论文(PDF)中详细的描述了这一世界级监视技术的实现方法,相信使用大型基于Linux云计算基础设施的机构都会对此感兴趣。

论文中写道:

性能隔离是云计算的主要挑战。不幸的是,Linux缺少对共享资源(比如:处理器缓存、存储器总线等)中性能干扰的防御;这样的话,公有云中的应用程序将无法避免来自邻居们的干扰。

CPI²方案使用从硬件性能计数器获得的CPI(cycles-per-instruction,平均指令周期数)数据检测问题,中断或者关闭“问题”进程从而达到预期的效果,当然它会根据相同作业中大量任务数据认知这个任务的反常与否。

本质上讲,CPI²让Google可以在集群上万个CPU核心中隔离单个核心上的单个性能低下任务,对这个任务进行检查并进行操作,而造成的CPU开销甚至不到0.1%。它并不需要特殊的硬件支持,唯一的软件依赖恰是使用Linux。

CPI²允许Google收集任何指定指令的预期CPU CPI,从这些数据中分析出标准的资源配置文件,然后使用这些标准的配置文件去帮助网络巨头确定哪些任务比一般情况下耗费了更多的CPI,从而解放与这些任务使用相同CPU的其它进程。

Google称,其绝大多数机器上都运行着多任务。作业的处理类型分为实时处理和批处理两种,同时这些作业由大量的任务组成。Google服务器上96%的任务都会与至少10个的任务组成一个作业,而87%左右的任务会与100或以上的任务组成一个作业。

但是这些任务可能会相互干扰,导致处理器缓存和内存分配问题,造成应用中的某个任务延时飙升——这正是Google不惜一切代价都想避免的问题。

为了实现任务流下每个处理器的控制,Google使用CPI监视所有运行的服务器。通过测量处理器硬件计数器,然后用CPU_CLK_UNHALTED.REF除以INSTRUCTIONS_RETIRED来获得CPI数据。

通过计算模式下的perf_event工具,Google每分钟都会收集一个长为10秒周期的数据。系统中总CPU的开销低于0.1%,并且不会对延时产生影响。


因为集群需要跨大量的平台运行,CPI的目的在于体现各种平台下的CPU运行情况。CPI的值通过每台机器上的agent进行本地分析和测量。agent通常会被给予作业中任务预期最常见的CPI分布,所以它可以独立的分析出运行的正常与否。

如果agent发现有“victim”任务受到影响变得缓慢,它将会每秒一次的对“antagonist”任务进行干涉。agent会使用一个算法来判断“antagonist”任务的CPU占用增加与“victim”任务的迟缓是否曾在关系,依据的则是指令的周期数。

如果agent识别了一个“antagonist”并发现它是个批量作业,系统将会“通过CPU hard-capping来强制减少‘antagonist的CPU占用率’”。

鉴于CPI²和Omega论文的联合作者中都有John Wilkes,Google很有可能是通过Omega(Google大型基础设施管理系统的一个组件)给agent发布任务。

“antagonis”任务的配置文件与CPI数据进行的是离线的记录和存储,这样管理员就可以通过Google的主要网络分析工具Dremel进行查询。

Google工程师使用Dremel进行性能取证,用以确定“antagonists”任务,在将来他们可能为“antagonists”任务重新制定策略,让它们在单独的主机集中运行,然后使用这个调度进度来彻底的避免这个问题。

其中有一个需要改进的方面是处理多个“antagonists”,它将会复杂化算法;另一个则是为capping任务建立的反馈途径。

论文中写道:“即使这两方面还未改善,但是CPI²是个强大的、实用的工具。”

使用CPI²获得应用性能可行信息的开销比Google其它方案来的更少,这里还存在一个被称为“Google-Wide Profiling”可同时对硬件和软件性能进行追踪的平行技术,但是只在Google小范围的进行使用。

从整体上看,CPI²提供的不只是管理,更倾向于让集群运行的更加稳定、效率。如果你在执行搜索或者查看Gmai、通过Google服务查找地址时发现比平常需要更多的时间,那么你可能就会被CPI²冷酷及无情的当做是“antagonists”。

原文链接: Google: 'We'll track EVERY task on EVERY data center server'(编译/仲浩 王旭东/审校)

相关链接:

CPI²论文下载地址: PDF

Omega论文下载地址: PDF

“  第五届中国云计算大会 ”将于2013年6月5-7日在北京国家会议中心隆重举行。猛击报名!

相关活动已经火热启动:

2013中国云计算大调查,每周大奖等你拿! “

Innovation Cloud 2013云创新产品与应用项目征集,欢迎研发者、团队和创业企业参加!

微软SQL Server 2014三大新特性:集成内存OLTP、BI和混合云搭建 Linux将会统治桌面端的7个原因 Intel首席科学家Randolph Wang:详解Edison AMD Mantle再添新作,引发下代GPU架构猜想 谈DAM决策,自建还是SaaS 证据显示:Linux战争已经转移到OpenStack RestKit:iOS开发必备,告别众多无聊代码 技术新突破:手机和平板可远程控制PC,Chrome Remote Desktop亮相 物联网高速公路上,快数据如何驱动分析 苹果或将使用雅虎的搜索引擎,抛弃谷歌 百万用户规模的系统如何扩展 大数据需要软件定义存储 倒计36小时!2014中国Spark技术峰会即将召开! 设计师专宠,Startup强大的UI设计框架 走进金山云:从技术走向服务 Qt Creator 3.1.0发布,全面支持iOS、Android、WP Google大中华区总裁石博盟与中国大学生畅谈科技与创新 阿里云:从防到攻,深入浅出DDoS 大数据处理分析的六大最好工具 微软:Windows Phone开发者可回复用户评价 不断缩水后的微博上市首日大涨19% 曾一度涨超40% Snapdragon LLVM编译器全新升级 支持骁龙64位处理器 EDP:基于Node.JS与NPM的企业级开发平台 想改变世界,先改变自己——知名Hacker、发明家Mitch Altman专访 《近匠》iHealth,健康大数据助力硬件“破壳” 一周消息树:如何做到每天写代码? 一周热点:微软SQL Server 2014三大新特性 《Make》创始人Dale Dougherty:全民创客 DevOps正在扼杀程序员? OpenStack新版本:新增近350个功能,修复Bug超2900个 【走近讲师】易欢欢:数据对接和后台是互联网金融的技术最难点 Win2K下控制台程序处于选定状态,如何恢复? 窗口自动关闭 救命啊!严重问题!怎么老是显示E2316:TempSongList::PlayFirstSong()is not a member of 'TempSongList'? 关一个小笨蛋生存的困惑,还请各位GG、JJ一定要帮帮忙呀~~~~ Interface中添加方法的问题,请高手指教!再线讨论!! c#访问FOXPOR数据库问题 WORD求源代码加分之四 怎么样获得一个 EDIT 的 句柄 ?? 请问嵌入网页中的Activex如何调整自身的大小?请各位高手帮忙!谢谢! Oracle和SQLSERVER中5用户10用户到底是什么意思? 我身边的一个PLMM说,她想找一个成熟、幽默、聪明的程序员。 一个局域网内访问odbc数据源的问题 对女孩子不能太热情了! 一个easy 的question 请精通C#与VB.net的大虾帮忙翻译一下 在异地拷贝一个文件(200M以上)到本地,如何做 《C++程序语言》(特别版)怎么样 getContentPane()是什么意思? 高手请进!嵌入网页中的Activex如何获取加载它的浏览器对象?谢谢! i am 24 year old ,but i have nothing 请问哪里有exchange2000 server??? XP,IE 6 SP1,安装JRE 1.4无数次,<APPLET>标签下的东西仍不能看,<OBJECT>可以,为什么??!!求救!! Socket发送接收的问题! c++ builder6的盘 mapx 问题? partition magic 8.0 一个既包含静态图象又包含视频播放的视频,怎样把它抓屏下来??? SOS!!!一个有关全文检索,以及文档的数据库存储的问题,急急!各位大侠出招啊,在线等候 请问如何在程序中将CEdit控件设为只读或取消只读, Java认证问题 请问你们认为哪种操作系统更好用和稳定? 关于mfc dll wizard 做出来的dll 的内存泄漏问题!! vc++与C++Builder有何本质的区别? 能否做个象Media Play的ACTIVEX查件,既有动画窗口,又有按钮??? 高手,关于数据库转换的问题 给分:谁有关于“从网卡取得数据”方面的论文 大家好,有一个关于拔号、专线系统的IP地址问题 SAX的问题 表单传递后,如何判断用户是否填入了内容的? 请教 请教各位大侠 各位好,小弟初学Oracle,请各位指点哪有相关电子书下载,多谢! 辞职,不知是对是错?(第一次散分,请版主高台贵手) 关于vb在com编程的几个问题! 请教如何用C#取网卡MAC的地址?? 那位大侠做过数据加密解密的程序呀! 询问一个关于组件安装的问题 Windows2000网上邻居里没有任何东西 我要的form控件在哪里? 有谁用过windows.net server 2003? 有关于结合JBuilder介绍XML的书籍吗? 能量的定义是什么?既然E=mc^2,那么是不是物质可以完全转化为能量而消失?物质转化为能量,那组成物质的分子,原子,原子核,电子跑到哪里去了呢? 物质的第五态、第六态是什么样的? 8.0 g Cu2S和CuO的混合物中含有铜原子数为0.3NA, 税收对市场经济的作用税收对社会主义市场经济发展的作用 石墨烯什么时候才能普及使用?用在手机上什么时候能够实现?据说可以把手机做到很薄 元素是一个宏观概念,他只有_________,没有___________ 染色体,染色质,染色单体有什么区别啊那染色单体与姐妹染色体有什么区别啊 物体的静止能量是E=mc^2.它包括物体的内能吗?为什么? 高性能石墨烯动力电池什么时候能量产? 请问;铜氨溶液分别和乙醇钠,葡萄糖,溴水发生反应吗 如果能 那反应方程式是什么 简单商品经济条件下,使经济危机具有形式上的可能性的货币职能是?A,价值尺度 B 流通手段 C 贮藏手段 D 支付手段 E 世界货币答案是BD.谁知道原因,麻烦解释下吧. 槭树果的旅行方法是什么呢? 把固体二氧化锰,和一种白色的粉末B混合产生氧气 计算反物质湮灭的能量能用E=mc^2吗? 怎样才能完成作业?做完作业在能玩,在监督下. 如右图,烧瓶内充满NH3,橡皮塞上没有胶头滴管,如何引发喷泉? 飞亚达石英手表G270怎样,求评论? 槭树果旅行的方法昰什么 税收三性中是强制性决定无偿性,还是无偿性决定强制性?具体表述如下 税收的强制性决定税收的无偿性,而税收三性中是强制性决定无偿性,还是无偿性决定强制性?具体表述如下税收的强制性 如果所有物质都有溶解度的话,那么爱的溶解度是多少 槭树有哪些特征 飞亚达表芯动男表瑞士自动机械机芯手表 GA8466BBB用的甚么机芯 高一化学2跪求解析.石墨有没有自由移动的电子 导电性不知道怎么判断 我怎么样才能完成作业呢?请心里专家帮我分析一下!最近喜欢上了电脑游戏,表面不迷的样子~其实心里已经迷上了游戏~你们说说咋办啊?还有怎么样才能坚持! 飞亚达石英表防水30米是指什么意思 物质的第六态是辐射场态还是费米子凝聚态?请具体点 槭的果实主要是通过哪种方式传播种子的? E=mc^2 能量我不明白把物体质量带进公式得到一个超级大的能量有什么作用?这些能量能做什么? 制备细胞膜为什么不用原核细胞 一种单质和水反应,生成另一种单质和化合物,反应物和生成物中的元素都是短周期的,水是还原剂. E=mc^2当E为运动时的能量时当E为运动时的能量时m是运动质量还是静止质量 飞亚达和天梭哪个品牌更好呢?同等价位谁更好些啊?听说飞亚达的机芯都是进口的,还不怎么好.天梭本身就是瑞士产的.请懂行的给详细说说.哪个更好些呢?哪款比较经典呢,价位在四千左右的 浪琴军旗系列手表,浪琴 瑰丽 E=mc^2的能量可以是任何能量吗? 飞亚达手表好还是天梭手表好?RT,飞亚达手表好还是天梭手表好.. 浪琴军旗系列的机械手表,精仿的到哪买 E=mc^2 能量岂不是很大?金由235 这个代入公式没问题 这个我不怀疑毕竟他弄死了很多人 但是其他材料 我就怀疑了 比如木头 代入这个公式 我自己也觉得很可笑 有谁帮我解答这个难题我没懂你 天梭 飞亚达哪个好 化学实验电解水前后水是怎么变化的?误差产生的原因都有什么?就是水的体积前后有变化么? 光的能量是E=mc^2还是E=1/2mc^2根据爱因斯坦质能方程,物质的能量应该是E=mc^2,但是光子不是没有静止质量的吗?那是不是不能通过质量来求得其能量?而且根据经典力学理论,Ek=1/2mv^2,那光速是c,它 天梭、依波、天王、飞亚达.相对来说哪个品牌的表好一些? 低温杀菌的温度.我要杀除那些在不锈钢板上的细菌,密封,要低温,要多少时间+几度最好,..by the way,我要烘干80cm2的不锈钢板上的积水,密封,要多少时间+温度最好?,谢谢,for godforsaked, 钠在空气中的变化写一下方程式 24小时什么时候开始啊新季的 财政赤字什么意思 15.已知a和b相距20个图距单位,从杂交后代测得的重组值为19%,则两基因间的双交换值为:A.0.5% B.1% C.2% D.4%怎么算的没分了 7*24小时是多少时间 浪琴军旗有几种机芯 a基因的片段与b基因的片段发生互换属于什么变异 从4点过24小时是几点啊 使用高压灭菌器时如锅内有空气,会影响到灭菌效果吗? 杂合体AbC/aBc与abc/abc测交,后代双交换型为aabbC_和A_B_cc,则其连锁基因顺序为答案是B为什么啊 怎样设置时间24小时制 高压灭菌器怎么选择?ALP高压灭菌器怎么样? 下列各项中不属于税收作用的是( ).A.实现国家职能 B.稳定经济 C.收入再分配 D.配置资源作用4个财政收入的主要形式调节国民经济的重要手段维护国家政权保障国际社会的国家利益我想选的是 蒸馏高锰酸钾溶液会留下来吗? 电路图和线路图有什么区别 如何检验基因在染色体上呈线性排列?A基因分离B基因交换.选哪个? 东京名古屋和大阪有什么好玩的地方?求推荐 为什么元素是宏观概念?宏观概念不就是指看不见的么,我度娘了很多次,有人说像金属元素金银铁什么的是宏观概念我也能理解,但我记得我在哪看见说Na和Na+是钠元素,是同种元素,像这样的一 日防相称“中国危及和平” 中日关系陷以色列释放的5名巴勒斯坦在押人员抵达中行“高山案”嫌犯曾数次用拉杆箱装满金正恩或“首秀”元首外交叙利亚黑客自称“黑了”奥巴马美致力为盟友关系“疗伤”专家解读:安倍“恼羞成怒”天文学家发现酷似太阳系的行星系澳大利亚政府是否解除对中国企业禁令引以色列热炒国防企业遭中国“网络攻击”超强飓风“吹乱”西北欧各国 已致16普京称苏联共青团不仅是政治还是友谊和联合国证实叙利亚14年来首次出现小儿卜拉希米称叙过渡进程由叙有关各方决定法国宣布4名在尼日尔被绑架法国人获释美国将继续对中日消毒剂进行贸易救济调美政府官员首度为医改网站故障道歉欧盟多瑙河战略年度论坛在罗马尼亚落幕美国得州一男子五地疯狂射杀 致其母在北京“最牛违建”拆除进度缓慢 房主称中央巡视组年底前对军队巡查 在武警设大幕拉开 首日不太挤美好乡村“皖韵”浓专家:复航失事班机获救者多靠近舱门、“向机师致敬!” 飞机失事前尽最大努河南18地市GDP增速打架?专家称扣中国 东盟博览会旅游展永久落户桂林武汉人大会议收到议案原案41件 城建湖北黄石凯程环保公司被责令立即整改桂林旅博会促进旅游业与会展业融合发展厦门7人小组今日赴台 已确认13名厦2015年2月5日资讯重点:西安现\相守四十载老伴离世伤心过度 武汉爹爹一份深情嘱托 一叠精彩答卷“住改商”应经利害关系业主同意伪造印章 骗取补助受审新常态下如何“在状态”国内统一刊号:CN34 0001让美丽家园留住“乡愁”“吃空饷”的“保护伞”打掉有多难?“小九九”带来大效益萨金特、李稻葵来肥论道长三角城市群
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘