说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

磨剑三载,且看从容应对14.3万TPS的Twitter是怎样炼成的!

HTML文档下载 WORD文档下载 PDF文档下载
三年前的世界杯上,Twitter的服务随裁判哨声跌宕起伏;三年后的今天,Twitter的服务已经可以从容应对毁灭“天空之城”的魔咒,并创下每秒143199次tweet的新峰值。

记得刚接触宫崎骏老爷子的作品是在高中时代,然而当时正值青春年少外加深受灌篮高手等动画“荼毒”,对宫老爷子的《千与千寻》、《龙猫》、《魔女宅急便》、《天空之城》之流也就完全不感冒了。再次接触宫老爷子的动画则是在大学期间,记得当时熬了N个通宵把全集都过了好几遍,不得不感慨作品只有在相应的情景下才能释放价值。从这个观点上看,近日网上流传的“宫老爷子还能再战十年!”也并不为过。

NTV电视台于2013年8月2日晚第14次重播了《天空之城》,当剧情发展到男女主角巴鲁和希达共同念出毁灭之咒“Blase”时,一举将tweet发送峰值带到了每秒143199次,这个峰值高于2013日本新年33388次/秒,也高于拉登之死(5106次/秒)、东日本大地震(5530次/秒)、美国流行天后碧昂斯宣布怀孕(8868次/秒)。

毁灭之咒“Blase”摧毁了天空之城,同样也摧毁了经过充分准备的2ch,然而却铸就了当下Twitter的最新峰值。新的峰值是平均值(5700TPS)的25倍,当下用户平均每天发送的tweet是500万条左右。在峰值期间,Twitter一直保持着高可用性,对比3年前世界杯上的表现无疑有着天壤之别。近日Twitter在技术博客上公布了为什么会重铸Twitter以及新系统打造的相关细节,以下为译文:

重铸Twitter决心

当2010年人们将Twitter作为世界杯体验实时分享工具时,每一脚射门、每一次罚球、以及裁判出示的每一张红牌或黄牌产生的tweet都会对系统造成不同程度的影响,同时也会造成程序短时间内的不可用。2010世界杯期间,工程师日以继夜的工作,拼命的改善系统性能。不幸的是,这样的努力瞬间被Twitter的快速增长淹没。

有过这次经历,我们清楚了只有重新架构才能匹配网站的增长,同时让系统变得更加可靠。随后我们就开启了漫漫的重构之路,而当下Twitter已经可以从容应对类似《天空之城》重播、超级碗以及全球新年夜庆典这样的事件,新的架构不仅能弹性的应对负载,还可以帮助工程团队快速发布新特性,包括了跨设备的消息同步,Twitter cards可以让服务变得更加的丰富并拥有更多的内容,同样还带来了囊括用户和故事的搜索体验。为了实现这些,我们甚至改变了工程组织,下面就来一睹服务打造细节:

三年磨剑铸辉煌

重新架构

在2010世界杯尘埃落定后,我们审视了整个系统,并发现众多需要从根本上改善的地方:

1. Twitter曾运行着世界上最大的RoR堆栈,并将这个技术推到了一个绝对高度:那个时候,大约200个工程师在为之奋斗,它确实让Twitter渡过了一个用户爆发性时期,不管是新用户的增加,还是负载增加的处理。这个系统一度支撑了所有运作,从管理数据库、memcache连接到网站的渲染及公共API的呈现,这些全部包含在一个代码库里。它不仅让工程师的整合变的困难,同样也困扰了工程团队的管理及并行作业。

2. 存储系统的吞吐量达到了极限——之前Twitter使用的是纯粹的MySQL存储系统,进行分片,同时系统只有一个主节点。然而从系统展示的速度上来看,tweet的吞吐率确实出现了问题。这样我们就必须重建一个新的数据库以应对增长率,因为热门数据的读取已越来越频繁。

3. 取代从工程方面彻底的解决问题,我们曾尝试过投入更多主机;然而随后就发现,前端Rbuy主机并不能处理预期(根据性能)的事务量——从以往的经验看,这些主机完全可以胜任更多的事务。

4. 最后,从软件角度上看,我们发现我们一直在钻优化这个牛角尖,我们开始在性能和效率与代码库的可读性和灵活性之间做权衡。

综上所述,系统的重新架构已迫在眉睫,我们给自己定下了3个目标和挑战:

1. 我们希望打造出兼具性能、效率及灵活性的大型基础设施——我们希望能改善Twitter上的平均延时,同样我们希望通过离群值给Twitter带来统一的体验。我们希望将赖以运行的服务器降到十分之一。我们希望对故障进行隔离以避免大规模宕机——随着服务器规模的日益增大,这点就尤为重要,因为集群的变大意味着主机故障将愈来愈频繁。故障是不可避免的,所以我们希望它们发生在一个更容易控制的模式下。

2. 我们希望通过将相关的代码放到一起,以获得更清晰的边缘——我们已经感受了整片代码所带来的困扰,所以我们打造一个松耦合、基于服务的架构。我们目标是封装和模块化的最佳实践,当然是在系统级,而不是类、模块或者是包一级。

3. 最重要的是,我们希望能更快的发布特性。我们希望团队能并行的运作,每一个小组都可以在不依赖其它小组的情况下独立的完成局部决策,并将特性发布给用户。

我们POC了新的架构,虽然不是所有的努力最终都能符合上述目标,但是最起码做到了一部分并且解决了工具问题,当然,还得到了比现下更令人满意及可靠的基础设施。

IBM IT实践达人赛24强出炉 决赛圈比拼创新实践力 [简讯] Perl迎来25岁生日 软件开发者最重要的四大技能 为什么说惠普、戴尔和IBM在互联网发展中站错队 升级iOS 6还得看Google Maps 2012移动开发工具盘点:16大跨平台游戏引擎 GitHub Web游戏开发竞赛 获奖榜单出炉 Dart里程碑2发布 大幅提升dart2js性能 To Facebook:HTML5不好用?是你不会用! AWS推快照备份服务抵御宕机风险 靠谱吗? 微软品鉴会秀Windows 8电脑 上百款新设备年末上市 甩开外包,雄踞榜首:揭开“宫爆老奶奶”成功的秘密 IBM收购大数据公司StoredIQ 推动大数据传输能力 令人意外:前Windows部门总裁将去哈佛教书 舒迅:产品经理必读的九步法 独家爆料:Facebook移动客户端开发揭秘 一个独立开发者的自白:我如何在一年赚得60万美元 Dropbox收购Snapjoy 意欲打造媒体中心 2012世界“末日”:有经过正确的分析吗?! 23.5亿美元!谷歌出售摩托罗拉机顶盒业务 两家巨头相继放弃移动广告,移动广告形势堪忧? 应用洗牌,还能免费多久?Google推出iPad版Quickoffice 2012末日APP推荐 求生自救必备! Windows8上网利器 不卡死的IE10浏览器 为何Java程序员学习Clojure有优势? 我们是如何阅读代码的? “热水冷却”技术将主导美国国防部数据中心改造 程序员想玩转大数据:需要知晓的12种工具 2012年谷歌应用商店增长迅速 但苹果最赚钱 Apple微软Google都在竞购一家创业公司 违反新条款?苹果强行下架AppShopper install expression 打包问题 急急急 求教 一个框架结构的左右两边同时改变的问题 ★★ 高兴送分 ★★(zzwu) 请教高手 系统重装,SQL 6.5只剩下几个data目录下的dat文件,请问怎么才能把数据完全恢复? 客户端调试sql server存储过程 兄弟我想换工作,还企盼网友推荐(看在我对java版热心参与,请版主保留几天) 如何配置jConnect连接Sybase数据库?需要安装jdk吗? 如何在模块中编写一个函数,对数据库进行增,删,修改操作? a 请问各位DirectDraw是做什么的?最好能详细谈谈他的前景?谢谢! 我的win2000server在域中,被以域中Administrator进入,结果我的机子以域用户进入后,机子的系统关机选项变为不可用,以域中Administrato b/s应用程序怎样限制它只能安装在某一台电脑上? FORM中,如何通过 ODBC 访问 Foxpro的 dbf 数据文件(在线等待)? 如何判断连接服务器的sql数据库成功与否?在线等待高手解答! applet waiting online 程序员招聘(西安) 怎样让我的对话框程序实现全屏显示急急急1。。。 我的用法是否正确 有本事的就进来 JSP+JDBC环境中如何配置jConnect连接Sybase数据库?需要安装jdk吗? 急,高分求解Font问题 我编写了一个读写COOKIE的公用函数在我的工程中使用,老不通过,麻烦大哥们帮我诊断诊断 请问怎样获取托盘窗体的句柄??(给一百分) 请帮帮忙,如何调用dtswiz.dll 如何用BDE Administrator设置数据库别名(不用ODBC)访问Oracle数据库。高分相送! 对不起,我知道这个问题很简单,但是我一直没有搞出来,您能告诉我吗?datagrid中进行insert,delete,update操作? 寻求eVC用ADO操作cbd数据库的代码。 两个关于枚举类的问题 问用过struts的朋友一个问题,给100分! huffan交流系数表在C中如何表示?????? 线程问题~~~ 有哪位知道在 Windows 2000 下 锁定计算机时应用程序可以得到什么消息啊? 急!!关于数据的导入导出!! Cells不被VB支持吗? 获取字段类型 如何将DataGrid1中的数据打印出来, 如何使程序自动修改CEdit中的文字? 请问在.NET类库中有这样的类吗? 如何知道某个表格被锁 求助capboy等网络视频播放高手!!! 菜鸟问题:在VC中用ALTER TABLE指令需要什么头文件? 请高手帮忙,感觉难度很高 大家做GUI时有什么好用又免费的日期控件呢? 在javabean中用sql server2000的jdbc驱动连不起数据库! 添加图片到数据库中,奇怪现象! 如果我已经得到了一个DOM树, 我第一次运行HTML HELP时,new怎么会是无效的? 我的 程序在调用FORM.ACTION的用法不正确。能告诉我怎样用它 怎幺样实现一对主从表的数据库基本操作?用ADOQuery连接SQL2000. 有关统计打印的问题 棉花能加工成什么啊? 舟曲泥石流、5.12地震、玉树地震、还有一些地方的山洪,这意味着什么难道地球不行了吗,世界末日真的会不会到来 冲压弯头与热压弯头区别 关联词 三个的这些附加规则【 】任然有比较明确的标准和严格的限制,【 】从一定程度上来说,任然处在可以控制的范围内,【 】不可避免的带来了一些消极影响 K粉是什么?有什么成分?为什么能使人幻觉?求正解(带依据)吸食K粉对身体有何害?它究竟是什么?为什么它能让人产生幻觉?既然是软性毒品为什么禁不严? 在什么世纪,中国就发明了算盘这种计算工具 这三个关联词是表示什么的词? K粉的危害到底有多大?K粉为什么那么容易上瘾?K粉的成分是什么? 身边不少朋友为了体验K粉的感觉,都上瘾K粉的危害到底有多大?K粉为什么那么容易上瘾?K粉的成分是什么?身边不少朋友为了体 将少量浓溴水滴入苯酚溶液中,有白色沉淀.这句话对吗?`到底是什么原因啊? 三个词的关联词填空 由此可见,( )基础比别人差一些,( )肯下功夫,( )是照样可以成才的. 哪些药物会含有氧化镁的成分 用稀溴水滴入苯酚溶液中制备2,4,6-三溴苯酚 错在哪里? 三个关联词()有货物,咱们()拿他的货物,来顶大娘的包子!说着,有几个年轻人爬上车顶,掀开了毡布.可是,一个个全愣住了.他们谁也没有拿货物,()他们看清楚了,车上全装的是救灾的物资 去疼片类药物 都含有什么成分 三溴苯酚是沉淀,二溴苯酚是否会沉淀?一溴哪? 新旧棉花加工设备,除了棉花还能加工什么原材料么? 氯胺酮一般以盐酸盐形式存在,盐酸氯胺酮为( )结晶性粉末.( 酸碱盐中沉淀都有啥 啥颜色 啥状态 相关方程式如:Cu(OH)2为蓝色絮状沉淀 2NaOH+CuCO3=Na2CO3+Cu(OH)2 新旧棉花加工设备只能加工棉花被吗? 分析下列汉字 的音节结构“远,窄,伟,英,凉,日,郡,困,柳,谢. 谁能给我酸碱盐溶解性表的俗称,沉淀颜色望老师作答,常考的有哪几个,怎么考法 斜率越大?还是斜率的绝对值越大?这条线就越陡?斜率越小?还是斜率的绝对值越小?这条线就越平坦? 新旧棉花加工设备都有哪些? 为什么高炉炼铁的时候生铁出口低于炉渣出口? 在位置—时间图象中,图线斜率的绝对值表示什么? 旧棉花加工设备都有哪些设备?厂家在哪? 除了汉语还有什么语言是象形文字?哪些语言使用代码或字母 无差异曲线的斜率的绝对值是( )A.边际效用B.边际成本C.边际替代率D.都不对 地质灾害,山体塌方,泥石流.应该注意哪些事情? 英语翻译 为什么说无差异曲线的斜率的绝对值越大,边际替代率越大? 崩塌、山体滑坡和泥石流是一个意思吗? 我想找一些词语但是不知道去哪里找,像一些希腊,拉丁语这样的翻译成中文,比如,”乌托邦“就是希腊词根翻译过来的,类似这种词我去哪里找? 在x-t图中,图线斜率绝对值表速度大小,我想问什么是斜率绝对值,曲线的绝对值是什么?如图,这个绝对值是什么呢? 关联词是词吗?起什么作用?有哪两种词组成? 组成词语 大苏打怎么读,化学式是什么 地震和泥石流是怎样形成的 一段时间后清理沼气池为什么发生过沼气爆炸 金属是由金属阳离子和自由电子构成,是不是可以说金属是由离子构成的,而不是原子构成的? 在下列灾害中,哪一组不属于地质灾害?A.山体滑坡、泥石流 B.地震、火山爆发 C.强沙尘暴、土壤荒漠化在下列灾害中,哪一组不属于地质灾害?A.山体滑坡、泥石流B.地震、火山爆发C.强沙尘暴、 沼气池中能产生很多沼气,可是气体不能燃烧,为什么?原来产生的气体能燃烧,最近的气不能点燃.希望具体回答. 下列物质中属于天然高分子化合物的是A淀粉B葡萄糖C纤维素D乙酸 生殖细胞中,染色体和基因以什么方式存在 汉字与中国心的答案 如何证明物质由分子、原子、离子组成我是初三生,最好用生活中的事例来说明我们期末考就考到了这道题,我当然是错的了,但是现在还没有讲评,所以不知道要怎么说,想要知道大家的看法,从 性染色体既存在于生殖细胞中,也存在于体细胞中吗?位于性染色体上的致病基因,在体细胞中有等位基因吗? 求《汉字与中国心》的答案 以氧原子为例,说明构成物质的分子有哪几种?它们怎样构成原子? 一光滑的平面上,右方有一条形磁铁,一金属环以初速度v沿磁铁的 中线向右滚动,则以下说法正确的是( )A.环的速度越来越小 B.环保持匀速运动C.环运动的方向将逐渐偏向条形磁铁的N极D.环运 神府洗煤厂洗煤絮凝剂,洗煤聚丙烯酰胺,洗煤聚丙烯酰胺絮凝剂,洗煤专用絮凝剂,这个产品,在神府哪里有卖 性染色体的基因表达产物只存在于生殖细胞中,这句话有错么? 跪求一线性回归分析法种A和B到底是如何得出的,我看了别人的提问以及答案,但公式里面那个转了90度的M到底是什么意思,告诉我这个也行,我自己计算. 柳林洗煤絮凝剂哪里有卖的,就是洗煤聚丙烯酰胺 性染色体只存在于生殖细胞 这句话为什么错了 什么是岭回归分析法? 洗煤厂介质粉 柴油 仲辛醇 絮凝剂 通常用量,按吨原煤的量洗煤厂 介质粉 柴油 仲辛醇 絮凝剂 通常用量,按吨原煤的量.一般用量范围 棉花加工我想问一下,棉花从原料到加工为成品棉花,需要什么具体步骤,大概会损失多少,多少斤棉花原料能加工成一斤成品棉花, 浙江江西局地可能会有地质灾害说,是山洪是泥石流还是地震海啸呀? 厕所口全部盖住时间久了会产生沼气吗?
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘