说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

AMPLab开发重构的Hadoop版本Tachyon:吞吐量要比HDFS高300多倍

HTML文档下载 WORD文档下载 PDF文档下载
你的Hadoop足够快吗?美国加州大学伯克利分校的AMPLab基于Hadoop的核心组件开发出一个更快的版本Tachyon,它从底层重构了Hadoop平台。不过Tachyon的吞吐量要比HDFS高300多倍。“没有最快,只有更快”!

Hadoop足够快吗?美国加州大学伯克利分校的AMPLab基于Hadoop的核心组件开发出一个更快的版本Tachyon。AMPLab从底层重建了Hadoop平台,“没有最快,只有更快”。

AMPLab在大数据领域最知名的产品是Spark,它是一个内存中并行处理的框架,Spark的创造者声称:使用Shark运行并行处理Job速度要比MapReduce快100倍。又因为Spark是在内存运行,所以Shark可与Druid或者SAP's HANA系统一较高下。Spark也为ClearStory下一代分析和可视化服务提供处理引擎。如果你喜欢用Hive作为Hadoop的数据仓库,那么你一定会喜欢Shark,因为它代表了“Hive on Spark”。

AMPLab的最新目标就是Hadoop分布式文件系统(HDFS),不过HDFS在可用性和速度方面一直受人诟病,所以AMPLab创建了Tachyon( 在High Scalability上非常夺目,引起了Derrick Harris的注意),“Tachyon是一个高容错的分布式文件系统,允许文件以内存的速度在集群框架中进行可靠的共享,类似Spark和 MapReduce。通过利用lineage信息,积极地使用内存,Tachyon的吞吐量要比HDFS高300多倍。Tachyon都是在内存中处理缓存文件,并且让不同的 Jobs/Queries以及框架都能内存的速度来访问缓存文件”。

当然,AMPLab并不是第一个对HDFS提出质疑的组织,同时也有很多商业版本可供选择,像Quantcast就自己开发了开源文件系统,声称其在运行大规模文件系统时速度更快、更高效。

诚然,AMPLab所做的工作就是打破现有商业软件的瓶颈限制。如果碰巧破坏了现状,那么就顺其自然吧!不过,对于用户来说,AMPLab只是为那些寻找合适工具的人员提供了一种新的选择,AMPLab的合作伙伴和赞助商包括谷歌,Facebook,微软和亚马逊网络服务,它们当然非常乐意看到这些新技术,如果很有必要的话。

AMPLab的其他项目包括PIQL,类似于一种基于键/值存储的SQL查询语言;MLBase,基于分布式系统的机器学习系统;Akaros,一个多核和大型SMP系统的操作系统;Sparrow,一个低延迟计算集群调度系统。(文/王鹏,审校/仲浩)

“ 第五届中国云计算大会 ”将于2013年6月5-7日在北京国家会议中心隆重举行。猛击报名!     

相关活动已经火热启动:

2013中国云计算大调查,每周大奖等你拿! “

Innovation Cloud 2013云创新产品与应用项目征集,欢迎研发者、团队和创业企业参加!

从程序员到软件商 需要注意些什么? 共享软件海外营销策略与实战(上海站) 直接拿来用!最火的Android开源项目(完结篇) 一步加入云生态系统 参加第五届中国云计算大会的十大理由 传苹果iOS7将深度整合Flickr 用户受益最大 今天面试遇到的一道题,不会答啊~~~~~~~~~~ sos!!!后天面试“网络工程师”我该怎么准备??? 谁能告诉我 .net framework 到底能做些什么?? 我希望能具体说一下。 辽宁(大连)的高程分数什么时候出阿?很闹心! 如何给一个CListBox设置背景颜色或位图? (跪谢)-想要最简单的完整程序代码和编写思路(记事本) 谁帮我搞定? 谁能讲讲windows对我们程序员说的内核结构啊?? 高手请来,比较头痛的问题:getElementsByTagName不工作了: 电影《闪闪的红星》观后感 闪闪的红星读后感是读后感啊!不是观后感啊! 急求 闪闪的红星观后感最好有500字左右 如图,一次函数y=kx+b的图像与x轴和y轴交与点 所函数f(x)=2的x次幂+b有零点,则b的取值范 分解因式:x³y-2x²y&# y=-4x²-3的图像是什么?是填二次函 函数的m次幂,应该用fm(x,y)还是[f(x,y 已知函数f(x)=[e的(x-m)次幂]-ln(2 今起杭州地铁1号线周末末班车延迟至2楼盘装饰柱挡业主家窗户 屋顶外沿成小外交部对“世维会”质疑“10·28”男同事抽烟20多年对面办公桌女同事查美前高官督促安倍 克制“拜鬼”内马尔:想踢奥运和美洲杯培养孩子的财商,得从他的压岁钱开始,经纪人:尼昂不会离开米兰喝牛奶的十大误区,你都知道吗?J罗任意球世界波,皇马3-0国际米兰末日守护龙的成长史万历风云录少年鞍马尘杀人鬼之夜湄公河旅游象山景区旅游李宗仁故居旅游龙井八景旅游王羲之故居旅游
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘