说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

首席工程师揭秘:LinkedIn大数据后台是如何运作的

HTML文档下载 WORD文档下载 PDF文档下载
“不懂得日志,你就不可能完全懂得数据库”Jay Kreps说道,Jay Kreps是LinkedIn公司首席工程师,本文介绍他本人对于日志的心得体会,包括日志是什么,如何在数据集成、实时处理和系统构建中使用日志等。

编者按: Jay Kreps是来自LinkedIn的首席工程师,他表示日志几乎在计算机产生的时候就存在,除了可用在分布式计算或者抽象分布式计算模型内部之外,还有广泛的用途。本文中他讲述的日志的原理和通过把日志用做单独服务来实现数据集成、实时数据处理以及分布式系统设计。文章内容非常干货,值得学习。

以下是原文:

我在六年前的一个令人兴奋的时刻加入到LinkedIn公司。从那个时候开始我们就破解单一的、集中式数据库的限制,并且启动到特殊的分布式系统套件的转换。这是一件令人兴奋的事情:我们构建、部署,而且直到今天仍然在运行的分布式图形数据库、分布式搜索后端、Hadoop安装以及第一代和第二代键值数据存储。

从这一切里我们体会到的最有益的事情是我们构建的许多东西的核心里都包含一个简单的理念:日志。有时候也称作预先写入日志或者提交日志或者事务日志,日志几乎在计算机产生的时候就存在,同时它还是许多分布式数据系统和实时应用结构的核心。

不懂得日志,你就不可能完全懂得数据库,NoSQL存储,键值存储,复制,paxos,Hadoop,版本控制以及几乎所有的软件系统;然而大多数软件工程师对它们不是很熟悉。我愿意改变这种现状。在这篇博客文章里,我将带你浏览你必须了解的有关日志的所有的东西,包括日志是什么,如何在数据集成、实时处理和系统构建中使用日志等。

第一部分:日志是什么?

日志

日志是一种简单的不能再简单的存储抽象。它是一个只能增加的,完全按照时间排序的一系列记录。日志看起来如下:

我们可以给日志的末尾添加记录,并且可以从左到右读取日志记录。每一条记录都指定了一个唯一的有一定顺序的日志记录编号。

日志记录的排序是由“时间”来确定的,这是因为位于左边的日志记录比位于右边的要早些。日志记录编号可以看作是这条日志 记录的“时间戳”。在一开始就把这种排序说成是按时间排序显得有点多余 ,不过 ,与任何一个具体的物理时钟相比,时间 属性是非常便于使用的属性。在我们运行多个分布式系统的时候,这个属性就显得非常重要。

对于这篇讨论的目标而言,日志记录的内容和格式不怎么重要。另外提醒一下,在完全耗尽存储空间的情况下,我们不可能 再给日志添加记录。稍后我们将会提到这个问题。

日志并不是完全不同于文件或者数据表的。文件是由一系列字节组成,表是由一系列记录组成,而日志实际上只是按照时间顺序存储记录的 一种数据表或者文件。

此时,你可能奇怪为什么要讨论这么简单的事情呢? 不同环境下的一个只可增加的有一定顺序的日志记录是怎样与数据系统关联起来的呢?答案是日志有其特定的应用目标:它记录了什么时间发生了什么事情。 而对分布式数据系统许多方面而言, 这才是问题的真正核心。

不过,在我们进行更加深入的讨论之前,让我先澄清有些让人混淆的概念。每个编程人员都熟悉另一种日志记录-应用使用syslog或者log4j可能写入到本地文件里的没有结构的错误信息或者追踪信息。为了区分开来,我们把这种情形的日志记录称为“应用日志记录”。应用日志记录是我在这儿所说的日志的一种低级的变种。最大的区别是:文本日志意味着主要用来方便人们阅读,而我所说明的“日志”或者“数据日志”的建立是方便程序访问。

(实际上,如果你对它进行深入的思考,那么人们读取某个机器上的日志这种理念有些不顺应时代潮流。当涉及到许多服务和服务器的时候,这种方法很快就变成一个难于管理的方式,而且为了认识多个机器的行为,日志的目标很快就变成查询和图形化这些行为的输入了-对多个机器的某些行为而言,文件里的英文形式的文本同这儿所描述的这种结构化的日志相比几乎就不适合了。)

数据库日志

我不知道日志概念起源于何处-可能它就像二进制搜索一样:发明者认为它太简单而不能当作一项发明。它早在IBM的系统R出现时候就出现了。数据库里的用法是在崩溃的时候用它来同步各种数据结构和索引。为了保证操作的原子性和持久性,在对数据库维护的所有各种数据结构做更改之前,数据库把即将修改的信息誊写到日志里。日志记录了发生了什么,而且其中的每个表或者索引都是一些数据结构或者索引的历史映射。由于日志是即刻永久化的,可以把它当作崩溃发生时用来恢复其他所有永久性结构的可信赖数据源。

随着时间的推移,日志的用途从实现ACID细节成长为数据库间复制数据的一种方法。利用日志的结果就是发生在数据库上的更改顺序与远端复制数据库上的更改顺序需要保持完全同步。

Oracle,MySQL 和PostgreSQL都包括用于给备用的复制数据库传输日志的日志传输协议。Oracle还把日志产品化为一个通用的数据订阅机制,这样非Oracle数据订阅用户就可以使用XStreams和GoldenGate订阅数据了,MySQL和PostgreSQL上的类似的实现则成为许多数据结构的关键组件。
正是由于这样的起源,机器可识别的日志的概念大部分都被局限在数据库内部。日志用做数据订阅的机制似乎是偶然出现的,不过要把这种 抽象用于支持所有类型的消息传输、数据流和实时数据处理是不切实际的。

分布式系统日志

日志解决了两个问题:更改动作的排序和数据的分发,这两个问题在分布式数据系统里显得尤为重要。协商出一致的更改动作的顺序(或者说保持各个子系统本身的做法,但可以进行存在副作用的数据拷贝)是分布式系统设计的核心问题之一。

以日志为中心实现分布式系统是受到了一个简单的经验常识的启发,我把这个经验常识称为状态机复制原理:如果两个相同的、确定性的进程从同一状态开始,并且以相同的顺序获得相同的输入,那么这两个进程将会生成相同的输出,并且结束在相同的状态。

这也许有点难以理解,让我们更加深入的探讨,弄懂它的真正含义。

确定性意味着处理过程是与时间无关的,而且任何其他“外部的“输入不会影响到处理结果。例如,如果一个程序的输出会受到线程执行的具体顺序影响,或者受到gettimeofday调用、或者其他一些非重复性事件的影响,那么这样的程序一般最有可能被认为是非确定性的。

进程状态是进程保存在机器上的任何数据,在进程处理结束的时候,这些数据要么保存在内存里,要么保存在磁盘上。

以相同的顺序获得相同输入的地方应当引起注意-这就是引入日志的地方。这儿有一个重要的常识:如果给两段确定性代码相同的日志输入,那么它们就会生成相同的输出。

分布式计算这方面的应用就格外明显。你可以把用多台机器一起执行同一件事情的问题缩减为实现分布式一致性日志为这些进程输入的问题。这儿日志的目的是把所有非确定性的东西排除在输入流之外,来确保每个复制进程能够同步地处理输入。

当你理解了这个以后,状态机复制原理就不再复杂或者说不再深奥了:这或多或少的意味着“确定性的处理过程就是确定性的”。不管怎样,我都认为它是分布式系统设计里较常用的工具之一。

这种方式的一个美妙之处就在于索引日志的时间戳就像时钟状态的一个副本——你可以用一个单独的数字描述每一个副本,这就是经过处理的日志的时间戳。时间戳与日志一一对应着整个副本的状态。

由于写进日志的内容的不同,也就有许多在系统中应用这个原则的不同方式。举个例子,我们记录一个服务的请求,或者服务从请求到响应的状态变化,或者它执行命令的转换。理论上来说,我们甚至可以为每一个副本记录一系列要执行的机器指令或者调用的方法名和参数。只要两个进程用相同的方式处理这些输入,这些进程就会保持副本的一致性。

一千个人眼中有一千种日志的用法。数据库工作者通常区分物理日志和逻辑日志。物理日志就是记录每一行被改变的内容。逻辑日志记录的不是改变的行而是那些引起行的内容被改变的SQL语句(insert,update和delete语句)。

分布式系统通常可以宽泛分为两种方法来处理数据和完成响应。“状态机器模型”通常引用一个主动-主动的模型——也就是我们为之记录请求和响应的对象。对此进行一个细微的更改,称之为“预备份模型”,就是选出一个副本做为leader,并允许它按照请求到达的时间来进行处理并从处理过程中输出记录其状态改变的日志。其他的副本按照leader状态改变的顺序而应用那些改变,这样他们之间达到同步,并能够在leader失败的时候接替leader的工作。

日志

为了理解两种方式的不同,我们来看一个不太严谨的例子。假定有一个算法服务的副本,保持一个独立的数字作为它的状态(初始值为0),并对这个值进行加法和乘法运算。主动-主动方式应该会输出所进行的变换,比如“+1”,“*2”等。每一个副本都会应用这些变换,从而得到同样的解集。主动-被动方式将会有一个独立的主体执行这些变换并输出结果日志,比如“1”,“3”,“6”等。这个例子也清楚的展示了为什么说顺序是保证各副本间一致性的关键:一次加法和乘法的顺序的改变将会导致不同的结果。

日志

分布式日志可以理解为一致性问题模型的数据结构。因为日志代表了后续追加值的一系列决策。你需要重新审视Paxos算法簇,尽管日志模块是他们最常见的应用。 在Paxos算法中,它通常通过使用称之为多paxos的协议,这种协议将日志建模为一系列的问题,在日志中每个问题都有对应的部分。在ZAB, RAFT等其它的协议中,日志的作用尤为突出,它直接对维护分布式的、一致性的日志的问题建模。

我怀疑的是,我们就历史发展的观点是有偏差的,可能是由于过去的几十年中,分布式计算的理论远超过了其实际应用。在现实中,共识的问题是有点太简单了。计算机系统很少需要决定单个值,他们几乎总是处理成序列的请求。这样的记录,而不是一个简单的单值寄存器,自然是更加抽象。

此外,专注于算法掩盖了 抽象系统需要的底层的日志。我怀疑,我们最终会把日志中更注重作为一个商品化的基石,不论其是否以同样的方式 实施的,我们经常谈论一个哈希表而不是纠结我们 得到是不是具体某个细节的哈希表,例如线性或者带有什么什么其它变体哈希表。日志将成为一种大众化的接口,为大多数算法和其实现提升提供最好的保证和最佳的性能。

变更日志101: 表与事件的二相性。

让我们继续聊数据库。数据库中存在着大量变更日志和表之间的二相性。这些日志有点类似借贷清单和银行的流程,数据库表就是当前的盈余表。如果你有大量的变更日志,你就可以使用这些变更用以创建捕获当前状态的表。这张表将记录每个关键点(日志中一个特别的时间点)的状态信息。这就是为什么日志是非常基本的数据结构的意义所在:日志可用来创建基本表,也可以用来创建各类衍生表。同时意味着可以存储非关系型的对象。

八卦

这个流程也是可逆的:如果你正在对一张表进行更新,你可以记录这些变更,并把所有更新的日志发布到表的状态信息中。这些变更日志就是你所需要的支持准实时的克隆。基于此,你就可以清楚的理解表与事件的二相性: 表支持了静态数据而日志捕获变更。日志的魅力就在于它是变更的完整记录,它不仅仅捕获了表的最终版本的内容,它还记录了曾经存在过的其它版本的信息。日志实质上是表历史状态的一系列备份。

这可能会引起你对源代码的版本管理。源代码管理和数据库之间有密切关系。版本管理解决了一个大家非常熟悉的问题,那就是什么是分布式数据系统需要解决的— 时时刻刻在变化着的分布式管理。版本管理系统通常以补丁的发布为基础,这实际上可能是一个日志。您可以直接对当前 类似于表中的代码做出“快照”互动。你会注意到, 与其他分布式状态化系统类似,版本控制系统 当你更新时会复制日志,你希望的只是更新补丁并将它们应用到你的当前快照中。

最近,有些人从Datomic –一家销售日志数据库的公司得到了一些想法。这些想法使他们对如何 在他们的系统应用这些想法有了开阔的认识。 当然这些想法不是只针对这个系统,他们会成为 十多年分布式系统和数据库文献的一部分。

这可能似乎有点过于理想化。但是不要悲观!我们会很快把它实现。


以“ 云计算大数据 推动智慧中国 ”为主题的 第六届中国云计算大会 将于5月20-23日在北京国家会议中心隆重举办。产业观察、技术培训、主题论坛、行业研讨,内容丰富,干货十足。票价优惠,马上 报名

.NET开发者必备的11款免费工具 .NET开发不可错过的25款高效工具 Docker最佳实践!尽在2014 Container技术大会 pflua:用Lua编写的高性能网络包过滤工具箱 掌上明珠张磊:如何设计手游付费体系 云游科技何千军:游戏开发和后端逻辑经验 《近匠》Highway1:孵化,不只是简单的帮助 嘉宾来了 MDCC 2014首批演讲嘉宾名单公布 前雅虎CTO:Hadoop扩展过程中的7个危险信号 【云先锋】星环TDH:性能大幅领先于开源Hadoop2的技术架构赏析 一周消息树:我想创业,但不懂技术怎么办? GitHub迁移数据库,借助MySQL大行其道! 实例亲授:教你如何创建AR应用 iOS七年,苹果都为开发者准备了哪些工具? TIOBE 2014年9月编程语言排行榜:Java、C++跌至历史最低点 如何甄别具有软实力的IT应聘者? 避免关注底层硬件,Nvidia将机器学习与GPU绑定 盘点MIT Demo Day上4个最有前途的创业点子 IDF 2014第一天纵览:智能设备唱主角 时尚化才是可穿戴的未来 ASP.NET之父Scott Guthrie:借技术之力铺平未来之路 两年测试,NSA或将让其数据中心洗上油浴 【云先锋】数云:另类淘宝创业,瞄准背后百万卖家的数据挖掘 Xcode 6 GM、6.1齐出,Swift终迎1.0版! 我眼中的Devops——倍道而进! 英特尔物联网世界:提供开发工具包,实现万物互联 三十功名尘与土——我的程序员生涯自白 触摸未来:为什么说AR是未来最重要的人机界面? 科普:谈云计算中间件理念 能准确“猜透”玩家心理,深度学习让游戏更智能 阿里过程改进专家:看板核心在于拉动式管理过程+数据化支持改进 英特尔Edison全面上市,专为小型可穿戴设备设计 急·!!怎样能把磁盘上的文件删出一行 有关多字段排序的问题? 什么是发布与订阅? 1、五一节快到了,大家打算怎么过啊?:P 我从网上Down下一个VB的事例,但是窗体上控件的位置没法移动??? 如何在访问不同域的COM+服务,如何配置? 求购CRM源码(delphi) 我写了一个exif读取的程序,欢迎大家热心测试,给出好的建议的赠送代码 2、五一散分帖,收集一些东东。 问个弱弱的问题! 帮忙了,谁有XP的序列号? 一个很菜的问题,求助!!! 超时已过期错误提示问题 河北保定,转让大量C++世界经典。 关于控件堆叠的问题 session的问题 今天发工资,太少不爽,大散分,谁要是能帮我找一个挣钱的私活,我给他200分(令给) 请教数据库! 请教有关对话框的问题? 3.五一散分帖,我一个朋友说。。。。。。。。 高分相求:JBUILDER8 Enterprise 版,或下载地址。 怎么才能获得editbox的值 请问rasWinGod 这个控件如何用!(在线等待) 请问如何用CB生成可以在集成到网页上的activeX控件?急阿........ 如何把用逗号隔开的字符串赋给一个数组? FileView下的External Dependencies里面的.h文件是什么?! 请问如何在数据窗口中显示记录序号 怎么看自动生成的Makefile到底做了什么?紧急总动员,满分,在线等待 回答我问题 今天打开邮箱,竟然没有lj邮件,感动ing,散分ing 4、五一散分帖,问问题。:) 单击一个TreeView发生一个事件!我想显示? informix小问题 求一个存储过程,sql server 2000 大家好,请高手赐教,有关在应用程序中如何打开并编辑Word 文档??急需 如何在文本文件中查找一个串 100分,如何安装sturts?解决马上送分 求急! JMAIL组件的收邮件附件的问题,请熟悉JMAIL使用的帮忙看看。 高手请指点..急呀..在线等... 请问怎样固定一个窗口的大小? 请问用正式版能不能修复已过期的sql server 试用版,让它重新启动起来? Asp.net怎麼執行存儲過程﹖是不是用存儲過程執行就不會出現臟數據﹖ ERWin是个什么东东? 键盘响应(F1) 怎么样把一个目录的权限完全给指定的user? 分布式数据处理问题-Sqlserver 开发人员请指点!! 判断数字问题 谁有刷新隐藏帧的例子? 我做的第一个网站,大家去看看,多提宝贵意见,谢谢! 请帮助 邻居之间围墙高度有规定吗 对共青团的认识 水塔装两个浮球水下不来啊 为啥动物的嘴那么长 人的嘴那么短狗和鳄鱼这样长嘴巴的动物 我用两手把它们的嘴巴抓住 让它们张不开嘴 它们还能咬人吗 吃一斤鲨鱼肉等于吃掉了几斤普通鱼肉?鲨鱼每天都要依靠吃小鱼来长大,被鲨鱼吃掉的鱼肉,远远超过鲨鱼本身的重量.大白鲨长到四米长时,吃掉了比它自身几倍的食物? 在书法家的笔下,它们能生发出无穷无尽的变化,或挺拔如峰,或清亮如溪,或浩瀚如海,或凝滑如脂怎么仿写 宇宙有多大,有边缘吗宇宙有多大,有尽头吗,要是有,那么尽头外面是什么?为什么宇宙怎么虚无缥缈.另外问问大,小有没有界限? 照样子写词语,例:人如海 求富士宝电磁炉ih-p200电路图或告知电阻R50的阻值是多少富士宝电磁炉ih-p200 主板上电阻R50的阻值是多少?电阻烧坏了看不到色环了!望知道的朋友速速告知!fsb023-osc-m.pcb 080717-ljw 宇宙究竟有多大,它有边缘吗? how happy we are_____each other in washington!wo have hardly ever met in shanghaiseeingto seesaw seen 富士宝IH-P190B电磁灶散热器上温度检测电阻常温时阻值多大? 宇宙究竟有多大?宇宙的边缘在哪里?宇宙外又是什么样的洞天? Q1、Q2为两个被固定的正负电荷图所示,Q1、Q2为两个被固定的正负点电荷,在它们的连线的延长线上的a点,电场强度恰好为零,现把另一正电荷q从b点移到c点,该电荷的电势能将(  )(A)不断 谁能答出这道物理题真的是天才了一根长为L 的轻质细杆两端各固定一个可视为质点的小球A和B,两小球的质量均为m .轻杆可绕过其中心的水平轴在竖直平面内匀速转动.若直杆转动的周期为2派 明天大风降温是描述天气的吗?但是 还有个气候啊 昆明四季如春呢?是不是一天以内就是天气啊 2天以上就是气候? 若在A、B的连线上放一电荷q,恰能使q1,q2,q三个电荷都处于平衡状态,试确定q所带电荷量及所放的位置?无图 网络用语 在 钢铁是怎样炼成的 中 保尔因什么原因加入共青团?又应该怎样描写他的朋友们? 钢铁是怎样炼成的第一部中保尔认识了哪些人,保尔的形象是怎样的 加热4.2g小苏打,直到再没有气体放出为止,剩余固体物质的质量为多少?这是一个计算题 请问各位兵圣裔胄们,孙氏乐安堂中的“乐”字的读音. 用一电阻接在电路上,15分钟后加热一物品.用同一电源在另一电阻加热用10分钟.如果两电阻串联接在同一电源上,要用多少时间加热同一物体 富士宝IH-H201T型电磁炉主板上R37电阻阻值是多大?请高手赐教, 多少卡路裏等于1斤脂肪如题 多少卡等于1脂肪?人一天最低消耗多少卡?(不动的情况下)一个苹果25卡 一天吃8个 等于600卡.那么要多少时间才减50斤回答清楚 我加分(我每天都要做很多劳动 浩瀚如海的意思 长方体物体A的底面积为1*10-2㎡,高为5*10-2㎡,将其浸没在水中并松手后,物体恰在水中静止,如(a)所示.将其浸入盐水中,物体静止在(b)所示的位置.求:(1)物体在水中所受的浮力【已解】 保尔.柯察金一生中最重要的三个女人是谁? "只有虚怀若谷,才能吞云吐雾,只有浩瀚如海,才能不择江河"这句话是什么意思?我大概了解了一点点,但我想具体了解下... 王丽同学测得一本练习册的厚度是0.60厘米,共160页,则这本练习册中每张纸的厚度是( )厘米,合( )米 某住宅的平面结构如图所示(墙体厚度不计,单位:米)(1)该住宅的面积是多少?(2)该房的主人计划把卧室以外的地面都铺上地砖,如果他选用的地砖价格是30元每平方米,那么买地砖至少 我没有立堂口,但我会说上方语.自己说的什么还不知道,管不住自己的嘴这是为什么 富士宝IH-S217C电磁炉图纸R22电阻是多大? 请教机械传动的效率,最好说明单级齿轮传动和多级齿轮传动的效率 妈妈说我 失去了自我 把自己给丢了 说我把自己给丢了 自暴自弃 我什么都丢了 把自己都给丢了 我什么都没有了 难道我以前那么的坚持那么的执着就曾有过么 我还是没有 只是一直在挣扎 传动系统的作用有哪些 为什么肾小球滤下的物质中会有蛋白质,蛋白质不会消化成氨基酸后被吸收了吗? 无口受是什么意思啊? 测得一本练习册的厚度是0.6厘米,共计80张纸,则这本书中每张纸的厚度是多少毫米? 液力变矩器坏了有什么现象 一个关于糖酵解的问题据总结,从葡萄糖算起,共生成4个ATP,分别在生成6-磷酸葡萄糖和1,6-二磷酸果糖时各消耗一个ATP,所以净生成2个ATP.我的疑问是:在生成1,3-二磷酸甘油酸时没有消耗ATP吗?如 传动系的作用是什么?拜托各位大神 液力变矩器效率90%机械效率只有45%不知道对不对那位大侠能告诉我啊谢谢 妈妈说,有些事情真的不要说得那么明白,不然就没意义,但是不说明白会失去很多? 什么练习册比较好呢?这回考得不好,请各位大神介绍一些比较有难度的练习册. carry on your work这句话对吗,错的话错在哪?the answer is carry on with your work 在机械传动中传动效率最高的是? 仿照苍山如海写词语 过点M(3,-4)且在两坐标轴上的截距互为相反数的直线方程为 选择泵,助磨剂泵,助磨剂弱酸性.作用加压,流量小,输送距离长.管道口径小,32的ppr管不要计量泵.提供型号与参数 大嘴巴的新专辑《王元口力口》是什么意思? 我的爱像尘埃散落在边疆地带不再对谁期待而许诺像尘埃不断被时间掩埋是甚么歌拜托了各位 水泵比水池高1米,水平距离约30米,用一寸的管道,自吸喷射泵加引水/长时间的抽,怎么也抽不上水;把泵换回另一根原来能上水的管道,也抽不上来了.是否长时间不上水空转把泵给抽坏了?1米高/ 大嘴巴的新专辑《王元口力口》是啥子意思? 邻里围墙问题我们是在农村,我们家和邻居家之间有一条路(我们家西边,他们家东边),当初他们家打围墙的时候把路给打进去了,并出具了证明的协议.现在我们家打围墙,为了让父亲的车能开 楼顶有储水池,全自动管道自吸增压泵与无塔供水器的区别 大嘴巴的新专辑(王元 怎么读?. 关于农村邻里间的围墙高度有什么规定吗?我家要造围墙,可我邻居不让我造高,他说挡住了他的采光了,请问农村邻里间的围墙高度有什么规定吗? 我对共青团的认识越少越好,一定要少!多了就要骂娘了啊~ 根据提拔如峰、清亮如溪、浩瀚如海仿写全文是:真的,它们可不是僵硬的符号,而是有着独特性格的精灵.你看吧,每个字都有不同的风韵.“太阳”这个词,使你感触到热和力,而“月亮”却又闪 菲律宾议员“港人生命值钱说”激起香港美国女童目睹家人被烧死 获赔1.5亿梅丽尔·斯特里普曾有婚外恋俄罗斯核武部队大规模战略演习 抗衡北儿子接父亲同住享清福 父亲天天赌博逼男子电话打到派出所求厕纸 不多久再抱杭州13岁女生撒谎离家失踪5天 曾结医生举报官员公款出游 出门戴钢盔执擀台湾花莲地震波及浙江 温州某酒店上演台湾花莲地震波及浙江 居民称高楼摇晃国家级电视剧节目推介会首次移师杭州杭州政协委员建议传统产业“电商化”杭州重机厂将变身时尚商业中心浙江省提前3个多月完成全年保障房任务杭州未来两年技术研发类人才需求最大感动!美男子车祸变残障女友不弃结连理英老年人养鸡遣寂寞 送鸡上学生活忙【英汇丰银行报告:中国成为2013年度以色列军队炮击加沙打死一名巴勒斯坦人壮美!摄影师抓拍冰冻海浪翻滚瞬间【高英汇丰银行报告:中国成为2013年度男子中68万为儿子完成大学梦日本手工艺品精品在穗展出儿童座椅用过吗?钟镇涛8月迎娶范姜活鸡将禁售 价格略上涨箱包产品吸引南美客商酒店机票小心被“钓鱼”刘涛自认“网购达人”钓鱼岛的西方古地图亮相拱北口岸出入境客流达32万送行饺子接风面“小休站”开放一周 不少环卫工不知情一男子在闹市首日订车超2000台独立调查组深入调查《如何看一幅画》杭州萤火虫放飞现场发生打砸亲子游泳治自闭症重现宋朝“皇族祭祀”马竞奇迹家长进课堂 体验大减负
备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘