说三道四技术文摘-感悟人生的经典句子
说三道四 > 文档快照

新技术对传统学科的颠覆:系谱网使用大数据寻亲问祖

HTML文档下载 WORD文档下载 PDF文档下载
追本溯源似乎是人类的天性,由于互联网和大数据等技术的发展,系谱学取得了很多进展,寻找并图表描绘家族史已变成一种潮流。Ancestry是系谱学领域有名的企业,近日添加了将孤立的事件整合成完整档案的功能模块。

家谱网爱好者可能认为在Ancestry网上通过人口普查记录、出生证明和其他文件来寻找亲属的信息这件事很有趣。当向朋友和亲属来炫耀自己的个人记录时,就显得不那么有说服力了,而且讲述一个祖先的社会档案并不简单。

Ancestry.com服务幕后的人已经意识到了这一点。现在,他们正在最大限度的利用其4PB的数据库(包括官方的个人记录,用户提交的信息和其它有新特征的数据),为用户提供由计算机生成但是可编辑的祖先信息摘要。

Ancestry网推出的这项服务名为Story View,本季度早些时候只针对一小部分客户,现在10%的客户都可以享受这一服务了。该公司的产品执行副总裁Eric Shoup在最近一次采访中表示,他们计划在正式发布Story View功能前,将对比Stroy View功能使用前后的情况,以进一步完善Story View。通过允许用户围绕一个单页的文档图像以及编辑文件中的文本部分,Ancestry已经增强了这项功能的互动性。

它是如何工作的

Story View功能基于一个比较成熟的工具,该工具可以对亲属数据包括一些手写的记录进行数据挖掘。但是有时只有关键字段,如姓名和居住地。客户可以访问手写记录,定位到一个亲属被描述的位置,查看未被处理的数据,比如那个人的职业。

通过逐步指导"keyers"解析手写记录,并将记录转换为可搜索的文本,Ancestry正在试图通过手写记录获取更多信息。街道地址已经通过这种方式添加进去,其它的字段以后也会添加。同时,由于Ancestry在不断扩充其资料库,社会档案也会有更多的来源。


为了从多个文档中提取信息生成一个段落总结,Ancestry求助于Narrative Science,该公司成立于2010年,专注于使用机器生成可读的拷贝(传说中会让我们小编都失业的技术)。早期应用于体育赛事的报道和上市公司的收益报告,现在Narrative Science技术被更多的用于个人信息处理。

Ancestry叙事(narrative)和内容(context)服务团队的首席开发人员ReedMcGrew说,当Ancestry第一次采用Narrative Science技术时,只能分批地产生数据。它们会生成大量的财务报告,这并不是我们试图提供的,因为这种批处理确实很慢。

几个月内,Narrative Science开发了一个新的API,这个API可以在更精细的水平上工作。McGrew说:“它们基于单个用户生成社会档案”。

Ancestry精于处理家谱信息,该公司的编辑提供编辑的标准,或“规则”,规定了narratives收发数据的格式。McGrew解释了Ancestry标准:“比如遇到孩子只比母亲小10岁的记录,这更像是输入错误,虽然现实情况中也会发生,但多数情况下不会,所以我们会把这条记录当成错误的来处理”。


包含Shoup某个亲属信息的记录

在Story View中,一个祖先的图片和生活摘要下面是一个缩放的文档图片,而不是结构化文本的离散字段。图片的旁边,Ancestry会提供从文档信息中生成的导语。一旦Ancestry发现所有的记录都和一个人有关,就会根据Ancestry的编辑规则选择出特定的事实组装成完整的句子。一旦基于文档的导语显示在浏览器中,用户就可以在共享前编辑和保存它们。

很难共享

Ancestry的CIO Scott Sorenson说,我们面临的挑战并不在于创建和存储用户的新数据和网页。存储会变得越来越便宜,精确的手写记录处理也不是问题。通常keyers都在中国找,中国的字符集比我们的字母表要大很多,他们很擅长键入这些记录。

真正困难的部分是确保服务的高可用性,数以百万的用户提供正确的文档和文本,并确保网站流量高峰时不致崩溃,但是Story View的目标之一是让更多的人浏览网站内容并最终注册。

原文链接:How Ancestry.com transforms mounds of data into legible digital records (编译/周小璐 审校/仲浩)

中国云计算领域最大盛会——“ 第五届中国云计算大会 ”将于2013年6月5-7日在北京国家会议中心举行。

以下专题由CSDN云计算频道独家策划,未经许可严禁转载。

企业报名通道: Innovation Cloud 2013云创新产品与应用项目已经结束。但接口仍对所有想“一步”加入中国云生态系统的企业免费开放!在线填写“ Innovation Cloud 2013云创新产品与应用项目”或下载填写后邮件guoxm@csdn.net均可。有任何问题,欢迎联系我们!(微博:@CSDN云计算;QQ群:中国云计算群4和群5,任选其一)。

    • 第五届中国云计算大会讲师秀
    • 303+中国云计算企业榜单,云生态系统雏形已现!
    • 集萃系列:百位云计算专家分享技术理念,技术工具与最佳实践
    • 区域地图,2013,中国云计算大势电子地图
    • 深度报道,2013, Cloud Edge“云先锋”系列报道
    • 建数据库,2013,一步加入中国云计算数据库

    备案号:鲁ICP备13029499号-2 说三道四 www.s3d4.cn 说三道四技术文摘