欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

数据库领域重要进展!蚂蚁集团高性能图数据TuGraph正式开源

2022-10-09 14:53:39 643

摘要:数字化正在深入各行业,所产生的海量数据得到了空前的重视和应用,这也是中国数据库生态百花齐放的重要原因。CSDN《新程序员》杂志第二期做了“新数据库时代”为主题的系列报道,我们看到,在传统关系型数据库之外,新型的非关系型数据库快速发展,例如新...

数字化正在深入各行业,所产生的海量数据得到了空前的重视和应用,这也是中国数据库生态百花齐放的重要原因。CSDN《新程序员》杂志第二期做了“新数据库时代”为主题的系列报道,我们看到,在传统关系型数据库之外,新型的非关系型数据库快速发展,例如新兴的图数据库已经应用于金融风控等重要的生产场景。

今天,蚂蚁集团在刚刚开幕的 2022 世界人工智能大会 WAIC 上正式宣布,开源旗下高性能图数据库 TuGraph 的单机版,TuGraph 是图数据库基准性能测试 LDBC-SNB 世界纪录保持者,本次开源立即成为国内图计算与图数据库技术领域的重要事件。这样的契机下,CSDN 专访了蚂蚁集团图数据库技术负责人洪春涛博士、蚂蚁技术研究院图计算实验室研究员朱晓伟博士,听听他们对于图数据库的研发经验与心得。

关系型数据库之后,数据管理分析将进入图数据库时代

在《新程序员》杂志的报道采访过程中能看到,目前图数据库仍是较为新型的系统。传统的关系数据库,虽然名字叫关系数据库,但其实数据组织形式并非关系原生。关系型数据库的数据主要是以表的形式组织,一张张的表联系起来,依靠表上的键值连接。所以关系数据库应该叫表数据库,而图数据库,反而应该叫关系数据库。下图分别展示了关系型数据库和图数据库存储结构对比:

关系型数据库、图数据库的存储结构示意图

图数据库将关系预先保存到关系列表中的这种能力,使得图数据库能够提供比关系数据库高几个数量级的性能,对于复杂连接的查询,关系数据库往往需要很长时间,而图数据库甚至能够实现毫秒级的响应。

本次采访中,对于图数据库的产生历程到发展趋势的判断,洪春涛博士以 TuGraph 为例,将图数据库的发展分为了三个阶段。

洪博士提到,第一阶段,一般企业刚接触到图数据库 TuGraph,多数用于传统大数据分析手段不能及时处理的场景。在现实生产生活等数据应用场景中,数据关系是错综复杂的,越来越多复杂关系需实时分析。例如,金融系统现在需要实时定位洗钱团伙的刷单、套现、跑分、借助合法账户洗钱的行为。如下图示意,不良商家常常通过银行卡、熟人来完成套现“回路”,纯资金流的数据模式无法看出端倪,需要借助图数据模式发现此类闭环模式,提前预防风险。

因此,TuGraph 第一阶段主要是解决关系网络数据的存储、查询和分析问题,能支持上层应用对关系网络数据的 OLTP 业务需求以及离线大规模图数据的 OLAP 业务需求。

目前多数图数据系统都处于第一阶段。不过随着图数据库的成熟应用,用户发现传统关系型数据库所支持的业务,在图数据库上一样能实现,甚至更轻松。因此如果某个业务既有传统查询需求,又有图查询需求,用户会更倾向于将业务数据存储、查询、分析计算都建立在图数据库上。经过发展,TuGraph 已经能够提供一站式的图存储、图查询以及图计算服务,进入图数据发展的第二阶段,从边缘的图查询应用到全业务流程应用。

对于未来第三阶段的发展,洪博士提到 TuGraph 将发展到足够成熟,且积累足够多的行业应用经验。鉴于图数据库在数据抽象上更灵活,处理关系数据上性能更高的优势,用户在发展新的业务时,将会首先选择图数据库(而不管有没有图查询需求),这就像过去几十年里,用户选择关系型数据库的情形一样。

从图数据库和 TuGraph 的发展进程看,目前 TuGraph 处在从第二阶段,并向第三阶段迈进的过程里,不过具备完整的图计算系统之后,仍需要大量的行业和真实生产场景去验证和丰富图数据的技术与生态,这也解释了为什么 TuGraph 选择在这时开源。

图数据库基准性能测试世界纪录保持者,TuGraph 比关系数据库更懂关系

在专访中 CSDN 了解到,TuGraph 在开源之前,已经在蚂蚁集团内部积累了丰富的应用经验和性能打磨,并非一个早期孱弱的开源项目。

蚂蚁集团对图计算技术的探索始于 2015 年。2015 年蚂蚁开始自主研发分布式图数据库、流式图计算等图计算技术系统,并在内部得到了良好应用。2016 年蚂蚁集团发布自研图数据库版本 GeaBase,并接入支付宝。GeaBase 在 2019 年双 11 主链路上单集群规模突破万亿边,点边查询突破 800 万 QPS,平均时延小于10ms

另一边,2016 年从事图计算研究的清华师生成立了费马科技有限公司(创始人为清华大学教授、现蚂蚁图计算技术负责人陈文光,本次采访的洪春涛博士、朱晓伟博士均师从陈文光教授),于 2017 年开发出了具有国际领先性能的图数据库产品,能够支持完整的图数据库事务,支持企业级高效图数据存储、查询。

2020 年蚂蚁集团整合自有图计算技术系统 GeaBase,以及清华大学和费马科技的产品和技术,升级形成了一套完整的图计算系统 GeaGraph(后品牌升级,更名 TuGraph ),已于 2020 年通过了信通院大数据产品能力评测,获得 2021“世界互联网领先科技成果” 奖。这套系统集成了蚂蚁集团以及清华大学原有优势,无论从功能的完整性,吞吐率、响应时间等技术指标,还是应用领域,都达到了世界领先水平。可以说 TuGraph 图计算系统正是蚂蚁集团与清华大学强强联合后的升级版本。

本次开源的单机版 TuGraph 提供了完备的图数据库基础功能和成熟的产品设计,拥有完整的事务支持和丰富的系统特性,单机可部署,使用成本低,支持 TB 级别的数据规模,满足市面上绝大多数用户的部署需求。TuGraph 采用 Apache2.0 协议,在 Github 和 Gitee 上进行托管。

单机版开源 TuGraph 产品架构图

单机版开源 TuGraph 通过以下具体功能和模块,来实现开发者友好:

具体性能的指标来说,单机版开源 TuGraph 是一个成熟的、拥有极致性能的单机图数据库,今年 8 月,TuGraph 在图数据库基准性能测试 LDBC-SNB 测试中,再次创造世界纪录,吞吐率较上一次官方纪录领先 52%。

相较于常见开源产品,单机版开源TuGraph的性能高 10 倍以上,可以支持更高的吞吐和更复杂的查询,它在单机上可以轻易支持 TB 级别数据和百亿级别大图,足以满足约大多数业务场景的需求。

除了一些基础性能,TuGraph 也因蚂蚁内部应用的严格标准,具备了金融级的高可靠特性。TuGraph 通过 RAFT 协议支持集群高可靠,RPO=0,超越国际灾难恢复能力 6 级要求;支持事务能力,达到可串行化隔离级别,保障数据一致性。另外,TuGraph 100%自主研发,自主可控,兼容国产服务器及操作系统。

TuGraph 生长于蚂蚁集团,在支付、数字金融、安全领域都有规模化的应用。例如金融的核心风控场景,TuGraph 也一直在用于风险行为分析的前沿领域,例如反洗钱反套现这些核心场景。

TuGraph 应用场景举例:

金融场景-反洗钱识别能力提升近 10 倍

金融场景-黑灰产识别能力提升 8 倍

值得一提的是,现在 TuGraph 已经用于蚂蚁在线支付的实时链路中,支付宝的风险识别能力提升了近 10 倍,风险审理分析效率提升 90%。

开源之后的 TuGraph:从金融场景走向千行万业、繁荣生态

开源,一直是技术界发展壮大技术实力的硬核动作。采访中,CSDN 向洪春涛博士、朱晓伟博士详细了解了 TuGraph 在开源后的研发计划。

据洪博与朱博介绍,在应用层,TuGraph 开源后,蚂蚁集团会将现有的成熟案例分享出来,成为开发者快速上手图数据库的样本,随着 TuGraph 在社区中深度的应用,也会继续丰富行业场景和应用实例。在工具链层,目前图数据库领域各大厂商都在自研工具,但未能联合形成通用化工具产品。开源后,蚂蚁将联合社区、合作伙伴一起,将 TuGraph 自带的工具与其他工具整合,适配各种不同数据库,丰富工具的易用性。而在核心层,现在各类图数据库差别较大,对外提供接口性能千差万别。开源的 TuGraph 可以给其它产品提供一个参考实现,有望加快图数据库向标准化方向发展的步伐。

在朱晓伟博士看来,开源也有利于研究人员在 TuGraph 基础上验证新的技术。“细节是系统的魔鬼”,很多在原型系统上适用的技术在实际系统中可能就表现不佳了,因为系统模块之间难免互相干扰。而 TuGraph 是一个实际使用的系统,它开源之后,研究人员基于它去验证自己的想法就可以很容易的避免闭门造车。TuGraph 开源的另一个动力,是希望借助开源社区,联合高校科研,去探索下一代图计算的研究方向,更大场景上的应用和更前沿的学科探索。目前 TuGraph 与复旦大学已经在脑科学领域的交叉研究,将图计算应用于神经元模拟中。

对于大多数的开发者和合作伙伴来说,单机版开源 TuGraph 架构与稳定性、性能,已经足够满足多数场景和数据量的要求,开发者可以聚焦应用层,通过核心层和工具链提供的基础来打造属于自己的 TuGraph 图数据应用。而 TuGraph 商业版本在开源单机版本通用功能之外,将提供数据量更大的分布式版本和高可用服务。

从金融风控等核心场景打磨之后的 TuGraph,也正在面向互联网、工业制造、海关、公共安全、政务服务、社会治理等行业和应用,去处理这些领域复杂场景、深度关联分析,将关联数据查询、洞察和预测分析提升到一个新水平。

以互联网场景为例,TuGraph 可以将 2 千亿网页抽象为点29 万亿链接抽象为边,构建网页图模型,利用TuGraph 图分析引擎,实现对全量网页 PageRank提升搜索准确性,提高用户搜索体验

互联网场景案例-实现搜索引擎十万亿网页排序,提升搜索准确性

在电力场景下,通过 TuGraph 对图数据进行统一存储、管理和计算,其强大的查询语言、多层次灵活的 API,实现实时追踪电网运行状态,支持频繁且复杂的实时数据查询和更加高效的电网模拟计算。提高电网设备运营管理水平

电力场景案例-电网设备运营管理

结语

如采访中洪春涛博士所言,图数据库仍在发展早期,本次蚂蚁 TuGraph 的开源,从底层技术科研到应用开发生态发展,是对国内图数据库技术界重要的贡献。中国开源技术力量在不断崛起,期待 TuGraph 与开源撬动国内图数据库技术发展与生态繁荣,CSDN 将持续关注报道数据库发展。

版权声明:本站所有文章皆是来自互联网,如内容侵权可以联系我们( 微信:bisheco )删除!
友情链接
币圈社群欧易官网