11月10日,具有计算奥运会之称的SortBenchmark全球排序竞赛公布年最终成绩,腾讯云大数据联合团队用时不到99秒(98.8秒)就完成TB的数据排序,打破阿里云去年创造的秒的纪录。在更早前,百度创造的纪录是秒,Hadoop的纪录是秒。
在这次竞赛中,腾讯云数智分布式计算平台,夺得SortBenchmark大赛GraySort和MinuteSort的冠 ,总共创造四项世界纪录,将去年阿里云的纪录整体提高2倍到5倍。腾讯名列全球大数据第一梯队领 企业,这也是全球大数据性能进化史的重要里程碑。
每年全球顶尖公司和学术机构都会来参加该赛事,以评估软硬件系统架构能力及最新研究成果。这项赛事包括四项比赛,腾讯云大数据联合团队参加的是含金量最高的GraySort和MinuteSort两项排序竞赛,重点评测大规模分布式系统的软硬件架构能力及平台的计算效率,以上两项比赛均包括Indy(专用目的排序)和Daytona(通用目的排序)两个子项。数智一举夺得上述四个子项的冠 ,总体将去年的纪录提高2倍到5倍。
GraySort竞赛比拼的是如何在最短的时间内,将总共TB,一共1万亿条无序的字节纪录,按照从小到大的顺序进行排序。数智用时98.8秒完成TB的数据排序,即每分钟完成60.7TB的数据排序,去年冠 的纪录为18.2TB/分钟。MinuteSort竞赛,比拼的是在1分钟之内能够完成多少数据量的排序。数智的成绩为1分钟完成55TB的排序,去年冠 的纪录是11TB,数智将这一数据量提升5倍。
SortBenchmark通过排序竞赛考量一家公司或机构大规模计算能力的综合实力,通过排序这个最基本的计算问题,不仅全面评测分布式系统软件架构能力(如海量数据分布式存储、计算任务切片调度、节点通信协调同步、数据计算监控容灾等性能),也评测了硬件架构能力(如服务器硬件选配、网络架构调优、IDC规划建设能力等)。在这次排序竞赛中,腾讯云大数据联合团队在基础架构上采用了台IBM的OpenPOWER服务器和迈络思公司的Gb互联技术,这也让腾讯云大数据产品的性能取得进一步提升。
腾讯云副总裁、腾讯数据平台部总经理蒋杰表示,全球企业正在进入企业数据和社会数据的全融合时代,从浩瀚的大数据中寻找新业务航向,甚至建立全新的商业模式,正在成为这个时代企业的生存和发展命题,腾讯云全面开放腾讯18年海量大数据处理经验,为企业在最短的时间内,用最少的资源提供精准的计算,建立核心商业竞争优势。
此次参赛的腾讯云大数据联合团队由腾讯云存储产品中心、腾讯数据平台部组成,这个团队在大数据技术和应用管理上有非常丰富的实践经验,尤其是腾讯数据平台部一直在管理的腾讯大数据集群,是世界上最大的大数据集群之一。此前,这个团队一直苦练内功,多年技术积累让他们在全球计算奥运会上取得非常瞩目的成绩。