第四范式推出支撑毫秒级恢复的万亿维线上预估体系

网易科技讯 6月30日新闻,第四范式定制开发了基于持久内存技术、支撑实时恢复的万亿维线上预估体系,可提供高可用性、毫秒级恢复的在线预估服务,同时将企业总拥有成本降低80%。

据介绍,该体系基于第四范式AI算力平台SageOne的持久内存进行了软硬一体设计,可实现每秒亿级KV查询的性能,并与第四范式自研的高维机器学习框架以及TensorFlow等AI开源框架无缝对接。

材料显示,线上预估服务是AI在企业利用落地的要害环节,企业通常会采取散布式计算架构在内存中完成实时数据处置和高达万亿维的模型特性存储,并通过多集群副本解决传统纯内存(DRAM)天生的易“失”性隐患,以到达线上实时服务质量(Quality of Service)后果。然而,随着企业AI利用模型大小和数量的增长,线上预估服务所须要的硬件资源也呈几何倍数增添。