网站建设项目怎么跟进客户,安阳哪里有做网站的,高级搜索技巧,合肥网站网站建设近日#xff0c;暴雨信息发布为大模型专门优化的分布式全闪存储AVERSE系列。该系列依托暴雨信息自研分布式文件系统#xff0c;搭载新一代数据加速引擎Xdata#xff0c;通过盘控协同、GPU直访存储、全局一致性缓存等技术为AI大模型数据归集、训练、数据归档与管理等阶段提供…
近日暴雨信息发布为大模型专门优化的分布式全闪存储AVERSE系列。该系列依托暴雨信息自研分布式文件系统搭载新一代数据加速引擎Xdata通过盘控协同、GPU直访存储、全局一致性缓存等技术为AI大模型数据归集、训练、数据归档与管理等阶段提供强大存储支撑能力助力用户加速大模型系统的创新及应用落地。 构建存储底座化解大模型时代挑战 大模型已经成为驱动数字经济深度创新、引领企业业务变革、加速形成新质生产力的重要动能随着大模型参数量和数据量的极速膨胀多源异构数据的传、用、管、存正在成为制约生成式AI落地的瓶颈之一用户亟需构建更加高效的存储底座。在数据准备阶段在规模大、来源广泛、格式多样的原始数据中筛选和清洗出利用于训练的高质量数据常会耗费大量时间在模型训练阶段海量小文件数据加载、Checkpoint数据调用对IO处理效率提出严苛要求模型训练之后多个数据资源池无法互通、海量冷数据归档带来较高的数据管理复杂度。 作为率先在业界提出分布式融合存储的厂商暴雨信息聚焦行业客户的大模型落地需求与核心痛点基于NVMe SSD研发出高效适配和优化的分布式全闪存储AVERSE系列。硬件方面AVERSE是一款2U24盘位的全闪存储机型搭载英特尔®至强®第四、第五代可扩展处理器支持400 Gb 网卡同时每盘位可配置15.36TB 大容量NVMe SSD。软件方面通过集群控制服务将N个节点联成一套具有高扩展性的文件系统通过分布式元数据服务提升海量小文件读写性能通过数控分离架构实现东西向网络优化降低IO访问时延提升单节点带宽。在软硬件协同创新下AVERSES充分满足大模型应用在存储性能和存储容量方面的严苛需求。
具体来说在数据准备阶段通过多协议融合互通技术面对多份、多种协议的数据存储底层仅保留一份数据实现数据共享免搬迁在模型训练阶段通过大小IO智能识别和缓存预读技术快速保存和恢复checkpoint检查点文件实现TB级训练数据Checkpoint读取耗时从10分钟缩短至10秒内大幅提升训练过程中数据加载速度RDMA/RoCE网络连接技术和数控分离架构的设计实现东西向数据免转发极限发挥大模型训练中硬件网络带宽性能基于盘控协同架构网络数据直通NVMe SSD进一步提升单盘带宽在数据归档与管理阶段AVERSE提供了多元异构存储的统一纳管能力保障数据资产高效存储与管理大幅提升存储资源的利用率且最大化数据基础设施投资回报比。
利用数据加速引擎保障大模型高效训练
在大模型的数据应用全流程中要想使训练效率达到极致减少不必要的资源浪费训练阶段的数据读写性能成为重中之重。而想要提升算力利用率、降低模型训练成本必须要在数据存储性能上进行创新。
AVERSE系列具备强大的端到端性能优化能力这也是模型训练阶段最为核心的考量因素。暴雨信息基于计算和存储协同的理念依托自研分布式文件系统构建了新一代数据加速引擎在缓存优化、空间均衡、缩短GPU与存储读取路径等方面进行了全面升级。” ■ 智能缓存优化保障大模型训练速度与质量
AVERSE能够通过对大小IO的智能识别进行分类治理小文件采取聚合的操作大文件采取切片的操作所有数据以大小均衡的模式保存到全局缓存中实现小文件性能提升5倍大文件性能提升10倍。在模型训练中断后从Checkpoint恢复数据过程中AVERSE通过缓存预读技术提前识别数据的冷热程度加速了重复样本数据的读取训练加载速度提升10倍。无论是读操作还是写操作AVERSES采取了字节级Byte分布式锁机制粒度是主流并行文件系统锁机制粒度的几十分之一确保多个节点访问共享资源时能够安全、有序地进行操作从而保持训练数据的强一致性和训练质量。
■ 智能空间均衡性能无衰减
AVERSE搭载了暴雨信息自主研发的分布式并行客户端技术相比通用私有客户端卸载了独立的元数据实现了元数据和数据节点的高效统一部署有效提升存储的并发能力充分利用训练节点网卡的带宽让GPU算力得到完全释放。同时在存储端相较于业界主流的文件系统需要在磁盘之上构筑一层文件协议AVERSE能够直接对裸盘的空间进行均衡排布并在管理层面设计了智能空间预分技术能够结合用户前端算力节点数量、训练模型的数量对存储空间分配进一步进行智能策略预埋。这套组合拳能够使AVERSE在空间利用率达到95%高水位时依然可以平稳输出强大的性能。在模型训练的空间损耗上AVERSE相较传统方案将损耗率降低了85%左右充分保护了客户在大模型存储上的投资。
■ GPU直通服务万亿参数大模型
当大模型参数在百亿级别GPU对存储资源的调用效率往往差别不大。但随着大模型从单模态走向多模态数据量指数型增长训练效率随之要求更高。从数据层面来看AVERSE具备和GPU直通的能力数据流不经过客户端缓存直接到达存储底层文件系统缩短GPU与存储的读取路径这项技术能够使存储读写带宽翻倍大模型训练加载时间缩短50%。随着万卡万亿参数模型时代的到来GPU直通存储高效提升数据读写访问的能力将是大模型训练的标配。
通过上述技术创新分布式全闪存储AVERSE凭借领先的性能和管理优势能够帮助用户加速大模型的数据归集、提升模型训练效率、简化海量异构数据的管理从而推动业务智能化变革。暴雨信息将借助AVERSE等存储产品与合作伙伴加快在场景化方案定制、市场拓展等方面的创新助力用户构筑人工智能时代最佳数据存储底座。
