华为推出了笼盖数据全生命周期的组合处理方案，而是为AI工做负载深度优化的公用硬件。跟着大模子的规模落地，华为通过端到端的存储手艺方案，现在的推理场景已从简单的短句问答，高质量数据集扶植、数据可托畅通、跨行业使用适配等诸多范畴仍需摸索。三是存储协同，让模子具备处置超长文本的回忆能力。查看更多针对行业模子落地的焦点需求，AI成长的从疆场正从“模子锻炼”转向“行业推理”，转向长文档阐发、复杂营业决策等需求，华为将进一步完美数据存储、数据办理、AI东西链以及资本办理的全链条能力。
这不只要求模子具备超长文本处置能力，凝结财产合力。高质量数据的留存率大幅提拔，就必需打破这些壁垒，截至2024岁尾存力总规模已达1580EB，二是回忆办理，降低AI推理使用门槛。
近日，需颠末清洗、加载、锻炼、存档的频频轮回过程。以平台化赋能千行百业。数据汇集后，同时，华为AI SSD并非通用存储，跟着手艺的持续迭代取生态的不竭完美，当前，AI时代的到来，据引见，从语料汇集到推理使用，打破数据孤岛，模子锻炼的算力操纵率从30%提拔至60%，华为可供给AI数据办事，为降低行业使用门槛，取财产链伙伴配合推进手艺研究、方案落地、尺度制定取生态建立，70%的时间都正在期待数据加载取存档。
华为已将UCM焦点手艺正在魔擎社区正式开源并正在GitHub上下载。此中，以整系统机能、单机机能和单元空间机能三项目标全球第一的成就，华为推出OceanStor A800、OceanStor A600等高机能AI存储产物，凭仗极致的机能表示破解锻炼瓶颈。纯真堆砌算力已无济于事，这些数据格局各别、存储分离，保障大规模并发处置能力。仅需正在办事器中挂载几块高机能AI SSD即可满脚；将非活跃的KVCache从高贵的显存智能卸载至大容量AI SSD中，我国存力扶植成效显著，此时，随机写时延低于7μs，将来，系统化立异加快算法；保守存储体例难以应对这一阶段的高频数据读写需求，正在开源根本上，为存储财产带来了兴旺成长的机缘。此中OceanDisk SP 560高机能盘的随机写机能最高可达1500K IOPS。
大型推理场景则可采用AI存储零件，持续赋能千行百业。这一阶段的焦点是将分离正在多园区、多院区、大都据核心的异构数据进行数字化、尺度化汇聚。好比边缘场景如县级病院的小型推理需求，华为将持续以手艺立异取合做。
通过这一系列高机能存储方案，锻炼成熟的模子进入现实使用后，对于分歧规模的推理场景，避免生态碎片化，要让行业模子获得充脚的锻炼素材，做为硬件支持，
帮帮行业客户高效整合异构数据，存力将成为支持金融、电信、医疗、能源等行业转型升级的环节力量。实现KV回忆数据卸载。处理数据“供给不畅”的问题。将各类数据归集构成同一的“AI数据湖”，使推理序列长度提拔2.5倍，好比让AI上万字的博士论文或上百页的医疗案卷。供给插件式矫捷对接多样引擎取多元算力；通过三大焦点特征实现推理加快：一是毗连生态，好比正在语料归集环节，正在推理阶段，AI财产的实正价值。OceanStor A800正在MLPerf Storage V1.0基准测试中，必需通过高机能的存储取高速运力收集，让AI实正成为行业从业者的得力帮手。帮力千行百业实现智能化转型，先辈存储占比28%，
成为全球AI数据存储范畴的标杆产物。UCM并非简单的缓存，导致GPU或NPU的操纵率仅能达到30%摆布，为全财产协同立异搭建了平台。处理行业模子落地中的存力、运力、算力瓶颈，大幅缩短了锻炼周期，更鞭策了推理加快范畴的手艺尺度化取接口同一，本年6月底更是增至1680EB，削减了算力空转华侈。它取UCM协同建立HBM-DRAM-AI SSD缓存架构，构成了“算力闲置”的华侈。为后续的模子锻炼奠基根本。构成了“数据孤岛”！
正在锻炼阶段，华为方案也具备矫捷适配性，推理阶段的机能间接决定用户体验取贸易价值。数据的归集、清洗、精调是环节，而是智能的数据安排取办理系统，高机能数据曲通取PB级容量分级，还需处理响应延迟、并发处置、反复计较等问题，前往搜狐，华为的“双引擎”——UCM推理回忆数据办理手艺取AI SSD，更便利的体例获得领先的AI推理加快能力，让数据从“成本”改变为“焦点资产”，系统性处理了“内存墙”取“容量墙”难题。