6月22日,在华为开发者大会2024期间,以“大模型混合云,十大创新技术引领政企智能升级”为主题的高峰论坛成功举办。会上,华为主机上云军团CEO、混合云总裁尚海峰发布大模型混合云十大创新技术,通过聚焦根技术突破,帮助政企客户抓住大模型战略机遇,加速迈向智能世界。
尚海峰表示:“大模型的创新除了模型本身,更要脚踏实地深入千行万业,创造业务价值。华为云Stack将持续围绕AI-Native开展系统性创新,在场景上广泛探索,在技术上形成突围,携手共赢AI的黄金时代。”
大模型混合云成为最优解
大模型技术正在催生新一轮的技术创新和产业变革,行业专属大模型正在成为大模型应用落地的重要方向。
作为大模型行业应用的主力军和排头兵,政企客户通常业务场景复杂多样,对数据安全、训推效率和开发成本都有极致的要求。能够兼顾安全合规与成本的大模型混合云,正在成为越来越多企业的优先选择。
2023年,华为云推出业界首个大模型混合云华为云Stack,帮助企业一站式建设自己的专属大模型。
第一,坚实算力底座:华为云Stack从计算、存储、网络、安全和运维5大维度打造坚实的算力底座。在算力层面,通过多样性算力调度和算子加速能力,实现异构算力融合,算力利用率提升50%以上;结合高性能存储的多层缓存机制、高吞吐无阻塞AI网络,让算力发挥最大价值;四道大模型安全防线,可以智能拦截90%新兴攻击;打破硬件、模型、应用碎片化的运维体系,实现全链路可观测,故障1分钟发现、10分钟定界、30分钟恢复。
第二,使能百模千态:华为云Stack提供ModelArts一站式开发平台,支持大规模异构集群调度管理、分布式训练、云边协同部署及全流程工作流,并提供模型开发套件、全链路数据工程套件、应用开发套件3大套件,加速数据、模型、应用的一站式开发。同时,华为云Stack原生集成超过30个业界主流的基础模型,实现开箱即用。
第三,赋能千行万业:华为云Stack将与政企客户联合创新中的经验和能力固化下来,形成6大阶段30多个专业服务,覆盖大模型从规划设计到建设运营的全流程,让大模型从可用到好用。
大模型的应用是一个复杂的系统工程,不仅仅在于单点技术的持续演进,更需要基于场景和需求匹配合适的技术,通过全链路、多技术融合的系统性创新整体推进。峰会上,尚海峰正式发布大模型混合云十大创新技术,包括:多样性算力调度、云边协同、AI-Native存储、增强AI网络、算子加速、全链路数据工程、统一数据编码、精细视觉神经网络、无感断点续训、安全护栏,覆盖从云基础设施到AI开发平台以及模型层,通过系统性创新加速政企大模型应用进程。
随后,华为混合云数智领域总经理徐强结合动画演示向大家详细介绍大模型混合云十大创新技术。
四项全能,构筑最佳云化算力底座
随着大模型能力不断变强,模型参数不断增加,对端、边、云算力协同的整体架构设计提出了更高的要求。华为混合云CTO刘征辉在会上发表《打造最优混合云底座,使能大模型创新》主题演讲。
刘征辉表示,依托全系列产品研发经验,华为云Stack通过系统性创新,为政企客户打造大规模、高性能、高可靠、云边协同四项全能的云化算力底座,加速大模型应用进程。
在大规模方面,华为云Stack支持大规模AI集群和大容量训练数据,支撑千亿模型训练集群部署。
在高性能方面,无阻塞互联RoCE网络可实现训练效率提升50%,利用高性能存储的多层缓存机制,小文件加载效率提升了20倍。
在高可靠方面,通过软硬协同分钟级故障感知定界,实现月级长稳训练;智能化的运维管理,覆盖80%+故障场景、提升故障恢复能力,结合业界最成熟的安全运营方案、全覆盖的AI数据安全方案以及最高安全等级的算力平台,打造高安全算力。
在云边协同方面,华为云Stack提供多种边缘轻量化部署形态,AI高效赋能生产场站;并通过多云合一的管理架构,多云择优的调度策略实现多云算力管理。
华为云持续深入行业场景,理解业务痛点,采用系统化思维,联合客户、开发者、同行、合作伙伴等上下游,持续构筑大模型的商业成功。目前,华为云Stack大模型混合云已应用于政府、金融、煤矿、交通、电力等10多个行业。(冯尧)
