寒武纪拥抱众智 Flag欧交易所app官网下载安全OS 生态，打破不同架构芯片间的软件生态壁垒

IT之家 11 月 12 日消息，寒武寒武纪今日宣布拥抱众智 FlagOS 生态。纪拥件生寒武纪表示，抱众欧交易所app官网下载安全单一芯片架构难以满足多元化的态打同架态壁业务需求，大模型应用厂商为部署不同类型业务往往需要引入多种不同架构 AI 芯片，破不片间造成跨芯片架构间业务代码迁移与维护工作往往耗时数月，构芯成为业务迁移流程主要瓶颈。寒武

据介绍，纪拥件生北京智源人工智能研究院联手社区伙伴启动了众智 FlagOS 项目，抱众目的态打同架态壁通过统一软件层解耦 AI 模型与异构硬件，打破不同架构芯片之间的破不片间欧交易所app官网下载安全软件生态壁垒，为芯片硬件与上层 AI 应用之间搭建统一且高效衔接的构芯桥梁，系统性解决“适配难、寒武调优慢、纪拥件生协同弱”行业难题，抱众实现“一次开发，处处运行”。

寒武纪和智源研究院从 2024 年初起就开始进行 FlagGems（基于 Triton 的高性能通用 AI 算子库）的联合开发工作，后续进一步拓展到 FlagTree（统一多后端的增强版 Triton 编译器）、FlagCX（统一通信库）、FlagScale（并行训推一体框架）等组件。

寒武纪与 FlagOS 的适配与优化主要集中在算子、编译器、分布式通信库和并行框架组件等方面。

IT之家查询获悉，FlagOS 是由北京智源人工智能研究院牵头研发的面向多种 AI 芯片的开源系统软件栈，支持超 20 种国内外主流 AI 芯片型号。该系统融合并行训推框架 FlagScale、高性能算子库 FlagAttention 和 FlagGems、统一通信库 FlagCX 等技术组件，平均性能超过芯片厂商原生算子。

今年 9 月，众智 FlagOS 1.5 发布，支持超过 12 家国内外主流芯片厂商的 20 余种芯片型号，降低硬件适配的复杂性；改进并行策略与调度算法，在典型大模型任务中实现最高 36.8% 训练加速与 20% 推理加速；全面支持机器人“大脑”（如智源 RoboBrain）与“小脑”（如 VLA）模型的开发与部署等。

很赞哦!（347）