FlagOS异构移植栈
3 etapas1 peças6 Fontes
FlagOS是由北京智源人工智能研究院牵头,联合清华、北大及十余家芯片厂商共建的统一开源AI系统软件栈。其核心目标是解决大模型在不同国产AI芯片(如昇腾、沐曦、海光等)间迁移成本高、生态隔离严重的问题,实现“一次开发,多端部署”。
【背景】FlagOS 2.2版本已发布,涵盖FlagGems算子库、FlagTree编译器、FlagScale训练框架及FlagCX通信库等核心组件。
时间线上,2026年6月3日,智源在2026世界智能产业博览会上首次发布“众智FlagOS·科学智能基座”,将多芯能力从大模型推理拓展至科学计算与量子模拟领域,支持18家厂商32款芯片。随后,M. Lyu等人在PyTorch官方频道发布教程,演示如何利用FlagOS栈简化大型模型在不同AI加速器上的移植,重点介绍了Triton内核编程与vLLM/Megatron插件支持。目前,FlagRelease平台已自动产出并发布了MiniCPM-o-4.5等模型在真武芯片上的适配版本。
争议点在于不同硬件后端对统一接口的兼容深度:虽然FlagOS提供了统一的flagos设备接口和算子路由层,但部分非主流芯片(如PPU、Kunlunxin)仍处于Experimental或Beta状态,存在CUDA重初始化冲突或功能覆盖不全的风险。开发者需查阅各平台的兼容性矩阵以确认具体支持级别。
后续可关注FlagOS在线学习中心(edu.flagos.io)的课程上线情况,以及更多国产芯片通过FlagRelease平台完成自动化适配发布的进度。
Como chegamos aqui
智源研究院在2026世界智能产业博览会上发布“众智FlagOS·科学智能基座”,宣布支持18家厂商32款芯片,并将能力拓展至科学计算与量子模拟。
stdaily.com ↗FlagRelease平台更新MiniCPM-o-4.5-zhenwu-FlagOS模型镜像,提供基于PAI平台的容器化部署方案,支持USE_FLAGGEMS=1环境变量启用优化算子。
huggingface.co ↗M. Lyu等人在PyTorch官方频道发布教程,介绍使用FlagOS栈进行异构加速器大模型移植,涵盖Triton内核编程及vLLM/Megatron插件支持。
youtube.com ↗
O que ainda está indefinido
- FlagOS在非NVIDIA/AMD芯片(如PPU、Kunlunxin)上的生产环境稳定性如何?目前文档显示这些平台多为Experimental或Beta状态。
- FlagTree编译器替换官方Triton后,对现有依赖标准Triton的第三方库是否存在隐性兼容性问题?
- 随着支持芯片数量增加,FlagGems通用算子库的性能是否在所有后端均能超越原生厂商库?