
近日,面壁智能联合OpenBMB正式开源新一代端侧模型「小钢炮」MiniCPM5-2B。作为面向端侧场景打造的新一代小尺寸模型,该模型原生支持混合思考、512K超长上下文,并具备工具调用、深度搜索、代码生成等智能体能力,可进一步拓展至手机、PC、智能座舱等多元端侧设备。
模型开源后,昆仑芯联合FlagOS,率先完成MiniCPM5-2B的Day 0适配与推理验证。
此次适配展现了昆仑芯面向前沿开源模型的快速响应能力。依托持续完善的软硬件协同体系,昆仑芯能够紧跟主流模型迭代,并通过与FlagOS的生态协同,进一步提升模型适配效率,缩短新模型从开源发布到国产算力平台可用的时间。
开源即适配,昆仑芯联合FlagOS实现模型高效部署
大模型快速迭代的今天,从“模型发布”到“算力可用”的时间窗口正在不断缩短。对于开发者而言,新模型发布后能否快速完成不同算力平台上的适配、部署与性能验证,已经成为衡量算力生态响应能力的重要指标。此次MiniCPM5-2B开源后,昆仑芯联合FlagOS快速完成模型的适配与推理验证,实现了开源即适配、开源即部署。在适配过程中,昆仑芯围绕模型运行涉及的算子、推理框架及运行环境开展逐一验证与优化,依托持续完善的软件体系和软硬件协同能力,推动模型在快速在昆仑芯平台实现稳定运行。与此同时,FlagOS通过统一算子库、编译器及推理插件等软件能力,为模型适配提供统一的软件支撑,进一步降低前沿模型跨芯片适配的复杂度。基于统一多芯片软件栈,此次MiniCPM5-2B的适配成果还可通过FlagRelease发布多芯片模型版本,进一步提升适配成果的复用效率。
软硬协同,昆仑芯持续提升适配效率
大模型适配并非简单地让模型“跑起来”。由于不同AI芯片在计算架构、算子支持、编译环境和软件栈等方面存在差异,新模型要实现稳定、高效运行,需要进行多层次的适配与优化。
对于昆仑芯而言,持续完善软硬件协同能力,提升模型适配与优化效率,是推动前沿模型快速落地的重要基础。
这一适配能力的背后,是昆仑芯长期积累并持续完善的自研软件体系。围绕开发者需求,昆仑芯构建了覆盖底层驱动、开发工具、SDK及专业算子库等核心环节的自研软件栈,为模型迁移、部署与运行提供完善的软件支撑。依托持续演进的软件能力,开发者能够以更低的适配成本和更高的部署效率,将前沿模型快速应用于实际场景。
此次MiniCPM5-2B适配过程中,昆仑芯依托自身软件体系和推理能力完成模型适配与验证,并联合FlagOS进一步提升适配成果的复用效率,为模型在国产AI芯片平台上的快速部署提供支持。
从单个模型的Day 0快速响应,到持续拓展主流模型生态,昆仑芯正不断拓展对前沿模型的兼容与支持能力,持续缩短模型从开源发布到国产算力平台落地的时间,让更多前沿模型能够更加高效地运行在国产算力平台之上。
深化生态协同,共建繁荣模型生态
随着大模型加速迭代,模型生态与算力生态之间的协同效率愈发重要。对于国产算力而言,除了具备稳定的硬件性能,还需要持续提升对主流模型的兼容与适配能力,才能更好承接前沿模型的发展。
昆仑芯正持续跟进主流开源模型迭代,不断提升模型适配与优化效率,当前已完成智谱GLM系列、Qwen系列、MiniMax、Kimi等多款主流模型的适配,持续拓展对主流模型生态的支持范围。
在不断提升自身适配能力的同时,昆仑芯也积极参与众智FlagOS社区等开源生态建设,通过与生态伙伴开展联合适配,推动模型适配成果进一步复用和共享,扩大国产算力对主流模型生态的支持范围。
未来,昆仑芯将持续提升前沿模型的适配与优化能力,深化模型、软件与芯片之间的协同,与生态伙伴共同推动更多前沿模型快速落地国产算力平台,助力构建更加开放、繁荣的国产AI生态。

在线留言询价
| 型号 | 品牌 | 询价 |
|---|---|---|
| BD71847AMWV-E2 | ROHM Semiconductor | |
| RB751G-40T2R | ROHM Semiconductor | |
| CDZVT2R20B | ROHM Semiconductor | |
| TL431ACLPR | Texas Instruments | |
| MC33074DR2G | onsemi |
| 型号 | 品牌 | 抢购 |
|---|---|---|
| BP3621 | ROHM Semiconductor | |
| ESR03EZPJ151 | ROHM Semiconductor | |
| TPS63050YFFR | Texas Instruments | |
| IPZ40N04S5L4R8ATMA1 | Infineon Technologies | |
| BU33JA2MNVX-CTL | ROHM Semiconductor | |
| STM32F429IGT6 | STMicroelectronics |
AMEYA360公众号二维码
识别二维码,即可关注
请输入下方图片中的验证码: