沐曦股份MetaX头像
沐曦股份携手FlagOS完成面壁智能MiniCPM-V4.7端侧模型Day 0适配封面图

沐曦股份携手FlagOS完成面壁智能MiniCPM-V4.7端侧模型Day 0适配

10月13日,面壁智能联合 OpenBMB 开源新一代端侧多模态大模型 MiniCPM-V4.7。沐曦股份联合众智 FlagOS,依托曦云 C 系列 GPU 与自研 MXMACA 全栈软件栈,在模型开源发布当日完成 Day 0 全链路适配与推理验证,开发者可直接在沐曦 GPU 上开箱即用,高效调用该模型图文理解、文档解析、视觉问答能力。

沐曦股份持续保持对国内前沿开源模型的极速响应。截至目前,沐曦已完成42个主流旗舰模型 Day 0 适配,覆盖文本、多模态、OCR、图像生成等全品类,包含 DeepSeek、智谱、阿里千问、MiniMax等多家社区与厂商模型,在国产 GPU Day0 适配赛道持续领跑。

此次成功完成Day 0适配,持续验证了沐曦自研MXMACA 软件栈的卓越兼容性与深度优化能力。目前,MXMACA软件栈已实现对主流AI生态的广泛覆盖:兼容支持40余种AI框架、1000多款模型,适配超6000个开源项目测试,全量支持PyTorch 2.8的2410个GPU算子。

关于MiniCPM-V 4.7

MiniCPM-V 4.7 包含35B-A3B(MoE)与1B 两个规格。本次适配把两个规格一并延伸到 ARM 端侧 CPU 平台,使多模态理解能力在数据中心与终端设备上都有可用的落地路径。

35B-A3B 是全球首个可在端侧无损、流畅运行的开源 MoE 多模态大模型,拥有 35B 总参数、约 3B 激活参数。其核心技术前瞻专家调度(LES)通过提前加载专家、并行计算与读取,减少端侧推理等待。

1B 版本实际参数规模约 1.3B,以极小体量达到同尺寸性能第一梯队,在通用视觉、OCR、图表推理与视频理解等任务上表现突出,让多模态能力覆盖更多日常设备与使用场景。模型延续 ViT 内提前压缩及 4 倍 / 16 倍视觉 token 压缩技术,并适配 DSpark 投机解码,兼顾视觉细节与推理效率。

在官方 Instruct 模式评测中,35B-A3B 与 1B 分别以更短的推理时间,取得高于 Qwen3.6-35B-A3B 与 Qwen3.5-0.8B 的综合得分。

MiniCPM-V4.7 双规格性能—效率对比(官方评测)

模型镜像下载

用户可以直接拉取 FlagRelease 发布的模型文件、代码和镜像,开箱即用、无需迁移。

MiniCPM-V-4.7-35B-A3B

魔搭社区:MiniCPM-V-4.7-35B-A3B-BF16-metax-FlagOS - ModelScope 魔搭社区

HuggingFace:

https://huggingface.co/FlagRelease/MiniCPM-V-4.7-35B-A3B-BF16-metax-FlagOS

MiniCPM-V-4.7-1B

魔搭社区:MiniCPM-V-4.7-1B-BF16-metax-FlagOS - ModelScope 魔搭社区 

HuggingFace:https://huggingface.co/FlagRelease/MiniCPM-V-4.7-1B-BF16-metax-FlagOS

转载自 CSDN-专业IT技术社区

原文链接:https://blog.csdn.net/weixin_72169639/article/details/167915908

文章来源转载

评论

评论列表

微信小程序
QQ小程序

关于作者

点赞数:0
关注数:0
粉丝:0
文章:0
关注标签:0
加入于:--