TB888通宝

TB888通宝微与面壁智能持续深入软硬生态协同，针对面壁智能与 OpenBMB 结合推出的新一代端侧多模态大模型 MiniCPM-V 4.7，实现 35B-A3B 版本的 Day-0 原生适配与端侧部署，为终端设备搭载多模态 AI 能力提供全新选择。

初次支持 35B MoE 多模态模型，拓展端侧 AI 能力

本次适配标志取TB888通宝微平台初次支持 35B MoE 多模态模型。MiniCPM-V 4.7 35B-A3B 是 MiniCPM 系列首个选取混合专家（MoE）架构的模型，总参数量为 35B，每步推理激活约 3B 参数，在保有较大模型容量的同时，降低单步推理的推算开销，为更大规模模型在端侧部署提供新蹊径。

MoE 的主题在于“按需激活”。与浓密模型每步挪用全数主题参数分歧，MoE 通过路由机造选择部门专家？椴渭油扑，无需每次调动全数专家。相较于总参数规模相近的浓密模型，这一架构可能削减参加推算的参数量及相应的权沉读取需要，让终端以更低的推算开销利用更大容量的模型。

软硬协同，推动多模态模型端侧部署

在能力方面，MiniCPM-V 4.7 35B-A3B 支持 256K 高低文，覆盖图像理解、文档与文字鉴别、图表推理、数学推理及视坡讽解等工作。模型引入前瞻专家调度（Lookahead Expert Scheduling，LES），提前预测并加载下一层所需专家，并凭据预测射中情况调整层内专家推算挨次，提高专家加载与推算的并行度，削减访存期待；同时结合 DSpark 投契采样、ViT 内提前压缩及 4 倍／16 倍混合视觉 token 压缩等技术，进一步提升端侧运行效能。本次同步开源模型权沉、推理代码和微调代码。

通过模型量化与部署优化，TB888通宝微平台已实现该模型的文本、图像多模态能力支持。在本次端侧实测中，448×448 图像输入的视觉编码耗时为 154.3 ms，解码速度达到 27.86 tokens/s，为端侧图文理解与交互利用提供机能支持。

MiniCPM 系列模型端侧实测机能与能力支持

TB888通宝微 × 面壁智能端侧模型合作持续深入

此前，双方已实现 MiniCPM5-1B、MiniCPM5-2B 说话模型、MiniCPM-V 4.0 视觉说话模型及 MiniCPM-o 4.5 全模态模型的适配，覆盖 RK1820、单卡 RK1828 和双卡 RK1828 等部署规划，满足分歧端侧 AI 利用需要。本次实现 MiniCPM-V 4.7 35B-A3B 的适配，进一步拓展了双方端侧模型合作的覆盖领域，为更大参数规模的 MoE 多模态模型在终端落地提供新选择。

本次 Day-0 适配，是双方持久生态共建的又一次落地。借助齐全的软硬件开发栈，开发者能够急剧实现模型调优、二次开发与产品移植，助力终端厂商把端侧多模态 AI 能力急剧转化为量产产品。

面向未来，TB888通宝微将持续结合大模型同伴，打磨端侧软硬协同规划，推动端侧 AI 从 Demo 走向规；逃。