微信 AI 团队近日将已在微信内部大规模部署的通用多模态嵌入模型 WeMM-Embedding 开源。该模型每日调用量达到十亿量级,覆盖视频号、直播、公众号、电商与朋友圈等微信核心推荐与搜索场景。此次开源提供了 2B、4B、9B 三个版本,并支持文本、图像、视频、视觉文档以及任意交错的多模态输入,意味着一个经过真实业务长期验证的生产级多模态表示模型正式进入开源生态。
从推荐系统里长出来的模型
WeMM-Embedding 并不是一次实验室性质的发布,而是直接来源于微信线上系统的实际运行。官方信息显示,该模型生成的多模态表示已经被用于候选检索、排序特征构建、用户序列建模和跨域内容理解等环节。这些任务分别对应内容分发系统中的召回、排序和用户兴趣刻画,是推荐与搜索链路中最基础也最关键的部分。
这也解释了为什么微信会强调其调用规模。对于内容平台而言,嵌入模型的作用是把文字、图片、视频等不同形态的内容映射到同一个语义空间中,让系统能够判断内容与用户之间是否匹配。模型每天被调用十亿量级,说明它已经深度参与微信多条业务线的日常运转,而不是停留在验证阶段。
以 Qwen3.5 多模态架构作为统一骨干
在模型设计上,WeMM-Embedding 选择基于 Qwen3.5 多模态架构作为统一骨干,让图像、视频和文字从一开始就在同一个模型中共同处理。相比先分别处理单一模态、再进行拼接融合的常见方案,这种统一架构更强调多模态信息在早期阶段的共同理解。
官方公布的内部评测结果显示,在 26 项内部任务基准上,WeMM-Embedding-2B 相比同规模基线从 60.9 提升至 72.0,并在分类、搜索、跨域匹配、文章相关和视频相关五类任务上均取得提升。这一结果反映出小参数版本在性能与部署成本之间具备一定平衡能力,也为更广泛的落地场景提供了可选项。
开源版本覆盖 2B 到 9B,榜单表现受到关注
此次开源的 WeMM-Embedding 包含 2B、4B、9B 三个版本,覆盖不同算力与业务需求。官方数据显示,在权威多模态嵌入榜单 MMEB-v2 上,WeMM-Embedding-9B 以 80.6 分位列第一;2B 版本取得 77.9 分,超过此前领先的 8B 开源模型。
对于开发者而言,榜单成绩固然重要,但更具参考价值的可能是模型的工程来源。近年来,多模态模型开源项目不断增多,但真正在超大规模线上系统中长期运行并开放权重的案例仍然有限。WeMM-Embedding 的意义不仅在于提供一组新的模型参数,也在于它展示了一个多模态嵌入模型如何在真实推荐与搜索场景中完成从训练、评估到部署的闭环。
目前,相关论文、代码仓库和模型集合已经对外公开。随着生产级模型的持续开源,多模态嵌入技术有望在搜索、推荐、内容理解和跨模态匹配等方向进一步落地。
原创文章,作者:点点,如若转载,请注明出处:https://www.dian8dian.com/wei-xin-kai-yuan-wemmembedding-ri-diao-yong-shi-yi-ji-duo