#人工智能 微信团队宣布推出 WeLM 系列模型,参数规模最高 617B,采用混合专家架构,目前已经内置到微信原生 AI 助手小微中。WeLM 系列公开模型包括 80B 和 617B 版,其中 617B 版还在开发中,80B 版则内置到小微中。微信追求的并非参数规模而是资源效率优先,即在有限的算力与数据资源下构建高效模型。查看全文:https://ourl.co/114306
微信团队日前在社交网站 X/Twitter 上以英文宣布推出自研模型 WeLM,该模型设计理念并非追求参数规模的军备竞赛,而是以资源效率为先,旨在支撑微信海量用户的日常 AI 交互与生态服务。但目前微信似乎未在国内中文官方账号宣布相关消息,不知道这是什么原因。
微信称 WeLM 系列模型由微信团队独立打造,目前公开的两款模型分别是 WeLM-80B 和 WeLM-617B,前者总参数规模为 800 亿并在推理时仅激活 30 亿参数;后者总参数规模为 6170 亿,激活参数为 230 亿,采用混合专家架构 (MoE),目前仍然在开发中。
目前该系列模型已经部署到微信内置原生 AI 助手小微中,用户可以通过自然语言实现对话与搜索、直接调用微信原生功能例如发消息和打电话等,以及无缝访问小程序服务,实现语音交互的场景落地。
与行业普遍追求的大规模参数和激活更多参数、冲榜评测的路线不同,WeLM 系列模型从开始就锚定微信超大规模用户场景的实际需求,微信团队此前在技术博客中多次提到,团队通过稀疏 MoE 架构和深度扩展等手段,在有限算力与数据资源下构建高效模型,目标是支撑十亿级用户的高频调用。
所以对微信而言资源效率是最重要的,所以微信并没有依赖腾讯混元系列模型,而是长期迭代自有的 WeLM 体系 (此前版本已经在内部支撑小微测试)。未来 WeLM-617B 落地后,应该可以继续加速小程序智能化与个性化工具的爆发。





