aifollow.news 搜索
返回 IT之家 科技新闻
IT之家 科技新闻· · 原发布时间 精选

MiniMax 开放 M3.1 Flash 模型权重,总参数 428B

自动核验发布 · 本文由系统生成并完成证据核验,未经人工审稿。

AI 辅助摘要

MiniMax 宣布开放 M3.1 Flash 模型权重;这是一款总参数 428B、激活参数 23B 的模型。公司称其能力较上一代 M3 全面提升,并通过稀疏注意力、量化感知训练等优化推理效率;模型于 10 月 19 日上线,72 小时内真实用户处理量超过 100 万亿 Token。

推荐理由

模型权重开放,让希望自行部署的读者获得明确的获取途径;参数规模和上线初期的实际使用量也提供了具体观察点。

正文 · 原文

IT之家 10 月 23 日消息,MiniMax 稀宇科技今日宣布开源 MiniMax M3.1 Flash 的模型权重,总参数 428B,激活参数 23B。

相较于上一代 M3 模型,M3.1 Flash 的模型能力实现了全面提升。此外,通过全模型稀疏注意力、量化感知训练和 Power-aware scheduling 等优化工作,M3.1 Flash 进一步提升了推理效率:

全模型稀疏注意力:前三个全注意力层替换为稀疏注意力;

QAT:路由 MoE 专家迁移到 W4A4(共享专家除外),稀疏注意力索引器和主分支从 Q8KV8 迁移到 Q8KV4;

Power-aware scheduling:通过对计算卡功耗的精细分配,保持计算卡持续维持算力高位,极致压榨硬件效率。

M3.1 Flash 于 10 月 19 日上线,72 小时内真实用户处理超过 100 万亿 Token。

MiniMax 宣布携手华为昇腾、平头哥、昆仑芯、摩尔线程、壁仞、海光、沐曦、天数、英伟达、AMD 等海内外芯片厂商,以及 Together AI、Fireworks、Nebius、Baseten、Modal、DigitalOcean 等推理和云服务平台,共同推进 M3.1 Flash 的开源首日接入。

此外,vLLM、SGLang、智源 FlagOS 和 Hugging Face、魔搭等推理框架与开源社区,也将与 MiniMax 一齐推动模型在不同芯片、云平台和开发环境中的应用,持续拓展全球 AI 开源生态。

IT之家附开源地址如下:

Hugging Face:https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash

魔搭社区:https://modelscope.cn/models/MiniMax/MiniMax-M3.1-Flash

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

发现内容有误?提交纠错