aifollow.news Search
Back IT之家 科技新闻
IT之家 科技新闻· · Original publication time Selected

MiniMax releases M3.1 Flash model weights, with 428B total parametersMachine translation

Automatically verified and published · Generated and evidence-checked automatically; not reviewed by a human.

AI-assisted summary

MiniMax announced the release of M3.1 Flash model weights. The model has 428B total parameters and 23B active parameters. The company says its capabilities improve across the board over M3 and that sparse attention and quantization-aware training improve inference efficiency. After its October 19 launch, real users processed more than 100 trillion tokens within 72 hours.

Why it matters

模型权重开放,让希望自行部署的读者获得明确的获取途径;参数规模和上线初期的实际使用量也提供了具体观察点。

Article · Original

The article text is unavailable in this language; an existing version is shown.

IT之家 10 月 23 日消息,MiniMax 稀宇科技今日宣布开源 MiniMax M3.1 Flash 的模型权重,总参数 428B,激活参数 23B。

相较于上一代 M3 模型,M3.1 Flash 的模型能力实现了全面提升。此外,通过全模型稀疏注意力、量化感知训练和 Power-aware scheduling 等优化工作,M3.1 Flash 进一步提升了推理效率:

全模型稀疏注意力:前三个全注意力层替换为稀疏注意力;

QAT:路由 MoE 专家迁移到 W4A4(共享专家除外),稀疏注意力索引器和主分支从 Q8KV8 迁移到 Q8KV4;

Power-aware scheduling:通过对计算卡功耗的精细分配,保持计算卡持续维持算力高位,极致压榨硬件效率。

M3.1 Flash 于 10 月 19 日上线,72 小时内真实用户处理超过 100 万亿 Token。

MiniMax 宣布携手华为昇腾、平头哥、昆仑芯、摩尔线程、壁仞、海光、沐曦、天数、英伟达、AMD 等海内外芯片厂商,以及 Together AI、Fireworks、Nebius、Baseten、Modal、DigitalOcean 等推理和云服务平台,共同推进 M3.1 Flash 的开源首日接入。

此外,vLLM、SGLang、智源 FlagOS 和 Hugging Face、魔搭等推理框架与开源社区,也将与 MiniMax 一齐推动模型在不同芯片、云平台和开发环境中的应用,持续拓展全球 AI 开源生态。

IT之家附开源地址如下:

Hugging Face:https://huggingface.co/MiniMaxAI/MiniMax-M3.1-Flash

魔搭社区:https://modelscope.cn/models/MiniMax/MiniMax-M3.1-Flash

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

Found an error? Send a correction