vLLM 发布 v0.33.0,新增模型支持并停止提供 CUDA 12.9 构建
vLLM v0.33.0 新增对 Reflection Beam-1.0、Step-5 Preview 等模型的支持,并升级至 PyTorch 2.14.0。此版本的发布轮包和镜像仅提供 CUDA 13.0 构建;仍使用 CUDA 12.9 构建的部署团队需要改用默认的 CUDA 13.0 构建。
完整正文暂未获取。
前往原始出处阅读vLLM v0.33.0 新增对 Reflection Beam-1.0、Step-5 Preview 等模型的支持,并升级至 PyTorch 2.14.0。此版本的发布轮包和镜像仅提供 CUDA 13.0 构建;仍使用 CUDA 12.9 构建的部署团队需要改用默认的 CUDA 13.0 构建。
完整正文暂未获取。
前往原始出处阅读