PDE 智算Release_2.29.2.X 发布公告

查看全部 · 发表于 2025-4-14 09:48:33

马上注册，结交更多好友，享用更多功能，让你轻松玩转社区。

您需要登录才可以下载或查看，没有账号？立即注册

x

本帖最后由黄美玲于 2025-4-16 09:56 编辑

2.29.2.X已正式发布并在软件中的下载 - 沐曦开发者【对应到推理框架下vLLM-Deepseek】，欢迎下载。

本次发布的软件包新增/优化/修复说明：

【vLLM(同版本源码发布)】
  1. 版本升级为0.7.2(使用python310)
  2. 使用torch2.4
  3. DeepSeekV3/R1 性能大幅提升
  4. serve方式测试OpenAI以及Benchmark_serving

【Modelzoo.LLM.vLLM】
  1. 支持vLLM0.7.2测试
  2. 新增模型支持

声明：
本次发布只针对DeepSeek相关模型的性能优化，非DeepSeek模型的性能提升将在后续版本中完成。