最新的vllm支持torch compile吗

[复制链接]
76 3

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
mxc500-vllm-py310-2.29.0.6-linux-aarch64.tar.xz

精彩评论3

shibozhang  管理员  发表于 2025-3-31 11:08:01 | 显示全部楼层
暂时还不支持。
 楼主| minghui  注册会员  发表于 2025-3-31 14:20:31 | 显示全部楼层

新版本会支持吗
shibozhang  管理员  发表于 2025-4-2 09:33:17 | 显示全部楼层
minghui 发表于 2025-3-31 14:20
新版本会支持吗

暂时没有计划去做适配。
对于您提出的问题,已经反馈到R&D那里,让他们加进todo list中。
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

©沐曦 沪ICP备2020031767号-1
快速回复 返回顶部 返回列表