自定义算子推理

[复制链接]
20 0

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有账号?立即注册

x
本帖最后由 kelisis 于 2025-5-7 11:30 编辑

使用c++和沐曦C500推理模型,对于复杂自定义算子,例如稀疏卷积怎么注册算子呢?
了解到MacaRT是ONNXRT的后端,算子的注册方式是和ONNXRT注册算子一样吗?

如果是使用pytorch+cuda(自定义算子.cu编成.so使用pybind11调用)的推理方式,需要有哪些核函数或者torch代码的改动呢?

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

©沐曦 沪ICP备2020031767号-1
快速回复 返回顶部 返回列表