登录
|
立即注册
首页
DeepSeek专区
AI应用生态
论坛
社区
文档
下载
沐曦大学
沐曦开发者社区
»
论坛
›
运维
›
运维
›
内容
发新帖
沐曦C500 VGPU使用
[复制链接]
50
1
发表于 2025-6-11 16:06:54
|
查看全部
|
阅读模式
马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。
您需要
登录
才可以下载或查看,没有账号?
立即注册
x
请问一下, 沐曦的C500 GPU产品如何在Docker场景下实现VGPU分配
例如我设备是8卡,
将卡0 切割为2N个, 然后分配给指定容器A N个, 容器B N个
将卡1 切割为2N个, 然后分配给指定容器C N个, 容器D N个
举报
回复
精彩评论
1
funcY
注册会员
发表于 2025-6-11 19:33:13
|
显示全部楼层
本帖最后由 funcY 于 2025-6-11 19:36 编辑
可以试试host开启虚拟化后,启动容器时修改命令,在--device中添加想放入容器中的VGPU,一般
renderD128
是卡0的VGPU0:
docker run -d --device=/dev/dri/
renderD128
--device=/dev/dri/
renderD129
--device=/dev/mxcd <image id>
上面的命令应该可以把
卡0的
VGPU0/1放入容器中
注意:开启虚拟化需要使用支持虚拟化的vbios,可以sudo mx-smi --show-vbios查看是否支持,支持开启的VGPU数量为1/2/4/8
举报
回复
返回列表
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
本版积分规则
发表回复
回帖后跳转到最后一页
岸边露伴
新手上路
1
主题
1
回帖
47
积分
Ta的主页
发私信
图文热点
社区下载页面无法登录
社区论坛页面正常登录成功,但是一到下载页面就需要重新登录,且一直登录失败50 ...
驱动安装成功,工具无法使用
...
【微调打榜内测】【书生】端侧小模型论
在智算大语言模型蓬勃发展的浪潮中,书生・浦语(InternLM)脱颖而出。书生・浦 ...
推荐话题
1.
获取GPU状态的方式问题
2.
【论坛功能调整公告】
3.
支持qwen vl吗
4.
支持vl模型吗
5.
使用沐曦GPU可以自己创建虚拟环境吗
6.
沐熙c500支持ptx吗?
7.
沐熙c500,要使用vllm0.8.5版本启动大模型
8.
OSError: libmxomp.so: cannot open shared
精彩时刻
社区下载页面无法登录
社区论坛页面正常登录成功,但是一到下载页面就需要重新登录,且一直登录失败502
驱动安装成功,工具无法使用
【微调打榜内测】【书生】端侧小模型
在智算大语言模型蓬勃发展的浪潮中,书生・浦语(InternLM)脱颖而出。书生・浦语凭
LMDeploy部署&&xtune微调IntenLM
XTune微调及验证截图 LMDeploy推理及验证结果(做完的时候没看到后面写的要截图保存
有没有C500的安装视频?
请问有没有C500的安装视频? 目前买了两张C500的显卡, 但是不知道怎么安装? 没
新人必看
社区规则
隐私保护
监督机制
关于版权
技术支持邮箱:support-sw@metax-tech.com
法律声明
联系我们
©沐曦 沪ICP备2020031767号-1
快速回复
返回顶部
返回列表