通过部署NVIDIA Docker组件,实现在容器中使用vGPU/GPU设备
日期:2022-04-22 17:05:40 / 人气:2617
我们今天来看一下如何通过NVIDIA Docker组件来实现Docker容器对GPU使用。由于vGPU和物理GPU一样提供了对容器的支持,所以此次的实验环境是基于Ubuntu 20.04.3 LTS 虚拟机+ M60-8Q vGPU。
首先在带有vGPU的虚拟机中安装Ubuntu操作系统,我们这里选择的是安装Server版本的Ubuntu(默认不会安装图形界面)。
下载地址:http://www.releases.ubuntu.com/20.04/
Ubuntu安装完成以后,我们来对环境做一个基本的检查。
1. 确认当前OS的版本以及内核版本信息
从上图我们可以看出,当前系统加载了nvidiafb和nouveau的驱动模块。但是这两个模块并没有被vGPU使用,也许是没有安装图形界面的原因。所以这里也不需要额外禁用nouveau模块,直接安装驱动即可。
3.基本信息确认正常以后,我们需要确保gcc和make已经安装在系统中,因为安装NVIDIA的vGPU驱动需要。如果没有安装则使用apt install gcc make 安装即可。
4.驱动安装完毕以后,执行nvidia-smi来确认驱动是否正常安装
使用命令#./NVIDIA-Linux-x86_64-470.82.01-grid.run 进行驱动安装
注:由于是vGPU的环境,所以还需要为vGPU配置License,以使得其驱动功能正常。具体配置vGPU License的步骤就不在此阐述,可以参考公众号内的专门介绍License配置的文章。
在基础环境配置完毕以后,接下来我们需要安装docker,其实在安装Ubuntu 20.04.3 Server版本的时候是可以选择随系统安装docker的,我们这里选择单独安装docker。
5.安装docker的方法很简单,建议参考官方文档的步骤即可。
https://docs.docker.com/engine/install/ubuntu/
步骤如截图:
成功安装后可以运行一个最简单的hello world容器来确认docker是否正常工作。看到下图的界面则说明docker已经成功安装。
6.最后我们来安装NVIDIA Docker组件,和安装docker类似我们只需要复制官网的相关命令即可完成安装,步骤截图如下:
https://docs.nvidia.com/datacenter/cloud-native/container-toolkit/install-guide.html#docker
成功安装nvidia-docker组件以后,我们同样来运行一个容器来确认是否可以调用vGPU。
1. 首先我们通过命令建立一个名为test的容器
# docker run -it --gpus all --name testnvidia/cuda:11.4.2-base-ubuntu20.04
其中—gpus all 代表此容器使用当前环境的所有GPU资源
2. 成功建立容器以后,会直接进入到此容器中,我们在容器内执行nvidia-smi可以成功输出GPU信息,则表明容器内已经可以正常使用到GPU资源了。
声明:
1、江苏网术科技有限公司所提供产品全部为原厂正规产品,我司不出售翻新机,二手机,等残次品;硬件保修政策及时长按设备原制造厂执行,支持三包规定。
2、价格:官网上列出的价格为含增值税专用发票价格;硬件设备产品含税13%,工程服务含税9%,技术服务含税6%。
3、服务:网站标明的价格为商品本身含税价格,不含其它设定和安装服务;如需要安装设定服务请联系销售人员另行报价。无价格的商品为按需配置的项目商品,需联络销售人员报价。
4、方案:官网所述之方案非完整方案,且并不适用于所有的应用场景,请勿盲目套用。
5、新闻:大多摘自互联网,如有侵权,请与我们联系。
6、运费:苏州,无锡,南通,常州,泰州,镇江,扬州地区免费送货上门,其它地区快递发货。
7、结算:苏州,无锡,南通,常州,泰州,镇江,扬州地区支持账期和月结的结算方式,具体可与销售人员协商。其它地区均为现金结算。
8、其它:服务申明最终解释权归网术科技所有,其它未尽事项请与我们联系。