GPU云服务器常用操作导航、创建配备NVIDIA GPU的实例
网站编辑2020-11-10 14:13:11596
典名科技本文介绍阿里云GPU云服务器的用户指南教程，云服务器ECS的常用操作导航，创建配备NVIDIA GPU的实例。常用操作导航
典名科技提醒在使用云服务器ECS时，您可能会遇到各种问题，例如远程连接、更换操作系统、扩容云盘、升高或降低实例配置、使用快照或镜像等。本文介绍了云服务器ECS的常用操作，仅供参考，有疑问可以联系我们。
使用限制
- 使用云服务器ECS的注意事项，请参见使用须知。
- 使用云服务器ECS的资源规格限制，请参见使用限制和查看和提升配额（新版）。
- 如果云服务器需要备案，则云服务器有购买要求，且每台ECS实例可申请的备案服务号数量有限。详情请参见备案服务器（接入信息）准备与检查。备案流程请参见ICP备案流程概述。
创建并管理ECS实例
- 您可以按以下步骤操作ECS实例的生命周期：
- 使用向导创建实例
- 远程连接ECS实例
- 停止实例
- 释放实例
- 如果当前的实例规格或网络配置无法满足业务需求，您可以变更实例规格、IP地址和公网带宽峰值：
- 包年包月实例：
- 包年包月实例升级配置
- 续费降配
- 包年包月实例临时升级带宽
- 按量付费实例：
- 按量付费实例变更实例规格
- 按量付费实例修改公网带宽
- ECS实例IP地址操作：
- 修改公网IP地址
- 专有网络类型ECS公网IP转为弹性公网IP
- 包年包月实例：
- 如果当前的操作系统无法满足需求，您可以更换操作系统。详情请参见更换操作系统。
- 您可以使用以下功能精细化控制和管理ECS实例：
- 实例自定义数据
- 实例元数据
- 实例标识
- 实例RAM角色
管理计费
- 包年包月实例：
您可以使用不同的方式续费包年包月实例：
- 手动续费实例
- 开通自动续费
- 续费降配
- 续费变配
- 设置统一到期日
- 按量付费实例：
您可以为按量付费实例开启停机不收费，详情请参见按量付费实例停机不收费。
- 转换实例计费方式：
- 按量付费转包年包月
- 包年包月转按量付费
提高计费性价比
- 您可以购买抢占式实例，降低部分场景下的使用成本，搭配弹性供应实现自动化交付。详细步骤请参见创建弹性供应组和创建抢占式实例。
- 您可以购买预留实例券，提高实例抵扣方式灵活性和降低成本。详细步骤请参见购买预留实例券。
- 您可以购买存储容量单位包，抵扣同一地域下按量付费云盘的计费账单。详细步骤请参见创建存储容量单位包。
创建并管理云盘
当云盘作数据盘用时，您可以按以下步骤使用云盘：
- 创建云盘。
- 挂载数据盘。
- Linux格式化数据盘或Windows格式化数据盘。
- 创建快照备份数据。详细步骤请参见创建普通快照。
- 如果已有的云盘容量无法满足需求，您可以扩容云盘。详细步骤请参见以下步骤：
- 在线扩容云盘（Linux系统）
- 离线扩容云盘（Linux系统）
- 在线扩容云盘（Windows系统）
- 离线扩容云盘（Windows系统）
- 如果云盘数据出错，您可以使用某个时刻的云盘快照回滚云盘。详细步骤请参见使用快照回滚云盘。
- 如果要将云盘恢复到初始状态，您可以重新初始化云盘。详细步骤请参见重新初始化数据盘。
- 卸载数据盘。
- 释放云盘。
创建和管理快照
您可以按以下步骤使用快照：
- 创建快照，可分为：
- 创建普通快照。
- 创建本地快照。
- 使用自动快照策略，定期自动创建快照。详细步骤请参见执行或取消自动快照策略。
- 查看快照容量。
- 为了节省快照存储空间，删除不必要的快照。详细步骤请参见优化快照使用成本。
快照的常见应用场景如下所示：
- 用于拷贝或恢复数据：您可以使用快照创建云盘或者回滚云盘。详细步骤请参见使用快照创建云盘和使用快照回滚云盘。
- 用于快速部署环境：您可以使用系统盘快照创建自定义镜像，并使用自定义镜像创建实例。详细步骤请参见使用快照创建自定义镜像和使用自定义镜像创建实例。
创建并管理自定义镜像
控制台上操作的主要都是自定义镜像。使用自定义镜像，您可以快速部署业务环境。您可以通过以下方式获取自定义镜像。
- 使用快照创建自定义镜像。
- 使用实例创建自定义镜像。
- 使用Packer创建自定义镜像。
- 不同地域之间复制镜像。详细步骤请参见复制镜像。
- 不同账号之间共享镜像。详细步骤请参见共享镜像。
- 导入自定义镜像。
- 使用Packer创建并导入本地镜像。
您可以导出镜像备份环境。详细步骤请参见导出镜像。
创建并管理安全组
您可以按以下步骤使用安全组
- 创建安全组。
- 添加安全组规则。
- ECS实例加入安全组。
- 删除安全组规则。
- 删除安全组。
为了方便部署业务，您可以跨地域、跨网络类型克隆安全组。详细步骤请参见克隆安全组。
如果新的安全组规则对线上业务产生了不利影响，您可以全部或部分还原安全组规则。详细步骤请参见还原安全组规则。
创建并授予实例RAM角色
您可以按以下步骤使用密钥对：
- （可选）为RAM用户授予操作实例RAM角色的权限策略。详细步骤请参见授权RAM用户使用实例RAM角色。
- 创建并授予实例RAM角色。详细步骤请参见授予实例RAM角色。
- 在使用过程中，您可以随时更换实例RAM角色。详细步骤请参见更换实例RAM角色。
创建并使用密钥对
您可以按以下步骤使用密钥对：
- 创建SSH密钥对或者导入SSH密钥对。
- 绑定SSH密钥对。
- 使用SSH密钥对连接Linux实例。
- 解绑SSH密钥对。
- 删除SSH密钥对。
创建并使用弹性网卡
您可以按以下步骤使用弹性网卡：
- 创建弹性网卡。
- 将弹性网卡附加到实例或者在创建实例时附加弹性网卡。
- （可选）配置弹性网卡。
- 分配辅助私网IP地址。
- 解绑弹性网卡。
- 删除弹性网卡。
搭建IPv6专有网络
- 运行Windows Server操作系统的ECS实例请参见Windows实例使用IPv6导航。
- 运行Linux操作系统的ECS实例请参见Linux实例使用IPv6导航。
使用标签
您可以使用标签管理各种资源，提高效率。您可以按以下步骤使用标签：
- 新建并绑定标签。
- 使用标签检索资源。
- 删除或解绑标签。
使用实例启动模板
实例启动模板帮助您快速创建相同配置的ECS实例，您可以按以下步骤使用实例启动模板：
- 创建实例启动模板。
- 创建实例启动模板的新版本。
- 删除实例启动模板和版本。
使用部署集
部署集帮助您提供底层应用的高可用性，您可以按以下步骤使用部署集：
- 创建部署集。
- 在部署集内创建ECS实例。
- 修改实例的部署集。
- 删除部署集。
使用云助手
云助手可以发送远程命令，免去了运维过程中的使用跳板机的不便。您可以按以下步骤使用云助手：
- （可选）部分ECS实例需要您手动安装和配置云助手客户端。详细步骤请参见安装云助手客户端。
- 创建命令。
- 执行命令。
- 查看执行结果。
创建配备NVIDIA GPU的实例
配备NVIDIA GPU的实例必须安装驱动才可以使用GPU，涉及的驱动包括GPU驱动和GRID驱动。您可以在创建实例时设置自动安装驱动，也可以在创建实例后手动安装驱动。
前提条件
完成创建ECS实例的准备工作：
- 创建账号，以及完善账号信息。
- 注册阿里云账号，并完成实名认证。具体操作，请参见阿里云账号注册流程。
- 如果创建按量付费实例，您的阿里云账户余额、代金券和优惠券的总值不得小于100.00元人民币。具体充值操作，请参见如何充值。
- 阿里云提供一个默认的专有网络VPC，如果您不想使用默认专有网络VPC，可以在目标地域创建一个专有网络和交换机。具体操作，请参见搭建IPv4专有网络。
- 阿里云提供一个默认的安全组，如果您不想使用默认安全组，可以在目标地域创建一个安全组。具体操作，请参见创建安全组。
如果您需要使用其它扩展功能，也需要完成相应的准备工作，例如：
- 如果创建Linux实例时要绑定SSH密钥对，需要在目标地域创建一个SSH密钥对。具体操作，请参见创建SSH密钥对。
- 如果要设置自定义数据，需要准备实例自定义数据。具体操作，请参见生成实例自定义数据。
- 如果要为ECS实例关联某个角色，需要创建、授权实例RAM角色，并将其授予ECS实例。具体操作，请参见授予实例RAM角色。
背景信息
- GPU驱动：用于驱动物理GPU。仅非vGPU的GPU实例支持安装GPU驱动。
- GRID驱动：用于获得图形加速能力。配备vGPU的GPU实例（vgn6i和vgn5i）和非vGPU的GPU实例均支持安装GRID驱动，以获得GPU的图形加速能力。
GPU实例的驱动支持情况如下表所示。
| 驱动类型 | 配备vGPU的GPU实例（vgn6i和vgn5i） | 非vGPU的GPU实例 |
|---|---|---|
| GPU驱动 | 不支持 | 支持 |
| GRID驱动 | 支持 | 支持 |
操作步骤
本步骤重点介绍配备NVIDIA GPU的实例相关的配置，如果您想了解其他通用配置，请参见使用向导创建实例。
- Linux：您需要自行购买GRID License，并在创建实例后手动安装GRID驱动和激活License，具体步骤请参见在vgn6i和vgn5i实例中安装GRID驱动（Linux）。
- 创建非vGPU的GPU实例
- 实例：定位到，然后按需选择实例规格。
- 镜像：非vGPU的GPU实例支持安装GPU驱动，安装方式如下所示：说明 如果您使用共享镜像和自定义镜像，需要自行保证安装了需要的GPU驱动和相关软件。
- 设置自动安装GPU驱动。公共镜像是由阿里云官方或第三方合作商家提供的系统基础镜像，部分Linux镜像支持自动安装GPU驱动，如下所示：
- CentOS 64位（目前提供的所有自营版本均支持）
- Ubuntu16.04 64位镜像
- Ubuntu18.04 64位镜像
- SUSE Linux Enterprise Server 12 SP2 64位镜像
- Aliyun Linux 64位镜像
如果您选择的镜像支持自动安装GPU驱动，选中自动安装GPU驱动复选框，并选择GPU驱动、CUDA、cuDNN库版本。如果是新业务系统，建议选择最新的版本。
选中自动安装GPU驱动复选框后，您可以选择是否自动安装GPU云加速器。GPU云加速器提供了飞天AI加速器AIACC（Apsara AI Accelerator），可以帮助您快速搭建高性能分布式深度学习训练系统并加速AI训练性能，更多详情请参见GPU云加速器。说明 CentOS 8、CentOS 6、SUSE Linux、Aliyun Linux暂时不支持GPU云加速器。对于支持自动安装GPU驱动的镜像，如果您清除自动安装GPU驱动复选框，仍可以在实例自定义数据模块下配置安装脚本，参考安装脚本请参见自动安装脚本v3.1。
说明 如果调用RunInstances接口创建配备NVIDIA GPU的实例，必须通过UserData参数上传安装脚本，脚本内容需要采用Base64方式编码。
- 设置自动安装GPU驱动。
- 在镜像市场选择预装了GPU驱动和相关软件的镜像。镜像市场提供经严格审核的优质镜像，预装操作系统、应用环境和各类软件，无需配置即可一键部署云服务器。例如以下支持深度学习和机器学习的镜像：
- 如果配备NVIDIA GPU的实例用于机器学习，您可以选择预装RAPIDS加速库的镜像，在镜像市场搜索关键字RAPIDS并选择可用的镜像。目前仅支持Ubuntu16.04。更多信息，请参见在GPU实例上使用RAPIDS加速图像搜索任务。说明 镜像中预装了NVIDIA RAPIDS机器学习加速库以及TensorFlow、Keras开源深度学习框架，您可以快速使用RAPIDS加速数据准备、机器学习和图像分析任务，并结合深度学习框架进行深度学习训练和推理。
- NVIDIA GPU Cloud VM Image（虚拟机镜像）是运行针对NVIDIA GPU优化的深度学习框架和HPC应用程序容器的优化环境，更多信息请参见在GPU实例上部署NGC环境。
- 如果配备NVIDIA GPU的实例用于机器学习，您可以选择预装RAPIDS加速库的镜像，在镜像市场搜索关键字RAPIDS并选择可用的镜像。目前仅支持Ubuntu16.04。更多信息，请参见在GPU实例上使用RAPIDS加速图像搜索任务。
- 在在创建实例后手动安装GRID驱动，请参见手动安装GPU驱动。
非vGPU的GPU实例也支持安装GRID驱动。操作系统类型影响GRID驱动的安装方式，如下所示：
- Windows：在镜像市场中搜索关键词GRID，并选用预装GRID驱动的收费镜像。这些收费镜像带有已经激活License的GRID驱动，不用再手动安装GRID驱动。
自动安装GPU驱动脚本
实例首次启动时，cloud-init会自动执行Shell脚本安装GPU驱动、CUDA、cuDNN库。
- 如果您选中了自动安装GPU驱动复选框，可选的GPU驱动、CUDA、cuDNN库版本如下：
CUDA GPU驱动 cuDNN 支持的公共镜像版本（仅支持自营镜像） 支持的实例规格 10.2.89 440.64.00 7.6.5 - Aliyun Linux 2
- Ubuntu 18.04、16.04
- Centos 8.x、7.x、6.x
- gn6v、gn6i、gn6e、gn5、gn5i、gn4
- ebmgn6v、ebmgn6i、ebmgn6e、ebmgn5i
10.1.168 - 440.64.00
- 418.126.02
- 7.6.5
- 7.5.0
- Ubuntu 18.04、16.04
- Centos 7.x、6.x
- gn6v、gn6i、gn6e、gn5、gn5i、gn4
- ebmgn6v、ebmgn6i、ebmgn6e、ebmgn5i
10.0.130 - 440.64.00
- 418.126.02
- 7.6.5
- 7.5.0
- 7.4.2
- 7.3.1
- Ubuntu 18.04、16.04
- Centos 7.x、6.x
- gn6v、gn6i、gn6e、gn5、gn5i、gn4
- ebmgn6v、ebmgn6i、ebmgn6e、ebmgn5i
9.2.148 - 440.64.00
- 418.126.02
- 390.116
- 7.6.5
- 7.5.0
- 7.4.2
- 7.3.1
- 7.1.4
- Ubuntu 16.04
- Centos 7.x、6.x
- gn6v、gn6e、gn5、gn5i、gn4
- ebmgn6v、ebmgn6e、ebmgn5i
9.0.176 - 440.64.00
- 418.126.02
- 390.116
- 7.6.5
- 7.5.0
- 7.4.2
- 7.3.1
- 7.1.4
- 7.0.5
- Ubuntu 16.04
- Centos 7.x、6.x
- SUSE 12sp2
- gn6v、gn6e、gn5、gn5i、gn4
- ebmgn6v、ebmgn6e、ebmgn5i
8.0.61 - 440.64.00
- 418.126.02
- 390.116
- 7.1.3
- 7.0.5
- Ubuntu 16.04
- Centos 7.x、6.x
- gn5、gn5i、gn4
- ebmgn5i
- 如果您在实例自定义数据配置安装脚本，脚本内容请参见自动安装脚本v3.1。自动安装脚本v3.1具有以下优势：
- 提供最新版本的CUDA、GPU驱动和cuDNN库。
- 登录实例后，如果正在安装驱动，您可以看到安装进度条。如果已经安装成功，实例会自动重启，重新登录后，您可以看到安装结果提示ALL INSTALL OK；如果安装失败，您将看到安装结果提示INSTALL FAIL。
使用自动安装脚本v3.1时，您需要修改安装脚本的以下参数，指定GPU驱动、CUDA、cuDNN版本号，以及是否安装AIACC，如果不安装AIACC，则将IS_INSTALL_PERSEUS的值修改为FALSE，例如：IS_INSTALL_PERSEUS="FALSE" DRIVER_VERSION="440.64.00" CUDA_VERSION="10.2.89" CUDNN_VERSION="7.6.5"说明 如果镜像是CentOS或SUSE操作系统，安装脚本使用.run安装包进行安装，如果镜像是Ubuntu操作系统，安装脚本使用.deb安装包进行安装。
自动安装脚本v3.1
#!/bin/sh
#Please input version to install
IS_INSTALL_PERSEUS=""
DRIVER_VERSION=""
CUDA_VERSION=""
CUDNN_VERSION=""
IS_INSTALL_RAPIDS="FALSE"
INSTALL_DIR="/root/auto_install"
#using .deb to install driver and cuda on ubuntu OS
#using .run to install driver and cuda on ubuntu OS
auto_install_script="auto_install.sh"
script_download_url=$(curl http://100.100.100.200/latest/meta-data/source-address | head -1)"/opsx/ecs/linux/binary/script/${auto_install_script}"
echo $script_download_url
mkdir $INSTALL_DIR && cd $INSTALL_DIR
wget -t 10 --timeout=10 $script_download_url && sh ${INSTALL_DIR}/${auto_install_script} $DRIVER_VERSION $CUDA_
