显卡 mig 切分

安装 nvidia-mig-parted

https://github.com/NVIDIA/mig-parted
https://git.junyouji.com/NVIDIA/mig-parted

查看显卡支持的切分策略

# 查看 0 号卡
nvidia-smi mig -i 0 -lgip

切分

直接切分

cat <<EOF | nvidia-mig-parted apply -f -
version: v1
mig-configs:
  whatever:
  - devices: [0]
    mig-enabled: true
    mig-devices:
      "1g.18gb": 2
      "2g.35gb": 1
      "3g.71gb": 1
  - devices: [1,2,3,4,5,6]
    mig-enabled: false
EOF

显卡 0 切分为 4 份， 其它显卡不切分

取消切分

cat <<EOF | nvidia-mig-parted apply -f -
version: v1
mig-configs:
  whatever:
  - devices: all
    mig-enabled: false
EOF

文件的方式 mig-config.yaml

将配置内空存为 mig-config.yaml

version: v1
mig-configs:
  all-disabled:
    - devices: all
      mig-enabled: false

  all-1g.18gb:
    - devices: all
      mig-enabled: true
      mig-devices:
        "1g.18gb": 7

# 切分
nvidia-mig-parted apply -f mig-config.yaml -c all-1g.18gb

# 取消切分
nvidia-mig-parted apply -f mig-config.yaml -c all-disabled

重置显卡

# 将 0 号卡重置
nvidia-smi -i 7 -r

挂载进docker

docker run \
  --gpus '"device=0:0"' \
  ...

0:0 - 挂载 0 号卡切分后的第 0 个 mig 显卡