Slinky 教程

#用 Apptainer 跑 NGC PyTorch

目标:把 NGC 镜像拉成共享盘上的 SIF,再用 sbatch 跑 GPU 作业。

1. 拉一次 SIF

在作业里拉,缓存放到节点本地 /local:

srun --mem=64G --cpus-per-task=16 --time=01:00:00 bash -c '
  export APPTAINER_CACHEDIR=/local/apptainer-cache-$USER \
         APPTAINER_TMPDIR=/local/apptainer-tmp-$USER
  mkdir -p "$APPTAINER_CACHEDIR" "$APPTAINER_TMPDIR"
  apptainer pull /home/'"$USER"'/pytorch.sif \
    docker://nvcr.io/nvidia/pytorch:25.10-py3
'

大镜像约十分钟量级;SIF 落在 /home 后所有 worker 都能用。Blackwell 请选足够新的标签。

2. 提交

cat > /home/$USER/torch-test.py <<'EOF'
import torch
n = torch.cuda.device_count()
print(f"visible GPUs: {n}")
for i in range(n):
    print(" ", torch.cuda.get_device_name(i))
x = torch.randn(8192, 8192, device="cuda", dtype=torch.bfloat16)
y = x @ x
torch.cuda.synchronize()
print("matmul OK:", y.shape)
EOF

cat > /home/$USER/torch-test.sbatch <<EOF
#!/bin/bash
#SBATCH --job-name=torch-test
#SBATCH --nodes=1
#SBATCH --gres=gpu:8
#SBATCH --mem=128G
#SBATCH --time=00:10:00

apptainer exec --nv /home/$USER/pytorch.sif python3 /home/$USER/torch-test.py
EOF

sbatch /home/$USER/torch-test.sbatch

3. 看结果

squeue --me
cat slurm-<jobid>.out

应看到 8 张卡名与 matmul OK。

要点:--nv 注入驱动;--gres=gpu:N 决定容器内可见卡数;拉镜像与跑作业都要给够 --mem。

交互试跑:

srun --gres=gpu:1 --mem=64G --time=00:30:00 --pty \
  apptainer exec --nv /home/$USER/pytorch.sif python3

清理缓存与 SIF 见 容器。多用户限额见 用户管理。