20と28のリビジョン間の差分 (その間の編集: 8回)
|
サイズ: 611
コメント:
|
サイズ: 2224
コメント:
|
| 削除された箇所はこのように表示されます。 | 追加された箇所はこのように表示されます。 |
| 行 1: | 行 1: |
| = 深層学習コンテナを利用する方法 = | = Singularityイメージファイルの入手 = |
| 行 3: | 行 3: |
| singularity pullを利用することで，Singularityイメージファイル（sif）のダウンロードやDockerイメージのsifへの変換が可能です．ここでは深層学習用コンテナを入手する例として，Dockerイメージのsifへの変換を示します． | Singularityイメージファイル（sif）を/work以下に置き，HPCクラスタのバッチジョブやインタラクティブジョブで指定することができます． |
| 行 5: | 行 5: |
| 例：ROCmのPyTorch Dockerイメージをsifに変換 {{{ $ nohup singularity pull docker://rocm/pytorch:latest & |
計算サーバにてsingularity pullを利用することで，公開されているDockerイメージを変換してsifを入手できます．以下の例では，インタラクティブジョブでysnd01にアクセスし，ROCmのPyTorch Dockerイメージをsifに変換しています． {{{ [yi041@ydev02 yi041]$ qsub -I -q Eduq -l select=1:ncpus=1:ngpus=1:mem=64gb:vnode=ysnd01 -v SINGULARITY_IMAGE=/common/Singularity_sif/prg_env_amd_2025.02.sif /bin/bash qsub: waiting for job 10970.ypbs0.edu.tut.ac.jp to start qsub: job 10970.ypbs0.edu.tut.ac.jp ready Singularity> cd /work/yi041 Singularity> export SINGULARITY_TMPDIR=/work/yi041/tmp Singularity> export SINGULARITY_CACHEDIR=/work/yi041/cache Singularity> mkdir tmp Singularity> mkdir cache Singularity> singularity pull docker://rocm/pytorch:latest INFO: Converting OCI blobs to SIF format WARNING: 'nodev' mount option set on /work, it could be a source of failure during build process INFO: Starting build... INFO: Fetching OCI image... |
| 行 10: | 行 24: |
| 例：NGCのPytorch Dockerイメージをsifに変換 {{{ $ nohup singularity pull docker://nvcr.io/nvidia/pytorch:22.12-py3 & |
インタラクティブジョブを実行する際には，Eduqではvnode=ysnd00またはysnd01，iEduqではvnode=yind00またはyind01を指定できます．メモリは上限値（64GB）を確保することを推奨します．コンテナとして /common/Singularity_sif/prg_env_amd_2025.02.sif を指定してください．/homeではディスク容量が不足しますので，/workにて作業するようにしてください． Dockerイメージをsifに変換する他の例を示します． 例：ROCmのTensorflow Dockerイメージをsifに変換 {{{ $ singularity pull docker://rocm/tensorflow |
| 行 14: | 行 32: |
例：NVIDIA NGCのPytorch Dockerイメージをsifに変換 {{{ $ singularity pull docker://nvcr.io/nvidia/pytorch:22.12-py3 }}} 公開されているDockerイメージは [[https://hub.docker.com/|Docker Hub]] や [[https://catalog.ngc.nvidia.com/containers|NVIDIA NGC]] などで検索できます． |
Singularityイメージファイルの入手
Singularityイメージファイル（sif）を/work以下に置き，HPCクラスタのバッチジョブやインタラクティブジョブで指定することができます．
計算サーバにてsingularity pullを利用することで，公開されているDockerイメージを変換してsifを入手できます．以下の例では，インタラクティブジョブでysnd01にアクセスし，ROCmのPyTorch Dockerイメージをsifに変換しています．
[yi041@ydev02 yi041]$ qsub -I -q Eduq -l select=1:ncpus=1:ngpus=1:mem=64gb:vnode=ysnd01 -v SINGULARITY_IMAGE=/common/Singularity_sif/prg_env_amd_2025.02.sif /bin/bash qsub: waiting for job 10970.ypbs0.edu.tut.ac.jp to start qsub: job 10970.ypbs0.edu.tut.ac.jp ready Singularity> cd /work/yi041 Singularity> export SINGULARITY_TMPDIR=/work/yi041/tmp Singularity> export SINGULARITY_CACHEDIR=/work/yi041/cache Singularity> mkdir tmp Singularity> mkdir cache Singularity> singularity pull docker://rocm/pytorch:latest INFO: Converting OCI blobs to SIF format WARNING: 'nodev' mount option set on /work, it could be a source of failure during build process INFO: Starting build... INFO: Fetching OCI image...
インタラクティブジョブを実行する際には，Eduqではvnode=ysnd00またはysnd01，iEduqではvnode=yind00またはyind01を指定できます．メモリは上限値（64GB）を確保することを推奨します．コンテナとして /common/Singularity_sif/prg_env_amd_2025.02.sif を指定してください．/homeではディスク容量が不足しますので，/workにて作業するようにしてください．
Dockerイメージをsifに変換する他の例を示します．
例：ROCmのTensorflow Dockerイメージをsifに変換
$ singularity pull docker://rocm/tensorflow
例：NVIDIA NGCのPytorch Dockerイメージをsifに変換
$ singularity pull docker://nvcr.io/nvidia/pytorch:22.12-py3
公開されているDockerイメージは Docker Hub や NVIDIA NGC などで検索できます．