🐧 Linux νŒŒμ΄ν† μΉ˜ μ„€μΉ˜ κ°€μ΄λ“œ (CUDA, ROCm, Docker)

λ¦¬λˆ…μŠ€λŠ” λŒ€λΆ€λΆ„μ˜ λ”₯λŸ¬λ‹ μ—°κ΅¬μ†Œ, ν΄λΌμš°λ“œ μΈμŠ€ν„΄μŠ€(AWS EC2, GCP, Azure), GPU ν΄λŸ¬μŠ€ν„° μ„œλ²„μ—μ„œ μ‚¬μš©ν•˜λŠ” ν‘œμ€€ μš΄μ˜μ²΄μ œμž…λ‹ˆλ‹€.


πŸ› οΈ 1. Ubuntu / Debian ν‘œμ€€ Pip μ„€μΉ˜

# 1. ν•„μˆ˜ μ‹œμŠ€ν…œ νŒ¨ν‚€μ§€ μ„€μΉ˜
sudo apt update && sudo apt install -y python3-pip python3-venv build-essential

# 2. κ°€μƒν™˜κ²½ 생성 및 ν™œμ„±ν™”
python3 -m venv .venv
source .venv/bin/activate

# 3. μ΅œμ‹  CUDA 12.1용 PyTorch μ„€μΉ˜
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121

🐳 2. 곡식 Docker μ»¨ν…Œμ΄λ„ˆ μ‹€ν–‰ (κ°€μž₯ μΆ”μ²œ)

호슀트 OS에 λ³΅μž‘ν•œ CUDA Toolkitκ³Ό 라이브러리λ₯Ό 일일이 μ„€μΉ˜ν•˜μ§€ μ•Šκ³ λ„, NVIDIA Container Toolkit만 μ„€μΉ˜λ˜μ–΄ μžˆλ‹€λ©΄ 단 ν•œ μ€„λ‘œ μ™„λ²½νžˆ 격리된 νŒŒμ΄ν† μΉ˜ λ”₯λŸ¬λ‹ ν™˜κ²½μ„ λ„μšΈ 수 μžˆμŠ΅λ‹ˆλ‹€:

# λŒ€ν™”ν˜• bash μ‰˜λ‘œ μ΅œμ‹  νŒŒμ΄ν† μΉ˜ μ»¨ν…Œμ΄λ„ˆ μ§„μž…
docker run --gpus all -it --rm --shm-size=16g pytorch/pytorch:latest

[!TIP] 곡유 λ©”λͺ¨λ¦¬ μ„€μ • (--shm-size=16g):
νŒŒμ΄ν† μΉ˜μ˜ DataLoaderλŠ” λ©€ν‹°ν”„λ‘œμ„Έμ‹±(num_workers > 0)으둜 데이터λ₯Ό 비동기 λ‘œλ”©ν•  λ•Œ λ¦¬λˆ…μŠ€ 곡유 λ©”λͺ¨λ¦¬(/dev/shm)λ₯Ό λŒ€λŸ‰μœΌλ‘œ μ‚¬μš©ν•©λ‹ˆλ‹€.
도컀 κΈ°λ³Έκ°’(64MB)을 κ·ΈλŒ€λ‘œ 두면 Bus errorκ°€ λ°œμƒν•˜λ―€λ‘œ λ°˜λ“œμ‹œ --shm-sizeλ₯Ό 8G 이상 λ„‰λ„‰νžˆ μ„€μ •ν•΄μ•Ό ν•©λ‹ˆλ‹€.

μ„œλΈŒλͺ©μ°¨