π§ Linux νμ΄ν μΉ μ€μΉ κ°μ΄λ (CUDA, ROCm, Docker)
리λ μ€λ λλΆλΆμ λ₯λ¬λ μ°κ΅¬μ, ν΄λΌμ°λ μΈμ€ν΄μ€(AWS EC2, GCP, Azure), GPU ν΄λ¬μ€ν° μλ²μμ μ¬μ©νλ νμ€ μ΄μ체μ μ λλ€.
π οΈ 1. Ubuntu / Debian νμ€ Pip μ€μΉ
# 1. νμ μμ€ν
ν¨ν€μ§ μ€μΉ
sudo apt update && sudo apt install -y python3-pip python3-venv build-essential
# 2. κ°μνκ²½ μμ± λ° νμ±ν
python3 -m venv .venv
source .venv/bin/activate
# 3. μ΅μ CUDA 12.1μ© PyTorch μ€μΉ
pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu121
π³ 2. 곡μ Docker 컨ν μ΄λ μ€ν (κ°μ₯ μΆμ²)
νΈμ€νΈ OSμ 볡μ‘ν CUDA Toolkitκ³Ό λΌμ΄λΈλ¬λ¦¬λ₯Ό μΌμΌμ΄ μ€μΉνμ§ μκ³ λ, NVIDIA Container Toolkitλ§ μ€μΉλμ΄ μλ€λ©΄ λ¨ ν μ€λ‘ μλ²½ν 격리λ νμ΄ν μΉ λ₯λ¬λ νκ²½μ λμΈ μ μμ΅λλ€:
# λνν bash μλ‘ μ΅μ νμ΄ν μΉ μ»¨ν
μ΄λ μ§μ
docker run --gpus all -it --rm --shm-size=16g pytorch/pytorch:latest
[!TIP] 곡μ λ©λͺ¨λ¦¬ μ€μ (
--shm-size=16g):
νμ΄ν μΉμDataLoaderλ λ©ν°νλ‘μΈμ±(num_workers > 0)μΌλ‘ λ°μ΄ν°λ₯Ό λΉλκΈ° λ‘λ©ν λ 리λ μ€ κ³΅μ λ©λͺ¨λ¦¬(/dev/shm)λ₯Ό λλμΌλ‘ μ¬μ©ν©λλ€.
λ컀 κΈ°λ³Έκ°(64MB)μ κ·Έλλ‘ λλ©΄Bus errorκ° λ°μνλ―λ‘ λ°λμ--shm-sizeλ₯Ό 8G μ΄μ λλν μ€μ ν΄μΌ ν©λλ€.