템플릿은 인스턴스에 설치되는 환경입니다. 커스텀 이미지는 받지 않고, 검증된 공식 템플릿 중에서 고릅니다. 대여할 때 고르며, 인스턴스가 뜬 뒤에는 바꿀 수 없습니다.
1. 모든 템플릿에 공통으로 있는 것
- SSH 접속 — 등록한 공개키로
root계정에 접속합니다. wwctl— 요금 · 남은 시간 · 볼륨 · 자체 진단을 확인하는 도구입니다.- 작업 폴더
/workspace— 볼륨을 붙이면 여기에 연결됩니다. - 기본 도구 — git · curl · wget · vim · htop · tmux · rsync. 한글 로케일과 폰트가 들어 있습니다.
직접 설치한 패키지와 내려받은 모델도 /workspace 밖에 있으면 종료와 함께 사라집니다. 다시 쓸 것은 볼륨을 붙인 /workspace 안에 두세요.
2. 템플릿 목록
- CUDA — 빈 환경. 직접 구성합니다. 최소 VRAM 8GB. SSH.
- PyTorch — 학습 · 파인튜닝. 최소 VRAM 8GB. SSH.
- Jupyter — 노트북 실험. 최소 VRAM 8GB. SSH + HTTP 8888.
- vLLM — 추론 API 서빙. 최소 VRAM 16GB. SSH + HTTP 8000.
- ComfyUI — 이미지 · 영상 생성. 지금은 제공하지 않습니다. 대여 화면에 나오지 않습니다.
머신의 VRAM 이 템플릿의 최소 VRAM 보다 작으면 대여할 수 없습니다. VRAM 이 더 큰 머신을 고르거나 다른 템플릿을 선택하세요.
3. CUDA · PyTorch
SSH 로 접속하면 바로 쓸 수 있습니다. GPU 가 보이는지 먼저 확인하세요.
nvidia-smi
wwctl gpu4. Jupyter
인스턴스가 뜨면 JupyterLab 이 8888 포트에서 자동으로 시작합니다. 작업 폴더는 /workspace 입니다. 접속 토큰은 인스턴스마다 새로 만들어집니다.
지금 콘솔의 접속 정보에는 SSH 명령만 표시됩니다. Jupyter 는 SSH 터널로 여세요. 내 컴퓨터에서 아래처럼 접속한 뒤, 브라우저에서 http://localhost:8888 을 엽니다.
ssh -i ~/.ssh/id_ed25519 -L 8888:localhost:8888 -p <포트> root@<노드 주소>토큰을 물으면, 터널을 연 그 SSH 셸에서 아래 명령으로 확인해 붙여넣습니다.
cat /opt/wattworks/jupyter.token토큰은 노트북 전체에 대한 열쇠입니다. 다른 사람에게 보내거나 공개된 곳에 붙여넣지 마세요.
5. vLLM
모델 파일은 미리 받아 두지 않습니다. 그래서 vLLM 서버는 자동으로 뜨지 않고, SSH 로 접속해 쓸 모델을 지정해 직접 실행합니다. API 키는 인스턴스마다 자동으로 만들어져 있습니다.
vllm serve <모델> --api-key "$(cat /opt/wattworks/vllm.apikey)" --host 0.0.0.0 --port 8000내 컴퓨터에서 호출할 때도 SSH 터널을 씁니다. 터널을 연 뒤 http://localhost:8000 으로 요청합니다.
ssh -i ~/.ssh/id_ed25519 -L 8000:localhost:8000 -p <포트> root@<노드 주소>6. ComfyUI
ComfyUI 는 지금은 제공하지 않습니다. 제공을 시작하면 이 가이드에 사용 방법을 추가합니다.