Modal 서버리스 GPU 배포
Claude Code가 Modal SDK로 파이썬 코드와 AI 모델을 서버리스 GPU 클라우드에 배포·운영하도록 돕는 스킬.
개발·코딩중급★ 33,030⑂ 3,248AI 점수 8/10마지막 업데이트: 2026. 8. 9.
무엇을 해주나
Modal은 파이썬 코드를 그대로 클라우드에서 실행하는 서버리스 플랫폼입니다. 이 스킬은 Claude가 Modal SDK의 핵심 개념을 정확히 알고 코드를 작성하도록 만들어 줍니다.
@app.function()/@app.cls()기반 원격 실행과 라이프사이클 훅(@modal.enter,@modal.exit)gpu="H100",gpu="H100:4"같은 문자열 기반 GPU 지정과 폴백 체인- 파이썬 코드로 정의하는 컨테이너 이미지(
uv_pip_install,apt_install,run_function) - 모델 가중치·데이터셋용 영구 볼륨, 시크릿 관리, FastAPI 웹 엔드포인트
- Cron/Period 스케줄 잡, 오토스케일링·동시성(
@modal.concurrent) 설정 - 신뢰할 수 없는 코드를 격리 실행하는
modal.Sandbox
세부 주제별 references/*.md 문서가 12개 딸려 있어, 필요할 때만 깊이 있는 내용을 불러 읽는 구조입니다.
이런 분께 추천
- LLM·이미지 모델을 GPU 위에서 서빙하거나 파인튜닝하려는 ML 엔지니어
- Dockerfile/K8s 없이 파이썬만으로 배포 파이프라인을 만들고 싶은 개발자
- 주기적인 ETL·재학습·크롤링 잡을 클라우드에서 돌려야 하는 데이터 팀
- 에이전트가 생성한 코드를 안전한 샌드박스에서 실행해야 하는 AI 앱 개발자
활용 예시
- LLM 추론 서비스 구축 — "vLLM으로 Llama-3 모델을 H100에서 서빙하는 Modal 앱을 만들어줘"라고 하면 이미지 정의,
@modal.enter()로 모델 1회 로드, FastAPI POST 엔드포인트까지 갖춘 스크립트를 작성해 줍니다. - 대량 배치 처리 — 100개 파케이 청크를
process_chunk.map()으로 병렬 처리하고 결과를 볼륨에 저장하는 파이프라인을 구성합니다. - 6시간 주기 ETL —
modal.Cron("0 */6 * * *")과modal.Secret.from_name("db-credentials")를 조합해 DB 자격증명을 안전하게 주입한 스케줄 잡을 배포합니다.
· · · 설치 가이드 · · ·
Claude 앱에 설치 (터미널 필요 없음)
- 아래 버튼으로 ZIP 파일을 받으세요.
- Claude 설정 → Capabilities에서 '코드 실행 및 파일 생성'을 켭니다. (한 번만)
- Claude에서 Customize → Skills → + → '스킬 업로드'를 누르고 받은 ZIP을 올립니다.
Claude Code에 설치
Claude에게 맡기기 — 아래 문장을 Claude Code에 붙여넣으세요
클로드스킬마트에서 찾은 스킬을 설치해줘. GitHub 저장소 K-Dense-AI/scientific-agent-skills 의 skills/modal 폴더를 내 ~/.claude/skills/modal/ 에 그대로 복사해줘. 설치가 끝나면 이 스킬로 무엇을 할 수 있는지 한 줄로 알려줘.
직접 명령으로 설치하기
git clone https://github.com/K-Dense-AI/scientific-agent-skills.git /tmp/scientific-agent-skills && cp -r /tmp/scientific-agent-skills/skills/modal ~/.claude/skills/modal⚠ 제3자가 만든 스킬입니다. 설치 전 원본 저장소를 한 번 확인하세요.
- 터미널을 열고 스킬 폴더가 없다면 만듭니다:
mkdir -p ~/.claude/skills - 저장소를 임시 폴더에 내려받습니다:
git clone https://github.com/K-Dense-AI/scientific-agent-skills.git /tmp/scientific-agent-skills - modal 스킬만 복사합니다:
cp -r /tmp/scientific-agent-skills/skills/modal ~/.claude/skills/modal - Modal SDK를 설치합니다:
uv pip install modal(또는pip install modal) - https://modal.com/settings 에서 토큰을 발급받고
modal setup을 실행하거나, 환경변수MODAL_TOKEN_ID,MODAL_TOKEN_SECRET을 설정합니다. - Claude Code를 재시작한 뒤 "Modal로 GPU 추론 엔드포인트 만들어줘"처럼 요청하면 스킬이 자동 실행됩니다.
- 처음에는
modal run또는modal serve로 소규모 테스트를 하고, GPU 과금을 피하려면max_containers와timeout을 낮게 잡으세요.
GitHub에서 원본 보기 ↗라이선스: MIT