Trợ lý triển khai GPU serverless với Modal
Kỹ năng giúp viết và triển khai mã Python lên Modal — nền tảng serverless có GPU theo yêu cầu cho tác vụ AI/ML.
Lập trìnhTrung cấp★ 33,030⑂ 3,248Điểm AI 9/10Cập nhật lần cuối: 9 thg 8, 2026
Làm được gì
Hướng dẫn Claude dùng đúng cú pháp Modal SDK (bản >=1.0) để sinh mã và triển khai:
- Hàm/lớp chạy từ xa với
@app.function(),@app.cls()và các hook@modal.enter() - Yêu cầu GPU dạng chuỗi:
gpu="H100",gpu="H100:4", danh sách dự phòng - Dựng container image bằng
uv_pip_install,apt_install, tải sẵn trọng số khi build - Volume lưu trữ bền vững, Secret, endpoint FastAPI, lịch chạy Cron
- Tự động mở rộng,
@modal.concurrent, xử lý song song bằng.map() modal.Sandboxđể chạy mã không tin cậy kèm giới hạn mạng CIDR
Phù hợp với ai
- Kỹ sư ML muốn phục vụ mô hình LLM/hình ảnh mà không quản lý máy chủ GPU
- Nhà nghiên cứu cần chạy fine-tuning hoặc suy luận theo lịch
- Kỹ sư dữ liệu muốn mở rộng pipeline Python theo lô lên đám mây
Ví dụ sử dụng
- "Triển khai Llama 3 70B bằng vLLM trên H100, mở endpoint POST" → sinh mã
@app.cls+fastapi_endpoint - "Tạo job ETL chạy mỗi 6 giờ, lấy khóa DB từ Secret" →
modal.Cron+modal.Secret - "Xử lý song song 100 file parquet và ghi kết quả vào Volume" →
.map()+modal.Volume
· · · Hướng dẫn cài đặt · · ·
Dùng thử ngay, không cần cài
Dán đoạn dưới vào Claude là dùng được skill này mà không cần cài đặt.
Hãy đọc hướng dẫn trong tệp này và làm theo để giúp mình: https://raw.githubusercontent.com/K-Dense-AI/scientific-agent-skills/HEAD/skills/modal/SKILL.md Mình muốn: (viết việc bạn cần ở đây)
Nếu Claude không mở được liên kết, hãy mở liên kết và copy nội dung vào rồi dán.
↓ Thấy hữu ích thì tải ZIP bên dưới và cài. Sau đó skill tự chạy, không phải dán lại mỗi lần.
Cài vào ứng dụng Claude (không cần terminal)
- Tải tệp ZIP bằng nút bên dưới.
- Trong Claude, mở Settings → Capabilities và bật 'Code execution and file creation'. (chỉ một lần)
- Vào Customize → Skills → + → 'Upload a skill' rồi tải tệp ZIP lên.
Cài vào Claude Code
Để Claude làm — dán câu dưới đây vào Claude Code
Hãy cài skill mình tìm thấy trên Claude Skill Mart. Copy thư mục skills/modal từ repo GitHub K-Dense-AI/scientific-agent-skills vào ~/.claude/skills/modal/ của mình. Sau khi cài xong, cho mình biết skill này làm được gì trong một câu.
Cài bằng lệnh thủ công
git clone https://github.com/K-Dense-AI/scientific-agent-skills.git /tmp/sas && mkdir -p ~/.claude/skills && cp -r /tmp/sas/skills/modal ~/.claude/skills/⚠ Đây là skill do người khác tạo. Hãy kiểm tra repo gốc trước khi cài.
- Mở terminal và tải kho mã:
git clone https://github.com/K-Dense-AI/scientific-agent-skills.git - Tạo thư mục kỹ năng:
mkdir -p ~/.claude/skills - Sao chép kỹ năng modal:
cp -r scientific-agent-skills/skills/modal ~/.claude/skills/ - Cài SDK:
pip install modal(hoặcuv pip install modal, cần Python 3.10–3.14) - Lấy token tại https://modal.com/settings rồi chạy
modal setup, hoặc đặt biếnMODAL_TOKEN_IDvàMODAL_TOKEN_SECRET - Khởi động lại Claude Code và thử yêu cầu: "Dùng Modal tạo dịch vụ suy luận GPU giúp tôi".
Xem mã nguồn trên GitHub ↗Giấy phép: MIT