Dask - Tính toán phân tán
Skill hướng dẫn Claude dùng Dask để xử lý song song và phân tán các tác vụ pandas/NumPy vượt quá dung lượng RAM.
Dữ liệu · Phân tíchTrung cấp★ 33,030⑂ 3,248Điểm AI 8/10Cập nhật lần cuối: 9 thg 8, 2026
Skill này làm gì
Đây là skill tham chiếu giúp Claude sử dụng Dask đúng cách khi dữ liệu lớn hơn bộ nhớ.
- DataFrame: đọc nhiều file CSV/Parquet như một bảng duy nhất, chạy groupby/join/aggregate song song
- Array: chia mảng NumPy thành chunk để xử lý dữ liệu vượt RAM (tích hợp HDF5, Zarr, XArray)
- Bag: làm sạch dữ liệu phi cấu trúc (log, JSON) theo kiểu streaming rồi chuyển sang DataFrame
- Futures: xây dựng luồng song song động với
client.submitvàscatter - Scheduler: chọn backend phù hợp giữa threads / processes / synchronous / distributed
Skill còn kèm các quy tắc thực chiến: chunk khoảng 100MB, tránh gọi compute() lặp lại, không load bằng pandas rồi mới from_pandas, cùng quy trình debug từng bước.
Phù hợp với ai
- Nhà phân tích dữ liệu bị lỗi MemoryError khi chạy pandas
- Kỹ sư dữ liệu cần xử lý hàng trăm file cùng lúc
- Nhà nghiên cứu ML/khoa học muốn mở rộng pipeline từ laptop lên cluster
- Người đã nghe về Dask nhưng chưa biết chọn component nào
Ví dụ sử dụng
- "Tổng hợp 300 file data/2024-*.csv theo category" → gợi ý
dd.read_csvvới glob vàgroupby().mean().compute() - "Pipeline của tôi cứ tràn bộ nhớ" → chẩn đoán kích thước chunk, thời điểm dùng
persist(), cách thu nhỏ task graph - "Chạy mô phỏng với hàng nghìn bộ tham số" → dựng parameter sweep bằng
Client+scatter+submit
· · · Hướng dẫn cài đặt · · ·
Cài vào ứng dụng Claude (không cần terminal)
- Tải tệp ZIP bằng nút bên dưới.
- Trong Claude, mở Settings → Capabilities và bật 'Code execution and file creation'. (chỉ một lần)
- Vào Customize → Skills → + → 'Upload a skill' rồi tải tệp ZIP lên.
Cài vào Claude Code
Để Claude làm — dán câu dưới đây vào Claude Code
Hãy cài skill mình tìm thấy trên Claude Skill Mart. Copy thư mục skills/dask từ repo GitHub K-Dense-AI/scientific-agent-skills vào ~/.claude/skills/dask/ của mình. Sau khi cài xong, cho mình biết skill này làm được gì trong một câu.
Cài bằng lệnh thủ công
git clone https://github.com/K-Dense-AI/scientific-agent-skills.git && mkdir -p ~/.claude/skills && cp -r scientific-agent-skills/skills/dask ~/.claude/skills/⚠ Đây là skill do người khác tạo. Hãy kiểm tra repo gốc trước khi cài.
- Mở terminal.
- Tải kho skill:
git clone https://github.com/K-Dense-AI/scientific-agent-skills.git - Tạo thư mục skill:
mkdir -p ~/.claude/skills - Sao chép toàn bộ thư mục dask (quan trọng: phải có cả folder references/):
cp -r scientific-agent-skills/skills/dask ~/.claude/skills/ - Cài Dask trong môi trường Python:
pip install "dask[complete]"(thêmpip install s3fsnếu dùng S3) - Khởi động lại Claude Code, sau đó yêu cầu ví dụ "xử lý file CSV lớn hơn RAM bằng dask" để kích hoạt skill.
Xem mã nguồn trên GitHub ↗Giấy phép: MIT