Phân tích dữ liệu lớn với Vaex
Kỹ năng hướng dẫn dùng Vaex để xử lý, tổng hợp, trực quan hóa và huấn luyện ML trên bảng dữ liệu hàng tỷ dòng vượt quá RAM.
Dữ liệu · Phân tíchTrung cấp★ 33,030⑂ 3,248Điểm AI 9/10Cập nhật lần cuối: 9 thg 8, 2026
Làm được gì
- Hướng dẫn mở và xử lý file CSV/HDF5/Arrow/Parquet lớn hơn bộ nhớ bằng Vaex (out-of-core).
- Cung cấp mẫu code cho cột ảo, lazy evaluation (
delay=True), groupby và các phép tổng hợp nhanh. - Bao gồm trực quan hóa dữ liệu lớn (heatmap, histogram) và pipeline ML với vaex-ml, scikit-learn, XGBoost.
- Có tài liệu tham chiếu theo chủ đề: core_dataframes, data_processing, performance, visualization, machine_learning, io_operations.
- So sánh khi nào nên dùng polars, dask hay vaex để chọn công cụ đúng.
Phù hợp với ai
- Nhà phân tích/kỹ sư dữ liệu xử lý log, chuỗi thời gian tài chính, dữ liệu khoa học cỡ GB–TB trên một máy.
- Người thường gặp lỗi hết RAM khi dùng pandas.
- Kỹ sư ML cần tiền xử lý và huấn luyện trên tập dữ liệu quá lớn.
Ví dụ sử dụng
- Chuyển file CSV 50GB sang HDF5 rồi mở lại tức thời và xem thống kê bằng
describe(). - Tính mean/std/sum trên 1 tỷ dòng theo lô bằng
delay=Truevàvaex.execute(). - Vẽ
df.viz.heatmap(...)để xem phân bố hàng triệu điểm, sau đó dựng pipeline scaling → PCA → K-means với vaex-ml.
· · · Hướng dẫn cài đặt · · ·
Dùng thử ngay, không cần cài
Dán đoạn dưới vào Claude là dùng được skill này mà không cần cài đặt.
Hãy đọc hướng dẫn trong tệp này và làm theo để giúp mình: https://raw.githubusercontent.com/K-Dense-AI/scientific-agent-skills/HEAD/skills/vaex/SKILL.md Mình muốn: (viết việc bạn cần ở đây)
Nếu Claude không mở được liên kết, hãy mở liên kết và copy nội dung vào rồi dán.
↓ Thấy hữu ích thì tải ZIP bên dưới và cài. Sau đó skill tự chạy, không phải dán lại mỗi lần.
Cài vào ứng dụng Claude (không cần terminal)
- Tải tệp ZIP bằng nút bên dưới.
- Trong Claude, mở Settings → Capabilities và bật 'Code execution and file creation'. (chỉ một lần)
- Vào Customize → Skills → + → 'Upload a skill' rồi tải tệp ZIP lên.
Cài vào Claude Code
Để Claude làm — dán câu dưới đây vào Claude Code
Hãy cài skill mình tìm thấy trên Claude Skill Mart. Copy thư mục skills/vaex từ repo GitHub K-Dense-AI/scientific-agent-skills vào ~/.claude/skills/vaex/ của mình. Sau khi cài xong, cho mình biết skill này làm được gì trong một câu.
Cài bằng lệnh thủ công
git clone https://github.com/K-Dense-AI/scientific-agent-skills.git /tmp/scientific-agent-skills && mkdir -p ~/.claude/skills && cp -r /tmp/scientific-agent-skills/skills/vaex ~/.claude/skills/⚠ Đây là skill do người khác tạo. Hãy kiểm tra repo gốc trước khi cài.
- Mở terminal.
- Clone repo:
git clone https://github.com/K-Dense-AI/scientific-agent-skills.git - Tạo thư mục skill:
mkdir -p ~/.claude/skills - Copy skill:
cp -r scientific-agent-skills/skills/vaex ~/.claude/skills/ - Cài Vaex trên Python 3.10+:
uv pip install vaex(hoặcpip install vaex). - Khởi động lại Claude Code và thử yêu cầu: "phân tích file CSV rất lớn bằng vaex".
Xem mã nguồn trên GitHub ↗Giấy phép: MIT