Phương pháp tuyển chọn tập dữ liệu

Làm được gì

Hướng dẫn quy trình 6 bước để xây dựng và làm sạch tập dữ liệu machine learning.

• Phân tích phân phối: đếm mẫu theo lớp, tính tỷ lệ mất cân bằng (max/min), phát hiện lớp hiếm (<5% lớp lớn nhất), lập ma trận đồng xuất hiện nhãn
• Đánh giá thiên lệch: ba câu hỏi — phản ánh thực tế? có gây hại? có sửa được? — cùng các chỉ số công bằng như demographic parity, equalized odds
• Chia tách phân tầng: phân tầng chính theo nhãn + phân tầng phụ theo nguồn để tránh rò rỉ nguồn, kiểm định chi-squared, tỷ lệ chia gợi ý theo kích thước dữ liệu (lớn 80/10/10, nhỏ dùng k-fold)
• Đánh giá chất lượng: độ đồng thuận giữa người gán nhãn qua Cohen's/Fleiss' kappa, Krippendorff's alpha, ước lượng nhiễu nhãn
• Kế hoạch mở rộng: lớp ưu tiên, chiến lược thu thập (active learning, scraping có mục tiêu, tăng cường tổng hợp), ước tính chi phí
• Checklist đạo đức: độ nhạy nội dung, sự đồng thuận, quyền riêng tư, giấy phép, nguy cơ lạm dụng, data card

Khuyến nghị cho ai

• Nghiên cứu sinh, nhà nghiên cứu đang xây dựng hoặc công bố tập dữ liệu cho bài báo
• Kỹ sư ML gặp vấn đề mô hình hoạt động kém với một số nhóm do dữ liệu thiên lệch
• Đội dữ liệu cần báo cáo định lượng về chất lượng gán nhãn

Ví dụ sử dụng

1. "Phân tích mất cân bằng lớp của tập dữ liệu ảnh này" → nhận báo cáo số lượng theo lớp, tỷ lệ mất cân bằng, danh sách lớp hiếm và tương quan giả.
2. "Chia train/val/test, không để cùng một bộ phim xuất hiện ở nhiều tập" → nhận chiến lược phân tầng kép theo nhãn + nguồn kèm kiểm định chi-squared.
3. "Tôi muốn kiểm tra đạo đức trước khi công bố dữ liệu" → nhận checklist đã điền về đồng thuận, quyền riêng tư, giấy phép và hướng viết data card.

Hãy đọc hướng dẫn trong tệp này và làm theo để giúp mình:
https://raw.githubusercontent.com/fcakyon/phd-skills/HEAD/plugin/skills/dataset-curation/SKILL.md

Mình muốn: (viết việc bạn cần ở đây)

Hãy cài skill mình tìm thấy trên Claude Skill Mart.
Copy thư mục plugin/skills/dataset-curation từ repo GitHub fcakyon/phd-skills vào ~/.claude/skills/dataset-curation/ của mình.
Sau khi cài xong, cho mình biết skill này làm được gì trong một câu.