데이터셋 큐레이션 방법론
데이터셋의 분포·편향·공정성을 점검하고 층화 분할과 확장 계획, 윤리 검토까지 단계별로 안내하는 스킬.
데이터·분석중급★ 446⑂ 38AI 점수 6/10마지막 업데이트: 2026. 11. 1.
무엇을 해주나
- 분포 분석: 클래스별 개수, 불균형 비율(max/min), 극소수 클래스(최대 클래스의 5% 미만) 탐지, 동시출현(co-occurrence) 행렬 작성
- 편향 진단: 허위 상관(예: 특정 라벨이 항상 특정 속성과 함께 등장) 식별, 인구통계 패리티·균등 기회(equalized odds)·대표성 비율 등 공정성 지표 점검
- 층화 분할 설계: 라벨 1차 층화 + 출처 2차 층화(소스 누수 방지), 카이제곱 검정으로 분할 간 분포 유사성 검증, 데이터 규모별 권장 비율 제시
- 품질 평가: Cohen's kappa, Fleiss' kappa, Krippendorff's alpha 등 어노테이터 일치도와 라벨 노이즈 추정
- 확장·윤리: 우선 수집 클래스, 수집 전략(액티브 러닝/합성 증강), 동의·프라이버시·라이선스·오용 가능성 체크리스트
이런 분께 추천
- 학습 데이터셋을 직접 만들거나 정제하는 ML 엔지니어·연구자
- 모델 공정성 리포트나 데이터 카드(datasheet)를 작성해야 하는 분
- 논문·공개 데이터셋 배포 전 윤리 검토가 필요한 분
활용 예시
- "우리 라벨 데이터의 클래스 불균형을 분석해줘" → 클래스별 개수 표, 불균형 비율, 과소대표 클래스 목록을 리포트로 산출
- "출처 누수 없이 train/val/test를 나눠줘" → 라벨+출처 이중 층화 전략과 분할 검증(카이제곱, 소스 중복 0) 결과 제안
- "데이터셋 공개 전 윤리 검토를 해줘" → 민감 콘텐츠·동의·익명화·라이선스 항목별 체크리스트와 메모 작성
· · · 설치 가이드 · · ·
설치 없이 지금 한 번 써보기
아래를 Claude에 붙여넣으면 설치하지 않고도 이 스킬을 그대로 씁니다.
이 파일의 지시를 읽고 그대로 따라서 나를 도와줘: https://raw.githubusercontent.com/fcakyon/labrat/HEAD/plugin/skills/dataset-curation/SKILL.md 내가 원하는 것: (여기에 하고 싶은 일을 쓰세요)
Claude가 링크를 열지 못하면, 링크를 직접 열어 내용을 복사해 붙여넣으세요.
↓ 쓸 만하면 아래에서 ZIP을 받아 설치하세요. 그러면 매번 붙여넣지 않아도 알아서 작동합니다.
Claude 앱에 설치 (터미널 필요 없음)
- 아래 버튼으로 ZIP 파일을 받으세요.
- Claude 설정 → Capabilities에서 '코드 실행 및 파일 생성'을 켭니다. (한 번만)
- Claude에서 Customize → Skills → + → '스킬 업로드'를 누르고 받은 ZIP을 올립니다.
Claude Code에 설치
Claude에게 맡기기 — 아래 문장을 Claude Code에 붙여넣으세요
AI 스킬마트에서 찾은 스킬을 설치해줘. GitHub 저장소 fcakyon/labrat 의 plugin/skills/dataset-curation 폴더를 내 ~/.claude/skills/fcakyon-dataset-curation/ 에 그대로 복사해줘. 설치가 끝나면 이 스킬로 무엇을 할 수 있는지 한 줄로 알려줘.
직접 명령으로 설치하기
git clone https://github.com/fcakyon/labrat.git && mkdir -p ~/.claude/skills && cp -r labrat/plugin/skills/dataset-curation ~/.claude/skills/⚠ 제3자가 만든 스킬입니다. 설치 전 원본 저장소를 한 번 확인하세요.
- 터미널을 엽니다.
- 스킬 폴더를 만듭니다:
mkdir -p ~/.claude/skills - 저장소를 내려받습니다:
git clone https://github.com/fcakyon/labrat.git - 스킬만 복사합니다:
cp -r labrat/plugin/skills/dataset-curation ~/.claude/skills/ - Claude Code를 다시 시작한 뒤 "데이터셋 편향 분석해줘", "층화 샘플링으로 나눠줘" 같이 말하면 스킬이 발동합니다.
- 실제 수치 계산에는 pandas·scikit-learn 등이 필요할 수 있으니 분석 환경에 미리 설치해 두세요.
GitHub에서 원본 보기 ↗라이선스: MIT