SHAP 모델 해석 스킬

무엇을 해주나

머신러닝 모델의 예측을 SHAP으로 설명할 때 흔히 틀리는 지점을 정리해 잡아주는 스킬입니다.

• 모델 종류(트리, 선형, 신경망, 임의 콜러블)에 맞는 익스플레이너와 마스커 선택 결정표 제공
• 최신 shap.Explanation API 기준 코드 패턴, 다중 출력(다중 클래스) 슬라이싱 규칙(exp[..., 1])
• base_values + values.sum() 이 실제 모델 출력과 일치하는지 확인하는 가법성 검증 절차
• 확률/로그오즈/로그로스 등 설명 대상 출력 공간을 명시하도록 강제
• 분석 질문별 시각화 매핑(bar, beeswarm, waterfall, scatter, heatmap, text/image)
• 오류 진단 순서, 리포트에 반드시 포함할 한계 항목(비인과성 명시 등)
• 신뢰할 수 없는 pickle/joblib 모델 로드 금지 등 안전 규칙

이런 분께 추천

• 모델 해석 결과를 보고서·심사·규제 문서에 제출해야 하는 데이터 사이언티스트
• 다중 클래스 분류에서 SHAP 배열 shape 때문에 매번 헤매는 분
• 트리 모델의 확률 공간 설명, interventional vs tree-path-dependent 차이를 정확히 다루고 싶은 분
• 텍스트/이미지 모델에 SHAP을 적용하려는 NLP·비전 엔지니어

활용 예시

1. "RandomForest 이진 분류기의 테스트셋 SHAP 값을 계산하고, 양성 클래스만 골라 beeswarm과 개별 waterfall을 그려줘. 가법성 검증도 포함해서."
2. "XGBoost 모델을 확률 공간에서 설명하고 싶은데 배경 데이터와 feature_perturbation 설정을 어떻게 해야 하는지 알려줘."
3. "다중 클래스 모델의 SHAP 결과를 코호트별로 비교하고, 공정성 판단으로 오해되지 않도록 한계 문단까지 같이 작성해줘."

클로드스킬마트에서 찾은 스킬을 설치해줘.
GitHub 저장소 K-Dense-AI/scientific-agent-skills 의 skills/shap 폴더를 내 ~/.claude/skills/shap/ 에 그대로 복사해줘.
설치가 끝나면 이 스킬로 무엇을 할 수 있는지 한 줄로 알려줘.