A/B 테스트 결과 리포트
끝난 A/B 테스트 결과를 받아 통계적·실질적 유의성을 따지고 배포/보류 결론까지 담은 리포트를 작성해주는 스킬.
데이터·분석중급★ 1,435⑂ 255AI 점수 8/10마지막 업데이트: 2026. 10. 10.
무엇을 해주나
- 대조군 vs 실험군 수치를 표로 정리하고 상대 리프트, p값/신뢰구간을 함께 제시합니다.
- 통계적 유의성과 실질적 유의성(비용 대비 의미 있는 크기인가)을 분리해 판단합니다.
- 결과를 왜곡하는 요인(표본/검정력 부족, 조기 종료=피킹, 노벨티 효과, 특정 세그먼트에만 몰린 승리)을 체크합니다.
- 가드레일 지표(매출, 리텐션, 지연, 불만) 악화 여부를 반드시 확인합니다.
- 한 줄 평결(Ship / Don't ship / Inconclusive)과 후속 조치·모니터링 항목을 제안합니다.
이런 분께 추천
- 실험 결과를 가지고 배포 여부를 결정해야 하는 프로덕트 매니저
- 그로스/CRO 담당자, 마케팅 실험 운영자
- 데이터 분석가의 리포트 포맷을 표준화하고 싶은 팀
활용 예시
- "결제 버튼 문구 실험 결과야. 대조군 전환 4.2%(n=12,000), 실험군 4.6%(n=11,800), 14일 집행. 리드아웃 써줘." → 리프트·유의성 추정, 검정력 평가, 배포 권고까지 정리.
- "주요 지표는 올랐는데 환불률이 같이 올랐어. 배포해도 될까?" → 가드레일 악화를 명시하고 보류/재실험 근거 제시.
- "5일 만에 유의하게 나와서 바로 끝냈어" → 피킹으로 인한 거짓양성 위험을 경고하고 재실행 기준 제안.
· · · 설치 가이드 · · ·
설치 없이 지금 한 번 써보기
아래를 Claude에 붙여넣으면 설치하지 않고도 이 스킬을 그대로 씁니다.
이 파일의 지시를 읽고 그대로 따라서 나를 도와줘: https://raw.githubusercontent.com/mohitagw15856/pm-claude-skills/HEAD/exports/openclaw/ab-test-readout/SKILL.md 내가 원하는 것: (여기에 하고 싶은 일을 쓰세요)
Claude가 링크를 열지 못하면, 링크를 직접 열어 내용을 복사해 붙여넣으세요.
↓ 쓸 만하면 아래에서 ZIP을 받아 설치하세요. 그러면 매번 붙여넣지 않아도 알아서 작동합니다.
Claude 앱에 설치 (터미널 필요 없음)
- 아래 버튼으로 ZIP 파일을 받으세요.
- Claude 설정 → Capabilities에서 '코드 실행 및 파일 생성'을 켭니다. (한 번만)
- Claude에서 Customize → Skills → + → '스킬 업로드'를 누르고 받은 ZIP을 올립니다.
Claude Code에 설치
Claude에게 맡기기 — 아래 문장을 Claude Code에 붙여넣으세요
클로드스킬마트에서 찾은 스킬을 설치해줘. GitHub 저장소 mohitagw15856/pm-claude-skills 의 exports/openclaw/ab-test-readout 폴더를 내 ~/.claude/skills/ab-test-readout/ 에 그대로 복사해줘. 설치가 끝나면 이 스킬로 무엇을 할 수 있는지 한 줄로 알려줘.
직접 명령으로 설치하기
git clone https://github.com/mohitagw15856/pm-claude-skills.git && mkdir -p ~/.claude/skills/ab-test-readout && cp -r pm-claude-skills/exports/openclaw/ab-test-readout/* ~/.claude/skills/ab-test-readout/⚠ 제3자가 만든 스킬입니다. 설치 전 원본 저장소를 한 번 확인하세요.
- 터미널(명령 프롬프트)을 엽니다.
- 저장소를 내려받습니다:
git clone https://github.com/mohitagw15856/pm-claude-skills.git - 스킬 폴더를 만듭니다:
mkdir -p ~/.claude/skills/ab-test-readout - 파일을 복사합니다:
cp -r pm-claude-skills/exports/openclaw/ab-test-readout/* ~/.claude/skills/ab-test-readout/ - Claude Code를 다시 실행한 뒤 "A/B 테스트 리드아웃 써줘"처럼 요청하면 스킬이 자동 발동합니다.
- 더 정확한 결론을 위해 각 군의 전환수·표본수·기간·가드레일 지표를 함께 넘겨주세요.
GitHub에서 원본 보기 ↗라이선스: MIT