PufferLib 강화학습 가이드
PufferLib 3.0.0과 4.0 소스 라인을 버전별로 구분해 환경 래핑·벡터화·PuffeRL 학습·체크포인트 검증까지 안전하게 안내하는 스킬.
개발·코딩고급★ 33,030⑂ 3,248AI 점수 8/10마지막 업데이트: 2026. 8. 9.
무엇을 해주나
- PufferLib의 두 갈래(PyPI 안정판
3.0.0vs 업스트림4.0소스)를 명시적으로 구분해, API를 섞어 쓰다 생기는 오류를 막아줍니다. - Gymnasium/PettingZoo 환경을
GymnasiumPufferEnv·PettingZooPufferEnv로 감싸는 정석 절차와 계약(reset/step 반환값, terminated vs truncated) 검증 방법을 제시합니다. - 동봉된 의존성 없는 CLI 스크립트로 환경 계약 검사, 벡터화 벤치마크, 학습 계획 생성(실제 실행 대신 dry-run), 재현 계획, 체크포인트 해시 점검을 수행합니다.
- W&B/Neptune 같은 외부 로깅과 신뢰할 수 없는 체크포인트 로딩에 대한 보안 수칙(자격증명 노출 금지,
torch.load위험성, 해시 선검증)을 강제합니다.
이런 분께 추천
- PufferLib으로 강화학습 실험을 돌리거나, 3.0에서 4.0으로 마이그레이션을 검토 중인 연구자·엔지니어
- 커스텀 Gym/PettingZoo 환경을 고성능 벡터화 파이프라인에 올려야 하는 분
- 외부에서 받은 환경 패키지나 체크포인트를 팀 규정에 맞게 안전하게 검증해야 하는 분
활용 예시
- "내 Gymnasium 환경이 PufferLib에서 제대로 도나?" →
python3 scripts/env_contract_validator.py --steps 64 --episodes 8 --seed 42로 공간·dtype·시드·리셋 규칙을 점검. - "CPU에서 1만 스텝 학습 계획만 뽑아줘" →
scripts/train_template.py --profile pypi-3.0.0 --device cpu --total-timesteps 10000으로 실행 없이 계획 JSON 생성 후validate_plan.py로 자원·보안 검증. - "받은 checkpoint.pt를 로드해도 되나?" →
scripts/inspect_checkpoint.py checkpoint.pt --expected-sha256 ...로 역직렬화 없이 해시·형식만 확인 후 샌드박스 로딩 판단.
· · · 설치 가이드 · · ·
설치 없이 지금 한 번 써보기
아래를 Claude에 붙여넣으면 설치하지 않고도 이 스킬을 그대로 씁니다.
이 파일의 지시를 읽고 그대로 따라서 나를 도와줘: https://raw.githubusercontent.com/K-Dense-AI/scientific-agent-skills/HEAD/skills/pufferlib/SKILL.md 내가 원하는 것: (여기에 하고 싶은 일을 쓰세요)
Claude가 링크를 열지 못하면, 링크를 직접 열어 내용을 복사해 붙여넣으세요.
↓ 쓸 만하면 아래에서 ZIP을 받아 설치하세요. 그러면 매번 붙여넣지 않아도 알아서 작동합니다.
Claude 앱에 설치 (터미널 필요 없음)
- 아래 버튼으로 ZIP 파일을 받으세요.
- Claude 설정 → Capabilities에서 '코드 실행 및 파일 생성'을 켭니다. (한 번만)
- Claude에서 Customize → Skills → + → '스킬 업로드'를 누르고 받은 ZIP을 올립니다.
Claude Code에 설치
Claude에게 맡기기 — 아래 문장을 Claude Code에 붙여넣으세요
클로드스킬마트에서 찾은 스킬을 설치해줘. GitHub 저장소 K-Dense-AI/scientific-agent-skills 의 skills/pufferlib 폴더를 내 ~/.claude/skills/pufferlib/ 에 그대로 복사해줘. 설치가 끝나면 이 스킬로 무엇을 할 수 있는지 한 줄로 알려줘.
직접 명령으로 설치하기
git clone https://github.com/K-Dense-AI/scientific-agent-skills.git && mkdir -p ~/.claude/skills && cp -r scientific-agent-skills/skills/pufferlib ~/.claude/skills/⚠ 제3자가 만든 스킬입니다. 설치 전 원본 저장소를 한 번 확인하세요.
- 터미널을 열고 스킬을 둘 작업 폴더로 이동합니다.
- 저장소를 복제합니다:
git clone https://github.com/K-Dense-AI/scientific-agent-skills.git - 스킬 디렉터리를 만듭니다:
mkdir -p ~/.claude/skills - 이 스킬만 복사합니다:
cp -r scientific-agent-skills/skills/pufferlib ~/.claude/skills/ - Python 3.10 이상이 설치되어 있는지 확인합니다:
python3 --version - Claude Code를 다시 시작한 뒤 "PufferLib 환경 계약을 검증해줘"처럼 요청하면 스킬이 발동합니다.
- 동봉 스크립트는 표준 라이브러리만 쓰므로 별도 설치 없이
python3 ~/.claude/skills/pufferlib/scripts/env_template.py --help로 바로 확인할 수 있습니다.
GitHub에서 원본 보기 ↗라이선스: MIT