AI 관측성 (Spring AI)
Spring AI 애플리케이션의 토큰 사용량·지연시간·비용·프롬프트 감사 로그를 Micrometer와 Advisor로 계측하는 방법을 알려주는 스킬입니다.
개발·코딩고급★ 290⑂ 44AI 점수 9/10마지막 업데이트: 2026. 9. 21.
무엇을 해주나
- Spring AI 1.0+ 내장 Micrometer 계측(
gen_ai.client.operation,gen_ai.client.token.usage)을 켜는 설정과 Actuator/Prometheus 의존성을 제시합니다. - 토큰 수, 프롬프트 지연시간을 태그(operation·model·type)별로 기록하는 커스텀
MeterRegistry컴포넌트 예제를 제공합니다. - GA에서 변경된 Advisor API(
CallAroundAdvisor→CallAdvisor,AdvisedRequest→ChatClientRequest,getGenerationTokens()→getCompletionTokens())를 반영한 감사 로깅 Advisor 코드를 줍니다. - 비용 산정은 외부 설정으로 분리하고, 알 수 없는 모델은 기본값 대신 거부하도록 하는 원칙을 정리합니다.
- DB 감사 로그 엔티티와
@Async저장 시 프록시 함정, 프로덕션에서log-prompt: false로 PII를 보호하는 주의사항을 안내합니다.
이런 분께 추천
- Spring Boot 3 + Spring AI로 LLM 기능을 운영에 올리는 백엔드 개발자
- LLM 호출 비용과 토큰 사용량을 대시보드로 추적해야 하는 팀
- Claude가 옛 Spring AI 마일스톤 API 코드를 생성해 컴파일이 깨지는 문제를 겪는 분
활용 예시
- "ChatClient 호출의 P95 지연시간과 토큰 사용량을 Prometheus로 노출해줘" → Actuator 노출 설정 + 히스토그램 설정 + 커스텀 타이머 코드 생성.
- "모든 LLM 요청의 requestId, 토큰, 지연시간을 감사 로그로 남기는 Advisor 만들어줘" → GA API 기준
CallAdvisor구현체 작성. - "모델별 예상 비용을 집계하고 싶다" → 외부 설정 기반 단가 테이블 +
ai_audit_log엔티티에 원본 토큰과 추정 비용을 함께 저장하는 설계 제안.
· · · 설치 가이드 · · ·
설치 없이 지금 한 번 써보기
아래를 Claude에 붙여넣으면 설치하지 않고도 이 스킬을 그대로 씁니다.
이 파일의 지시를 읽고 그대로 따라서 나를 도와줘: https://raw.githubusercontent.com/rrezartprebreza/spring-boot-skills/HEAD/skills/spring-boot-3/ai-observability/SKILL.md 내가 원하는 것: (여기에 하고 싶은 일을 쓰세요)
Claude가 링크를 열지 못하면, 링크를 직접 열어 내용을 복사해 붙여넣으세요.
↓ 쓸 만하면 아래에서 ZIP을 받아 설치하세요. 그러면 매번 붙여넣지 않아도 알아서 작동합니다.
Claude 앱에 설치 (터미널 필요 없음)
- 아래 버튼으로 ZIP 파일을 받으세요.
- Claude 설정 → Capabilities에서 '코드 실행 및 파일 생성'을 켭니다. (한 번만)
- Claude에서 Customize → Skills → + → '스킬 업로드'를 누르고 받은 ZIP을 올립니다.
Claude Code에 설치
Claude에게 맡기기 — 아래 문장을 Claude Code에 붙여넣으세요
클로드스킬마트에서 찾은 스킬을 설치해줘. GitHub 저장소 rrezartprebreza/spring-boot-skills 의 skills/spring-boot-3/ai-observability 폴더를 내 ~/.claude/skills/ai-observability/ 에 그대로 복사해줘. 설치가 끝나면 이 스킬로 무엇을 할 수 있는지 한 줄로 알려줘.
직접 명령으로 설치하기
git clone https://github.com/rrezartprebreza/spring-boot-skills.git && mkdir -p ~/.claude/skills && cp -r spring-boot-skills/skills/spring-boot-3/ai-observability ~/.claude/skills/⚠ 제3자가 만든 스킬입니다. 설치 전 원본 저장소를 한 번 확인하세요.
- 터미널을 열고 스킬 저장소를 클론합니다:
git clone https://github.com/rrezartprebreza/spring-boot-skills.git - Claude 스킬 폴더를 만듭니다:
mkdir -p ~/.claude/skills - 이 스킬만 복사합니다:
cp -r spring-boot-skills/skills/spring-boot-3/ai-observability ~/.claude/skills/ ~/.claude/skills/ai-observability/SKILL.md파일이 있는지 확인합니다.- Claude Code를 재시작하고 Spring AI 프로젝트에서 "토큰 사용량과 지연시간 계측을 추가해줘"처럼 요청하면 스킬이 자동으로 사용됩니다.
- 일반 서비스 지표·헬스체크·OTLP 설정이 필요하면 같은 저장소의
production-observability스킬도 함께 복사하세요.
GitHub에서 원본 보기 ↗라이선스: MIT