Quan sát (Observability) cho Spring AI
Kỹ năng thêm đo lường token, chi phí, độ trễ và log kiểm toán cho các lệnh gọi LLM/Spring AI trong Spring Boot.
Lập trìnhTrung cấp★ 210⑂ 35Điểm AI 9/10Cập nhật lần cuối: 10 thg 8, 2026
Làm được gì
- Cấu hình instrumentation Micrometer có sẵn của Spring AI 1.0 GA (
gen_ai.client.token.usage,gen_ai.client.operation) cùng Actuator/Prometheus. - Cung cấp code
MeterRegistryđể tạo metric tuỳ chỉnh: timer độ trễ prompt, counter token input/output. - Mẫu
CallAdvisorđể ghi log kiểm toán prompt/response, bộ ước tính chi phí theo model, và entityai_audit_loglưu DB bất đồng bộ. - Chỉ rõ các API bị đổi tên ở bản GA (
CallAroundAdvisor→CallAdvisor,AdvisedRequest→ChatClientRequest,getGenerationTokens()→getCompletionTokens()) để tránh lỗi biên dịch.
Phù hợp với ai
- Lập trình viên backend đưa tính năng LLM bằng Spring Boot 3 + Spring AI lên production.
- Nhóm cần theo dõi lượng token và chi phí LLM hàng tháng trên dashboard.
- Tổ chức đã dùng Prometheus/Grafana để giám sát.
Ví dụ sử dụng
- "Xuất độ trễ P95 và lượng token của ChatClient sang Prometheus" → sinh cấu hình Actuator, histogram và code Timer/Counter.
- "Ghi log kiểm toán độ dài prompt và số token cho từng request" → triển khai
AiAuditAdvisorkèm lưu DB bằng@Async. - "Tạo service ước tính chi phí theo model" → sinh
AiCostEstimatordựa trên bảng giá mỗi 1M token, kèm gợi ý đưa giá ra file config.
· · · Hướng dẫn cài đặt · · ·
Dùng thử ngay, không cần cài
Dán đoạn dưới vào Claude là dùng được skill này mà không cần cài đặt.
Hãy đọc hướng dẫn trong tệp này và làm theo để giúp mình: https://raw.githubusercontent.com/rrezartprebreza/spring-boot-skills/HEAD/skills/spring-boot-3/ai-observability/SKILL.md Mình muốn: (viết việc bạn cần ở đây)
Nếu Claude không mở được liên kết, hãy mở liên kết và copy nội dung vào rồi dán.
↓ Thấy hữu ích thì tải ZIP bên dưới và cài. Sau đó skill tự chạy, không phải dán lại mỗi lần.
Cài vào ứng dụng Claude (không cần terminal)
- Tải tệp ZIP bằng nút bên dưới.
- Trong Claude, mở Settings → Capabilities và bật 'Code execution and file creation'. (chỉ một lần)
- Vào Customize → Skills → + → 'Upload a skill' rồi tải tệp ZIP lên.
Cài vào Claude Code
Để Claude làm — dán câu dưới đây vào Claude Code
Hãy cài skill mình tìm thấy trên Claude Skill Mart. Copy thư mục skills/spring-boot-3/ai-observability từ repo GitHub rrezartprebreza/spring-boot-skills vào ~/.claude/skills/ai-observability/ của mình. Sau khi cài xong, cho mình biết skill này làm được gì trong một câu.
Cài bằng lệnh thủ công
git clone https://github.com/rrezartprebreza/spring-boot-skills.git && mkdir -p ~/.claude/skills && cp -r spring-boot-skills/skills/spring-boot-3/ai-observability ~/.claude/skills/⚠ Đây là skill do người khác tạo. Hãy kiểm tra repo gốc trước khi cài.
- Mở terminal và chuyển tới thư mục làm việc bạn muốn.
- Tải repo:
git clone https://github.com/rrezartprebreza/spring-boot-skills.git - Tạo thư mục skills nếu chưa có:
mkdir -p ~/.claude/skills - Copy đúng kỹ năng này:
cp -r spring-boot-skills/skills/spring-boot-3/ai-observability ~/.claude/skills/ - Chạy
claudetrong thư mục dự án và yêu cầu ví dụ "thêm monitoring chi phí token cho Spring AI" để kỹ năng tự kích hoạt. - Kiểm tra dự án đã có dependency
spring-boot-starter-actuatorvàmicrometer-registry-prometheus.
Xem mã nguồn trên GitHub ↗Giấy phép: MIT