Trợ lý cấu hình đánh giá LLM bằng Promptfoo
Kỹ năng hướng dẫn thiết lập và chạy đánh giá prompt, so sánh mô hình bằng framework Promptfoo.
Lập trìnhTrung cấp★ 1,323⑂ 212Điểm AI 8/10Cập nhật lần cuối: 8 thg 8, 2026
Kỹ năng này làm gì
- Tạo khung
promptfooconfig.yamlsẵn dùng: prompts, providers, tests, defaultTest, outputPath. - Hướng dẫn viết assertion Python tùy chỉnh (
get_assert, hàm đặt tên), dùngllm-rubriccho LLM-as-judge và các loại assertioncontains/regex/latency. - Trình bày mẫu few-shot dạng chat.json nhiều lượt và cách dùng echo provider để xem trước prompt đã render mà không tốn token.
- Chỉ ra các lỗi thường gặp:
apiBaseUrlphải nằm trongproviders[].config,maxConcurrencyphải nằm dướicommandLineOptions, và lỗi 401 của grader khi dùng relay.
Phù hợp với ai
- Lập trình viên ứng dụng AI muốn kiểm thử hồi quy chất lượng prompt thay vì đánh giá cảm tính.
- Người cần so sánh Claude, GPT... trên cùng một tập test.
- Người gọi API LLM qua relay/proxy nội bộ và đang gặp khó khi cấu hình promptfoo.
Ví dụ sử dụng
- "Tạo dự án promptfoo để đánh giá prompt tóm tắt" → sinh config, tests/cases.yaml, scripts/metrics.py.
- "Viết assertion Python đạt khi tỷ lệ rút gọn 70–90%" → hàm
check_lengthloại bỏ HTML rồi tính tỷ lệ. - "llm-rubric báo lỗi 401 khi dùng relay" → chỉ ra phải khai báo
provider.config.apiBaseUrlriêng cho từng rubric.
· · · Hướng dẫn cài đặt · · ·
Dùng thử ngay, không cần cài
Dán đoạn dưới vào Claude là dùng được skill này mà không cần cài đặt.
Hãy đọc hướng dẫn trong tệp này và làm theo để giúp mình: https://raw.githubusercontent.com/daymade/claude-code-skills/HEAD/promptfoo-evaluation/SKILL.md Mình muốn: (viết việc bạn cần ở đây)
Nếu Claude không mở được liên kết, hãy mở liên kết và copy nội dung vào rồi dán.
↓ Thấy hữu ích thì tải ZIP bên dưới và cài. Sau đó skill tự chạy, không phải dán lại mỗi lần.
Cài vào ứng dụng Claude (không cần terminal)
- Tải tệp ZIP bằng nút bên dưới.
- Trong Claude, mở Settings → Capabilities và bật 'Code execution and file creation'. (chỉ một lần)
- Vào Customize → Skills → + → 'Upload a skill' rồi tải tệp ZIP lên.
Cài vào Claude Code
Để Claude làm — dán câu dưới đây vào Claude Code
Hãy cài skill mình tìm thấy trên Claude Skill Mart. Copy thư mục promptfoo-evaluation từ repo GitHub daymade/claude-code-skills vào ~/.claude/skills/promptfoo-evaluation/ của mình. Sau khi cài xong, cho mình biết skill này làm được gì trong một câu.
Cài bằng lệnh thủ công
git clone https://github.com/daymade/claude-code-skills.git && mkdir -p ~/.claude/skills && cp -r claude-code-skills/promptfoo-evaluation ~/.claude/skills/⚠ Đây là skill do người khác tạo. Hãy kiểm tra repo gốc trước khi cài.
- Mở terminal và vào thư mục làm việc.
- Tải mã nguồn:
git clone https://github.com/daymade/claude-code-skills.git - Tạo thư mục kỹ năng:
mkdir -p ~/.claude/skills - Sao chép kỹ năng:
cp -r claude-code-skills/promptfoo-evaluation ~/.claude/skills/ - Kiểm tra đã có Node.js (npx) và Python3; nếu cần đặt
export PROMPTFOO_PYTHON=python3. - Khai báo API key vào biến môi trường (
ANTHROPIC_API_KEY,OPENAI_API_KEY...). - Khởi động lại Claude Code và yêu cầu ví dụ: "thiết lập đánh giá promptfoo cho prompt của tôi".
Xem mã nguồn trên GitHub ↗Giấy phép: MIT