Claude Skill MartKhám phá skillCâu dùng ngayHọc qua videoDùng terminalSkill là gì?
 
← Về danh sách

Kiến trúc Mamba (Selective State Space Model)

Hướng dẫn thực hành cài đặt, chạy và benchmark Mamba-1/Mamba-2 với độ phức tạp tuyến tính O(n).

Lập trìnhNâng cao★ 11,926⑂ 867Điểm AI 8/10Cập nhật lần cuối: 16 thg 6, 2026

Làm được gì

Giúp bạn triển khai Mamba, kiến trúc state space model có độ phức tạp O(n) thay cho attention O(n²) của Transformer.

  • Cách cài mamba-ssm, causal-conv1d và điều kiện tiên quyết (Linux, GPU NVIDIA, CUDA 11.6+)
  • Code tạo Mamba block và mô hình ngôn ngữ MambaLMHeadModel kèm sinh văn bản
  • Tải model pretrained từ HuggingFace (state-spaces/mamba-130m đến mamba-2.8b)
  • So sánh Mamba-1 (d_state=16) và Mamba-2 (d_state=128, multi-head, RMSNorm, tensor parallel)
  • Lệnh benchmark tốc độ sinh so với Transformer (Pythia) và bảng VRAM theo kích thước model
  • Xử lý lỗi thường gặp: OOM, cài đặt chậm, lỗi tải model từ HuggingFace

Phù hợp với ai

  • Kỹ sư ML cần xử lý ngữ cảnh dài (100K+ token) hoặc inference dạng streaming
  • Người vận hành LLM muốn giảm bộ nhớ do KV cache
  • Nhà nghiên cứu đang so sánh các kiến trúc thay thế Transformer (RWKV, RetNet, Hyena)

Ví dụ sử dụng

  1. "Tải mamba-2.8b lên GPU và sinh văn bản từ prompt này" → cung cấp code load pretrained + generate
  2. "Chuyển block hiện tại sang Mamba-2" → giải thích tham số headdim, ngroups và khác biệt với Mamba-1
  3. "Đo xem Mamba có nhanh hơn Pythia không" → đưa lệnh script benchmark cùng cấu hình

· · · Hướng dẫn cài đặt · · ·

Dùng thử ngay, không cần cài

Dán đoạn dưới vào Claude là dùng được skill này mà không cần cài đặt.

Hãy đọc hướng dẫn trong tệp này và làm theo để giúp mình:
https://raw.githubusercontent.com/Orchestra-Research/AI-Research-SKILLs/HEAD/01-model-architecture/mamba/SKILL.md

Mình muốn: (viết việc bạn cần ở đây)

Nếu Claude không mở được liên kết, hãy mở liên kết và copy nội dung vào rồi dán.

↓ Thấy hữu ích thì tải ZIP bên dưới và cài. Sau đó skill tự chạy, không phải dán lại mỗi lần.

Cài vào ứng dụng Claude (không cần terminal)
  1. Tải tệp ZIP bằng nút bên dưới.
  2. Trong Claude, mở Settings → Capabilities và bật 'Code execution and file creation'. (chỉ một lần)
  3. Vào Customize → Skills → + → 'Upload a skill' rồi tải tệp ZIP lên.
↓ Tải ZIP
Cài vào Claude Code

Để Claude làm — dán câu dưới đây vào Claude Code

Hãy cài skill mình tìm thấy trên Claude Skill Mart.
Copy thư mục 01-model-architecture/mamba từ repo GitHub Orchestra-Research/AI-Research-SKILLs vào ~/.claude/skills/mamba-architecture/ của mình.
Sau khi cài xong, cho mình biết skill này làm được gì trong một câu.

Cài bằng lệnh thủ công

git clone https://github.com/Orchestra-Research/AI-Research-SKILLs.git /tmp/ai-research-skills && mkdir -p ~/.claude/skills/mamba-architecture && cp -r /tmp/ai-research-skills/01-model-architecture/mamba/* ~/.claude/skills/mamba-architecture/

⚠ Đây là skill do người khác tạo. Hãy kiểm tra repo gốc trước khi cài.

  1. Mở terminal (nên dùng Linux có GPU NVIDIA).
  2. Clone repo skill: git clone https://github.com/Orchestra-Research/AI-Research-SKILLs.git
  3. Tạo thư mục skill: mkdir -p ~/.claude/skills/mamba-architecture
  4. Copy nội dung: cp -r AI-Research-SKILLs/01-model-architecture/mamba/* ~/.claude/skills/mamba-architecture/
  5. Khởi động lại Claude Code và thử yêu cầu "dùng Mamba cho ngữ cảnh dài" để kiểm tra skill được kích hoạt.
  6. Trước khi chạy code thật, cài package: pip install causal-conv1d>=1.4.0 && pip install mamba-ssm --no-build-isolation
  7. Kiểm tra CUDA 11.6+ / PyTorch 1.12+ và dung lượng VRAM (bản 2.8B cần khoảng 28GB).
Xem mã nguồn trên GitHub ↗Giấy phép: MIT