Giới thiệu
LLM như GPT-4 hay Claude được huấn luyện với dữ liệu cố định tính đến một mốc thời gian nhất định. Điều đó có nghĩa là mô hình không biết về tài liệu nội bộ của công ty bạn, không biết sản phẩm bạn vừa ra mắt tuần trước, và không thể tra cứu hợp đồng khách hàng theo yêu cầu. RAG — Retrieval-Augmented Generation — ra đời để giải quyết chính xác vấn đề này.
Thay vì nhét toàn bộ tài liệu vào system prompt (tốn token, vượt giới hạn context), RAG cho phép Agent truy xuất đúng đoạn thông tin liên quan tại thời điểm cần, rồi đưa vào prompt như ngữ cảnh bổ sung. Kết quả là mô hình trả lời dựa trên dữ liệu thực tế của bạn, không phải dự đoán từ dữ liệu huấn luyện.
RAG hoạt động như thế nào
Quy trình RAG gồm hai giai đoạn tách biệt: indexing (lập chỉ mục) và retrieval + generation (truy xuất và sinh câu trả lời).
Giai đoạn indexing chạy offline một lần. Bạn đọc tài liệu, chia nhỏ thành các đoạn (chunk), chuyển mỗi đoạn thành vector embedding bằng một embedding model, rồi lưu vào vector database.
Giai đoạn retrieval chạy mỗi khi có câu hỏi từ người dùng. Câu hỏi cũng được chuyển thành vector, sau đó vector database tìm các chunk có embedding gần nhất (nearest neighbor search). Những chunk đó được ghép vào prompt trước khi gửi cho LLM.
Ví dụ minh họa với Python dùng thư viện OpenAI và một vector store đơn giản trong bộ nhớ:
Code trên dùng dot product để tính độ tương đồng vì OpenAI trả về vector đã được normalize — dot product lúc này tương đương cosine similarity. Trong thực tế bạn sẽ thay phần lưu trữ trong bộ nhớ bằng một vector database thực sự.
Vector Database
Vector database được tối ưu cho một thao tác duy nhất: tìm nhanh các vector gần nhất trong không gian nhiều chiều (thường 1.536 chiều với text-embedding-3-small). Các database phổ biến gồm Chroma (nhẹ, chạy local tốt cho prototype), Pinecone (managed cloud, không cần tự vận hành), Qdrant (open-source, hiệu năng cao, hỗ trợ filter phức tạp), và pgvector (extension của PostgreSQL nếu bạn đã dùng Postgres).
Ví dụ với Chroma — thư viện Python thuần, không cần server:
Một điểm quan trọng khi xây dựng RAG thực tế là chiến lược chunk: chunk quá ngắn mất ngữ cảnh, chunk quá dài loãng thông tin. Kích thước thông dụng là 300–500 token với overlap khoảng 50 token giữa các chunk liền kề.
MCP — Model Context Protocol
Khi Agent cần gọi tool, vấn đề nảy sinh là mỗi nhà cung cấp tool (database, API, file system) lại có cách kết nối riêng. MCP — Model Context Protocol do Anthropic đề xuất đầu năm 2025 — là một giao thức chuẩn mở giúp Agent giao tiếp với các tool server theo cùng một ngôn ngữ.
Hãy hình dung MCP như USB-C cho AI: thay vì mỗi tool cần adapter riêng, bạn chỉ cần một chuẩn kết nối duy nhất. MCP server có thể là một server nhỏ expose ra các capability như đọc file, truy vấn database, hay gọi API bên ngoài. Agent-side (MCP client) gửi request theo giao thức chuẩn và nhận response mà không cần biết tool đó được implement bằng ngôn ngữ gì.
Một MCP server tối giản viết bằng Python dùng thư viện mcp:
Server này có thể được kết nối bởi bất kỳ MCP-compatible client nào — Claude Desktop, Cursor, hay agent framework tự viết — mà không cần thay đổi code server.
Tổng kết
RAG giải quyết giới hạn kiến thức tĩnh của LLM bằng cách truy xuất thông tin liên quan theo từng câu hỏi, thay vì nhồi toàn bộ dữ liệu vào prompt. Vector database là nơi lưu trữ và tìm kiếm các embedding đó một cách hiệu quả. MCP chuẩn hóa cách Agent kết nối với các tool bên ngoài, giúp hệ thống Agent dễ mở rộng và bảo trì hơn. Ba thành phần này thường đi cùng nhau trong một Agent production: MCP server expose tool search_docs, tool đó gọi vector database để thực hiện RAG, kết quả trả về cho Agent để sinh câu trả lời cuối cùng.
Bài kiểm tra cuối bài
Ôn lại kiến thức, thử sức và nhận góp ý cho bài làm.