Giới thiệu
Một Agent đơn thuần chỉ dùng kiến thức có sẵn trong model sẽ nhanh chóng chạm ngưỡng giới hạn: nó không biết hôm nay giá Bitcoin là bao nhiêu, không đọc được file của bạn, không gọi được API nội bộ. Đó là lý do Tool Calling ra đời — cho phép Agent thoát ra khỏi vùng kiến thức tĩnh và tương tác với thế giới thực.
Bài này tập trung vào ba cơ chế cốt lõi: Function Calling (cách OpenAI hiện thực hóa Tool Calling), cách Agent quyết định khi nào gọi tool, và Memory — cơ chế giúp Agent nhớ ngữ cảnh qua nhiều lượt hội thoại.
Function Calling là gì và hoạt động ra sao
Function Calling là tính năng của OpenAI API cho phép bạn khai báo danh sách hàm mà model có thể "yêu cầu gọi". Model không tự chạy hàm — nó chỉ trả về JSON mô tả tên hàm và tham số, còn code phía bạn mới thực sự thực thi.
Luồng hoạt động diễn ra như sau: bạn gửi tin nhắn người dùng kèm danh sách tool definitions, model phân tích và quyết định cần gọi tool nào, model trả về một message đặc biệt có trường tool_calls thay vì trả lời trực tiếp, code của bạn thực thi hàm tương ứng, rồi trả kết quả lại cho model để nó tổng hợp câu trả lời cuối.
Dưới đây là ví dụ đầy đủ với một tool tra giá cổ phiếu giả lập:
Lưu ý quan trọng: bạn phải append assistant_message (lượt model trả về tool_calls) vào messages trước khi append kết quả tool. API sẽ báo lỗi nếu thiếu bước này.
Memory: Giúp Agent nhớ ngữ cảnh
Model GPT bản thân là stateless — mỗi lần gọi API là một tờ giấy trắng. Memory trong Agent không phải tính năng huyền bí, đơn giản là cách bạn quản lý danh sách messages và quyết định gửi bao nhiêu lịch sử lên mỗi lượt.
Có ba mức Memory thường gặp:
In-context Memory là đơn giản nhất: giữ toàn bộ messages trong một list Python và gửi lên mỗi lần. Phù hợp cho hội thoại ngắn, nhưng sẽ vượt context window nếu kéo dài.
Summarized Memory: khi hội thoại dài, bạn tóm tắt các lượt cũ thành một đoạn ngắn rồi dùng đó thay cho lịch sử chi tiết. Có thể dùng chính GPT để tóm tắt.
External Memory: lưu thông tin quan trọng vào database (vector DB như Chroma, Pinecone, hoặc đơn giản là SQLite), mỗi lượt tìm kiếm và chèn thông tin liên quan vào prompt.
Ví dụ đơn giản quản lý in-context memory với giới hạn chiều dài:
Lỗi thường gặp
Quên append assistant_message trước khi append tool result là lỗi phổ biến nhất. API yêu cầu thứ tự: user → assistant (có tool_calls) → tool → assistant (câu trả lời cuối).
Mô tả tool không rõ ràng khiến model gọi sai tham số. Trường description trong function definition ảnh hưởng trực tiếp đến độ chính xác — hãy viết mô tả cụ thể như viết docstring.
Không giới hạn memory dẫn đến lỗi context length exceeded. Dùng deque với maxlen hoặc tính token trước khi gửi để kiểm soát.
Gọi API trong tool mà không xử lý exception: nếu tool thất bại và bạn trả về chuỗi lỗi thô, model thường xử lý được — nhưng nếu code crash thì Agent dừng hẳn. Luôn wrap logic trong tool bằng try/except.
Tổng kết
Function Calling cho phép Agent kết nối với thế giới thực theo một giao thức rõ ràng: model khai báo ý định, code thực thi, kết quả được đưa trở lại cho model. Memory không phải phép màu mà là việc quản lý danh sách messages một cách có chủ đích — bạn kiểm soát Agent nhớ gì, quên gì. Nắm vững hai cơ chế này là nền tảng để xây dựng bất kỳ Agent thực chiến nào.
Bài kiểm tra cuối bài
Ôn lại kiến thức, thử sức và nhận góp ý cho bài làm.