Hoàn thành bài "Chương 4 – Bài 1: AI Agent là gì và kiến trúc Agent" trước để mở khoá bài này.Đến bài trước

Giới thiệu

Một Agent đơn thuần chỉ dùng kiến thức có sẵn trong model sẽ nhanh chóng chạm ngưỡng giới hạn: nó không biết hôm nay giá Bitcoin là bao nhiêu, không đọc được file của bạn, không gọi được API nội bộ. Đó là lý do Tool Calling ra đời — cho phép Agent thoát ra khỏi vùng kiến thức tĩnh và tương tác với thế giới thực.

Bài này tập trung vào ba cơ chế cốt lõi: Function Calling (cách OpenAI hiện thực hóa Tool Calling), cách Agent quyết định khi nào gọi tool, và Memory — cơ chế giúp Agent nhớ ngữ cảnh qua nhiều lượt hội thoại.

Function Calling là gì và hoạt động ra sao

Function Calling là tính năng của OpenAI API cho phép bạn khai báo danh sách hàm mà model có thể "yêu cầu gọi". Model không tự chạy hàm — nó chỉ trả về JSON mô tả tên hàm và tham số, còn code phía bạn mới thực sự thực thi.

Luồng hoạt động diễn ra như sau: bạn gửi tin nhắn người dùng kèm danh sách tool definitions, model phân tích và quyết định cần gọi tool nào, model trả về một message đặc biệt có trường tool_calls thay vì trả lời trực tiếp, code của bạn thực thi hàm tương ứng, rồi trả kết quả lại cho model để nó tổng hợp câu trả lời cuối.

sơ đồ luồng 5 bước Function Calling: User gửi tin → Model phân tích → Model trả tool_calls → Code thực thi hàm → Trả kết quả → Model tổng hợp

Dưới đây là ví dụ đầy đủ với một tool tra giá cổ phiếu giả lập:

python
import openai
import json
client = openai.OpenAI()
# Khai báo tool (function definition)
tools = [
{
"type": "function",
"function": {
"name": "get_stock_price",
"description": "Lấy giá cổ phiếu hiện tại theo mã ticker",
"parameters": {
"type": "object",
"properties": {
"ticker": {
"type": "string",
"description": "Mã cổ phiếu, ví dụ: AAPL, GOOG"
}
},
"required": ["ticker"]
}
}
}
]
# Hàm thực tế (ở đây giả lập)
def get_stock_price(ticker: str) -> dict:
fake_prices = {"AAPL": 189.5, "GOOG": 175.2, "MSFT": 420.0}
price = fake_prices.get(ticker.upper(), None)
if price is None:
return {"error": f"Không tìm thấy mã {ticker}"}
return {"ticker": ticker.upper(), "price": price, "currency": "USD"}
messages = [{"role": "user", "content": "Giá cổ phiếu Apple hôm nay là bao nhiêu?"}]
# Lượt 1: Gửi lên, model trả về tool_calls
response = client.chat.completions.create(
model="gpt-4o",
messages=messages,
tools=tools
)
assistant_message = response.choices[0].message
messages.append(assistant_message) # Thêm vào lịch sử
# Kiểm tra model có muốn gọi tool không
if assistant_message.tool_calls:
for tool_call in assistant_message.tool_calls:
func_name = tool_call.function.name
args = json.loads(tool_call.function.arguments)
# Thực thi hàm
result = get_stock_price(**args)
# Trả kết quả về cho model
messages.append({
"role": "tool",
"tool_call_id": tool_call.id,
"content": json.dumps(result)
})
# Lượt 2: Model tổng hợp câu trả lời cuối
final_response = client.chat.completions.create(
model="gpt-4o",
messages=messages,
tools=tools
)
print(final_response.choices[0].message.content)

Lưu ý quan trọng: bạn phải append assistant_message (lượt model trả về tool_calls) vào messages trước khi append kết quả tool. API sẽ báo lỗi nếu thiếu bước này.

Memory: Giúp Agent nhớ ngữ cảnh

Model GPT bản thân là stateless — mỗi lần gọi API là một tờ giấy trắng. Memory trong Agent không phải tính năng huyền bí, đơn giản là cách bạn quản lý danh sách messages và quyết định gửi bao nhiêu lịch sử lên mỗi lượt.

Có ba mức Memory thường gặp:

In-context Memory là đơn giản nhất: giữ toàn bộ messages trong một list Python và gửi lên mỗi lần. Phù hợp cho hội thoại ngắn, nhưng sẽ vượt context window nếu kéo dài.

Summarized Memory: khi hội thoại dài, bạn tóm tắt các lượt cũ thành một đoạn ngắn rồi dùng đó thay cho lịch sử chi tiết. Có thể dùng chính GPT để tóm tắt.

External Memory: lưu thông tin quan trọng vào database (vector DB như Chroma, Pinecone, hoặc đơn giản là SQLite), mỗi lượt tìm kiếm và chèn thông tin liên quan vào prompt.

Ví dụ đơn giản quản lý in-context memory với giới hạn chiều dài:

python
from collections import deque
class SimpleMemoryAgent:
def __init__(self, system_prompt: str, max_turns: int = 10):
self.system_prompt = system_prompt
# Giữ tối đa max_turns lượt (mỗi lượt = 1 user + 1 assistant)
self.history = deque(maxlen=max_turns * 2)
self.client = openai.OpenAI()
def chat(self, user_input: str) -> str:
self.history.append({"role": "user", "content": user_input})
messages = [
{"role": "system", "content": self.system_prompt}
] + list(self.history)
response = self.client.chat.completions.create(
model="gpt-4o",
messages=messages
)
assistant_reply = response.choices[0].message.content
self.history.append({"role": "assistant", "content": assistant_reply})
return assistant_reply
agent = SimpleMemoryAgent("Bạn là trợ lý hữu ích.", max_turns=5)
print(agent.chat("Tên tôi là Minh."))
print(agent.chat("Bạn còn nhớ tên tôi không?")) # Agent sẽ nhớ
sơ đồ so sánh 3 loại Memory: In-context (list messages), Summarized (tóm tắt lượt cũ), External (lưu DB + truy vấn)

Lỗi thường gặp

Quên append assistant_message trước khi append tool result là lỗi phổ biến nhất. API yêu cầu thứ tự: user → assistant (có tool_calls) → tool → assistant (câu trả lời cuối).

Mô tả tool không rõ ràng khiến model gọi sai tham số. Trường description trong function definition ảnh hưởng trực tiếp đến độ chính xác — hãy viết mô tả cụ thể như viết docstring.

Không giới hạn memory dẫn đến lỗi context length exceeded. Dùng deque với maxlen hoặc tính token trước khi gửi để kiểm soát.

Gọi API trong tool mà không xử lý exception: nếu tool thất bại và bạn trả về chuỗi lỗi thô, model thường xử lý được — nhưng nếu code crash thì Agent dừng hẳn. Luôn wrap logic trong tool bằng try/except.

Tổng kết

Function Calling cho phép Agent kết nối với thế giới thực theo một giao thức rõ ràng: model khai báo ý định, code thực thi, kết quả được đưa trở lại cho model. Memory không phải phép màu mà là việc quản lý danh sách messages một cách có chủ đích — bạn kiểm soát Agent nhớ gì, quên gì. Nắm vững hai cơ chế này là nền tảng để xây dựng bất kỳ Agent thực chiến nào.

Luyện tập sau buổi học

Bài kiểm tra cuối bài

Ôn lại kiến thức, thử sức và nhận góp ý cho bài làm.

0/1
Đã trả lời · 0/1