Hoàn thành bài "Chương 8 – Bài 3: Báo cáo tự động, tự động hóa quy trình và tích hợp ERP AI" trước để mở khoá bài này.Đến bài trước

Giới thiệu

Sau 8 chương tích lũy kiến thức — từ prompt engineering, function calling, RAG, memory, đến multi-agent — đây là lúc bạn áp dụng tất cả vào một bài toán thực tế hoàn chỉnh. Capstone Project của chương này không yêu cầu bạn viết toàn bộ code ngay, mà yêu cầu bạn làm điều khó hơn: thiết kế kiến trúc một hệ thống AI Agent đủ để một team kỹ sư có thể đọc và triển khai được.

Bài toán được chọn là hệ thống AI Agent hỗ trợ vận hành cho một doanh nghiệp thương mại điện tử vừa (50-200 nhân viên). Hệ thống cần xử lý đồng thời nhiều luồng: hỗ trợ khách hàng, phân tích đơn hàng, cảnh báo tồn kho, và tổng hợp báo cáo nội bộ.

Phân tích bài toán

Trước khi vẽ bất kỳ hộp nào trong sơ đồ kiến trúc, bạn cần trả lời 4 câu hỏi nền tảng.

Thứ nhất, ai là người dùng cuối? Ở đây có hai nhóm rõ ràng: khách hàng bên ngoài (hỏi về đơn hàng, đổi trả, sản phẩm) và nhân viên nội bộ (sales, kho, kế toán cần báo cáo nhanh). Mỗi nhóm cần một giao diện và mức độ quyền truy cập dữ liệu khác nhau.

Thứ hai, dữ liệu nào cần truy cập? Hệ thống phải kết nối với database đơn hàng, catalog sản phẩm, hệ thống CRM, và kho dữ liệu lịch sử. Đây là nơi RAG và function calling phát huy tác dụng.

Thứ ba, tác vụ nào cần tự động hóa so với tác vụ cần con người phê duyệt? Trả lời FAQ có thể tự động hoàn toàn. Hoàn tiền trên 2 triệu đồng cần escalate lên nhân viên. Nguyên tắc này ảnh hưởng trực tiếp đến thiết kế luồng xử lý.

Thứ tư, SLA là gì? Câu hỏi khách hàng cần trả lời dưới 3 giây. Báo cáo tổng hợp cuối ngày có thể chạy batch. Yêu cầu này quyết định bạn dùng streaming hay không, dùng cache ở đâu.

Thiết kế kiến trúc

Kiến trúc đề xuất gồm 4 lớp chính, xếp chồng lên nhau theo chiều từ người dùng vào đến dữ liệu.

Lớp 1 — Gateway & Routing: Điểm vào duy nhất của hệ thống. Nhận request từ webchat, Zalo OA, hoặc dashboard nội bộ. Một classifier agent nhỏ (có thể dùng GPT-4o-mini cho tiết kiệm chi phí) phân loại intent và route đến agent chuyên biệt phù hợp.

Lớp 2 — Specialized Agents: Đây là nơi logic nghiệp vụ nằm. Có 4 agent chính.

Customer Support Agent xử lý câu hỏi khách hàng, dùng RAG trên knowledge base sản phẩm và chính sách công ty. Order Agent có function calling trực tiếp vào order database để tra cứu, cập nhật trạng thái. Inventory Agent chạy định kỳ, phân tích mức tồn kho và gửi cảnh báo. Report Agent tổng hợp dữ liệu từ nhiều nguồn khi nhân viên yêu cầu.

Lớp 3 — Shared Services: Các dịch vụ dùng chung giữa mọi agent. Memory store lưu lịch sử hội thoại (Redis hoặc vector DB tùy use case). Tool registry quản lý danh sách function mỗi agent được phép gọi. Guardrails layer kiểm tra output trước khi trả về người dùng.

Lớp 4 — Data & Integration: Kết nối với hệ thống thực: PostgreSQL cho đơn hàng, Elasticsearch cho catalog, webhook ra ngoài để gửi email/SMS, và audit log để tuân thủ quy định.

sơ đồ kiến trúc 4 lớp: Gateway → Specialized Agents → Shared Services → Data & Integration với mũi tên luồng dữ liệu hai chiều

Một đoạn schema JSON mô tả cấu hình một agent trong hệ thống trông như sau:

json
{
"agent_id": "order-agent-v1",
"model": "gpt-4o",
"system_prompt": "Bạn là trợ lý xử lý đơn hàng...",
"tools": ["get_order_by_id", "update_order_status", "list_orders_by_customer"],
"memory": {
"type": "sliding_window",
"max_turns": 10
},
"guardrails": {
"pii_masking": true,
"max_refund_auto_approve": 200000
},
"escalation": {
"trigger": "refund_amount > 2000000",
"target": "human_queue"
}
}

Cấu hình dạng này giúp tách biệt logic nghiệp vụ khỏi code, dễ thay đổi mà không cần deploy lại.

Các quyết định thiết kế quan trọng

Có ba điểm mà nhiều người bỏ qua khi thiết kế hệ thống AI Agent cho doanh nghiệp.

Điểm đầu tiên là phân tách rõ read-only tools và write tools. Agent nên có quyền đọc thoải mái nhưng mọi thao tác ghi (cập nhật đơn hàng, hoàn tiền) phải đi qua một bước xác nhận hoặc audit. Trong code, điều này thể hiện qua việc nhóm tools theo permission level.

python
READ_TOOLS = ["get_order", "search_product", "get_customer_history"]
WRITE_TOOLS = ["update_order_status", "create_refund"] # cần log + confirm
def call_tool(tool_name: str, args: dict, agent_id: str):
if tool_name in WRITE_TOOLS:
audit_log(agent_id, tool_name, args) # ghi log bắt buộc
if args.get("amount", 0) > 2_000_000:
return escalate_to_human(agent_id, tool_name, args)
return execute_tool(tool_name, args)

Điểm thứ hai là fallback strategy. Khi LLM trả về kết quả không hợp lệ hoặc confidence thấp, hệ thống phải có hành vi xác định — không phải crash. Thiết kế rõ ba trạng thái: tự xử lý, hỏi lại người dùng, hoặc chuyển sang nhân viên.

Điểm thứ ba là observability. Mỗi request phải có trace ID xuyên suốt từ gateway đến tool call. Không có điều này, việc debug một lỗi xảy ra trong chuỗi 4-5 agent call sẽ cực kỳ khó khăn.

sơ đồ luồng xử lý một request từ khách hàng qua classifier → order agent → tool call → guardrails → response, với nhánh escalate khi vượt ngưỡng

Tổng kết

Một kiến trúc AI Agent tốt cho doanh nghiệp không phải là kiến trúc dùng model mạnh nhất hay nhiều agent nhất — mà là kiến trúc trả lời được câu hỏi: ai dùng, dữ liệu nào, tự động đến đâu, và khi sai thì hệ thống làm gì. Bốn lớp Gateway, Specialized Agents, Shared Services, và Data Integration tạo ra một khung đủ linh hoạt để mở rộng mà không phải viết lại từ đầu. Bài tập tiếp theo sẽ yêu cầu bạn tự chọn một domain khác và áp dụng khung thiết kế này.

Luyện tập sau buổi học

Bài kiểm tra cuối bài

Ôn lại kiến thức, thử sức và nhận góp ý cho bài làm.

0/1
Đã trả lời · 0/1