Hoàn thành bài "Chương 9 – Bài 1: Capstone Project — Thiết kế kiến trúc hệ thống AI Agent doanh nghiệp" trước để mở khoá bài này.Đến bài trước

Giới thiệu

Đây là bài capstone project — bài thực hành tổng hợp cuối khóa, nơi bạn kết hợp toàn bộ những gì đã học: thiết kế workflow, RAG, memory, giao diện người dùng, và triển khai thực tế lên VPS. Không có lý thuyết mới ở bài này. Mục tiêu là bạn tự tay xây và ship một hệ thống AI Agent hoàn chỉnh.

Hệ thống sẽ xây dựng là một AI Assistant có khả năng trả lời câu hỏi dựa trên tài liệu nội bộ (RAG), nhớ ngữ cảnh hội thoại (memory), và được phục vụ qua giao diện web đơn giản — toàn bộ chạy trên một VPS Linux.

Kiến trúc tổng thể

Trước khi code, hãy xác định rõ các thành phần:

Lớp 1 — Dữ liệu: Tài liệu nguồn được chunk, embed và lưu vào vector store (ChromaDB chạy local trên VPS).

Lớp 2 — Agent core: LangChain agent nhận câu hỏi, truy xuất context từ vector store, kết hợp memory hội thoại, gọi OpenAI để sinh câu trả lời.

Lớp 3 — API: FastAPI expose endpoint POST /chat để giao tiếp với frontend.

Lớp 4 — Giao diện: Một trang HTML/JS đơn giản gửi request tới API và hiển thị kết quả.

Lớp 5 — Hạ tầng: Nginx làm reverse proxy, Gunicorn chạy FastAPI, systemd giữ process sống.

sơ đồ kiến trúc 5 lớp từ User qua Nginx, FastAPI, LangChain Agent, đến ChromaDB và OpenAI API

Xây dựng Agent core

Cài đặt dependencies trước:

bash
pip install langchain langchain-openai chromadb fastapi uvicorn gunicorn python-dotenv

Tạo file agent.py với logic RAG và memory:

python
from langchain_openai import ChatOpenAI, OpenAIEmbeddings
from langchain_community.vectorstores import Chroma
from langchain.chains import ConversationalRetrievalChain
from langchain.memory import ConversationBufferWindowMemory
import os
from dotenv import load_dotenv
load_dotenv()
def build_agent(persist_directory: str = "./chroma_db"):
llm = ChatOpenAI(
model="gpt-4o-mini",
temperature=0.2,
openai_api_key=os.getenv("OPENAI_API_KEY")
)
embeddings = OpenAIEmbeddings(
openai_api_key=os.getenv("OPENAI_API_KEY")
)
vectorstore = Chroma(
persist_directory=persist_directory,
embedding_function=embeddings
)
memory = ConversationBufferWindowMemory(
memory_key="chat_history",
return_messages=True,
k=6 # giữ 6 lượt gần nhất
)
chain = ConversationalRetrievalChain.from_llm(
llm=llm,
retriever=vectorstore.as_retriever(search_kwargs={"k": 4}),
memory=memory,
verbose=False
)
return chain

Tiếp theo là script ingest.py để nạp tài liệu vào ChromaDB — chạy một lần trước khi deploy:

python
from langchain_community.document_loaders import DirectoryLoader, TextLoader
from langchain.text_splitter import RecursiveCharacterTextSplitter
from langchain_openai import OpenAIEmbeddings
from langchain_community.vectorstores import Chroma
import os
from dotenv import load_dotenv
load_dotenv()
loader = DirectoryLoader("./docs", glob="**/*.txt", loader_cls=TextLoader)
docs = loader.load()
splitter = RecursiveCharacterTextSplitter(chunk_size=500, chunk_overlap=50)
chunks = splitter.split_documents(docs)
embeddings = OpenAIEmbeddings(openai_api_key=os.getenv("OPENAI_API_KEY"))
vectorstore = Chroma.from_documents(
documents=chunks,
embedding=embeddings,
persist_directory="./chroma_db"
)
print(f"Đã nạp {len(chunks)} chunks vào ChromaDB")

Expose API với FastAPI

Tạo file main.py:

python
from fastapi import FastAPI, HTTPException
from fastapi.staticfiles import StaticFiles
from fastapi.responses import FileResponse
from pydantic import BaseModel
from agent import build_agent
import uvicorn
app = FastAPI()
agent_chain = build_agent()
class ChatRequest(BaseModel):
message: str
session_id: str = "default"
@app.post("/chat")
async def chat(req: ChatRequest):
try:
result = agent_chain.invoke({"question": req.message})
return {"answer": result["answer"]}
except Exception as e:
raise HTTPException(status_code=500, detail=str(e))
@app.get("/health")
def health():
return {"status": "ok"}
app.mount("/", StaticFiles(directory="static", html=True), name="static")

Giao diện tối giản trong static/index.html:

markup
<!DOCTYPE html>
<html lang="vi">
<head>
<meta charset="UTF-8">
<title>AI Assistant</title>
</head>
<body>
<div id="chat"></div>
<input id="input" type="text" placeholder="Nhập câu hỏi..." />
<button onclick="sendMessage()">Gửi</button>
<script>
async function sendMessage() {
const input = document.getElementById("input");
const message = input.value.trim();
if (!message) return;
const res = await fetch("/chat", {
method: "POST",
headers: {"Content-Type": "application/json"},
body: JSON.stringify({message})
});
const data = await res.json();
const chat = document.getElementById("chat");
chat.innerHTML += `<p><b>Bạn:</b> ${message}</p>`;
chat.innerHTML += `<p><b>AI:</b> ${data.answer}</p>`;
input.value = "";
}
</script>
</body>
</html>

Triển khai lên VPS

Sau khi test local thành công, đẩy code lên VPS (Ubuntu 22.04) và thực hiện các bước sau.

Cài môi trường và chạy ingest:

bash
sudo apt update && sudo apt install python3-pip nginx -y
pip3 install -r requirements.txt
python3 ingest.py

Tạo systemd service để tự khởi động lại khi VPS reboot. Tạo file /etc/systemd/system/aiagent.service:

bash
[Unit]
Description=AI Agent FastAPI Service
After=network.target
[Service]
User=ubuntu
WorkingDirectory=/home/ubuntu/ai-agent
EnvironmentFile=/home/ubuntu/ai-agent/.env
ExecStart=/usr/local/bin/gunicorn main:app -w 2 -k uvicorn.workers.UvicornWorker --bind 127.0.0.1:8000
Restart=on-failure
[Install]
WantedBy=multi-user.target

Kích hoạt và khởi động service:

bash
sudo systemctl daemon-reload
sudo systemctl enable aiagent
sudo systemctl start aiagent
sudo systemctl status aiagent

Cấu hình Nginx reverse proxy trong /etc/nginx/sites-available/aiagent:

bash
server {
listen 80;
server_name your-domain.com;
location / {
proxy_pass http://127.0.0.1:8000;
proxy_set_header Host $host;
proxy_set_header X-Real-IP $remote_addr;
}
}
bash
sudo ln -s /etc/nginx/sites-available/aiagent /etc/nginx/sites-enabled/
sudo nginx -t && sudo systemctl reload nginx
sơ đồ luồng request từ browser qua Nginx reverse proxy đến Gunicorn và FastAPI trên VPS

Tổng kết

Bạn vừa hoàn thiện một hệ thống AI Agent production-ready với đầy đủ các thành phần: RAG từ tài liệu thực, memory hội thoại có giới hạn cửa sổ, API layer với FastAPI, giao diện web, và hạ tầng Linux với Nginx cùng systemd. Đây là nền tảng có thể mở rộng theo nhiều hướng — thêm authentication, hỗ trợ nhiều session độc lập, tích hợp thêm tool cho agent, hoặc nâng cấp vector store lên Pinecone hay Qdrant khi quy mô tăng. Điều quan trọng nhất: bạn đã tự ship được một sản phẩm hoàn chỉnh.

Luyện tập sau buổi học

Bài kiểm tra cuối bài

Ôn lại kiến thức, thử sức và nhận góp ý cho bài làm.

0/1
Đã trả lời · 0/1