RAG từ cơ bản đến nâng cao
Chuỗi bài về Retrieval-Augmented Generation, đi từ kiến trúc của một pipeline RAG đến chỗ khó nhất: biết hệ thống của mình tốt hay tệ ở đâu. Nửa đầu là cách dựng, nửa sau là cách đo — vì một RAG không đo được thì không cải thiện được.
- Kiến trúc RAG: toàn bộ đường đi của một câu hỏi
Cách giải thích quen thuộc - chia tài liệu thành chunk, embed, lưu vào vector database, tìm đoạn gần nhất rồi đưa cho LLM - không sai, nhưng dùng nó làm mental model chính thì rất dễ xây một hệ thống chỉ chạy tốt trong demo. Bài này đi xuyên qua toàn bộ pipeline để thấy mỗi khâu nhận gì, làm gì, và hỏng thì biểu hiện ra sao.
- Retrieval trong RAG: từ search đến reranking
Nếu LLM không bao giờ nhìn thấy evidence đúng thì model mạnh đến đâu cũng không tạo được câu trả lời có căn cứ. Bài này zoom vào đoạn pipeline giữa câu hỏi của user và evidence cuối cùng - nơi một dòng similarity_search thực ra là một ranking pipeline nhiều tầng với rất nhiều chỗ để hỏng.
- Đánh giá RAG với DeepEval: Fundamentals
Một hệ thống RAG có thể trả lời đúng vài câu trong demo rồi thất bại nghiêm trọng ở production. Bài này tách chất lượng RAG thành những thứ đo được - coverage, ranking, noise, groundedness, trọng tâm - rồi đi vào cách DeepEval biến từng thứ đó thành một con số, và cách đọc con số đó cho đúng.
- Benchmark RAG với DeepEval: Hands-on từ dataset đến regression test
Bài trước dừng ở chỗ hiểu từng metric đo gì. Bài này đi tiếp một bước: làm sao biến những metric đó thành một benchmark chạy lặp lại được để so sánh các phiên bản RAG - từ golden dataset, thiết kế thí nghiệm, hard gate trong CI, tới per-case analysis và vòng lặp đưa lỗi production về thành regression case.
- Production RAG Evaluation: đo chất lượng sau khi deploy
Bốn bài trước dừng ở chỗ chứng minh một phiên bản RAG tốt hơn phiên bản trước trên một dataset hữu hạn. Bài này đi tiếp sang phần khó hơn: giữ cho hệ thống đó còn tốt sau khi nó tiếp xúc với traffic thật, và biến chính những lỗi thật đó thành điều kiện mà phiên bản sau phải vượt qua.