Agentic RAG chuyển quyết định retrieval sang lúc chạy Diagram

Khác biệt nằm ở ai ra quyết định

• Chọn nguồn nào, search khi nào, có cần thêm vòng nữa không
• Chúng chuyển từ code cố định sang reasoning lúc chạy
• Không phải chỉ là RAG viết bằng agent framework

Khi nào không nên dùng agentic RAG

• Câu hỏi đơn, một index, một lần retrieval là đủ
• Agent loop khi đó chỉ thêm latency và tính bất định
• Microsoft nói standard RAG hợp hơn nếu một lần search là đủ

Cái giá phải được đo, không phải giả định

• Planning, nhiều subquery, nhiều tool call, thêm retrieval
• Latency có thể tăng nhiều lần so với baseline
• Chỉ đáng đổi khi chất lượng tăng bù được chi phí đó