Câu người dùng gõ ra chưa chắc là câu nên đem đi search

Câu người dùng gõ ra chưa chắc là câu nên đem đi search A workflow diagram generated by Archify. 01 / Các phép biến đổi trước retrieval EX / Nếu embed thẳng raw query Raw query · còn chi phí thì sao? · Các phép biến đổi trước retrieval Raw query còn chi phí thì sao? Rewrite · ghép lại ngữ cảnh hội thoại · Các phép biến đổi trước retrieval Rewrite ghép lại ngữ cảnh hội thoại Decompose · tách câu hỏi nhiều vế · Các phép biến đổi trước retrieval Decompose tách câu hỏi nhiều vế Expand / HyDE · nhiều cách diễn đạt một ý · Các phép biến đổi trước retrieval Expand / HyDE nhiều cách diễn đạt một ý Retrieval query · thứ thật sự đem đi search · Các phép biến đổi trước retrieval Retrieval query thứ thật sự đem đi search Mất chủ ngữ · search không biết hỏi gì · Nếu embed thẳng raw query Mất chủ ngữ search không biết hỏi gì Chỉ đáp một vế · các vế còn lại rơi mất · Nếu embed thẳng raw query Chỉ đáp một vế các vế còn lại rơi mất Lệch biểu diễn · câu hỏi khác xa passage · Nếu embed thẳng raw query Lệch biểu diễn câu hỏi khác xa passage nếu bỏ qua nếu bỏ qua nếu bỏ qua gộp lịch sử tách ý sinh biến thể hợp nhất Legend Agent logic Policy Tool action Context / trace Cloud service External system

Người dùng nói chuyện với ứng dụng, không nói chuyện với search engine

  • • Còn chi phí thì sao là một câu hoàn chỉnh trong hội thoại
  • • Nhưng embed thẳng câu đó thì retrieval mất hết chủ thể đang bàn
  • • Rewrite khôi phục lại PostgreSQL, MySQL và workload analytics vào truy vấn

Expansion và decomposition giải hai bài toán khác nhau

  • • Expansion phủ các cách diễn đạt khác của cùng một ý, tăng recall
  • • Decomposition tách một câu hỏi nhiều vế thành nhiều truy vấn con
  • • Cả hai đều tốn thêm search call và đều có thể kéo về thêm nhiễu

HyDE pivot từ câu hỏi sang một tài liệu giả định

  • • LLM viết trước một đoạn văn giả định trả lời câu hỏi
  • • Rồi embed đoạn đó thay vì embed câu hỏi để tìm hàng xóm phù hợp
  • • Nội dung giả định có thể sai chi tiết và thêm một model call vào latency