Hai cách lấy một quyết định từ model

Hai cách lấy một quyết định từ model A data-flow diagram generated by Archify. 01 / Đầu vào 02 / Model 03 / Đầu ra 04 / Bước trung gian 05 / Code dùng Prompt · text + yêu cầu format · 01 / Đầu vào Prompt text + yêu cầu format LLM · sinh từng token · 02 / Model LLM sinh từng token Text / JSON · chuỗi tự do · 03 / Đầu ra Text / JSON chuỗi tự do Parse + validate · retry khi lệch format · 04 / Bước trung gian Parse + validate retry khi lệch format Nhánh if/else · không có xác suất tin được · 05 / Code dùng Nhánh if/else không có xác suất tin được State + questions · miền đáp án khai báo trước · 01 / Đầu vào State + questions miền đáp án khai báo trước Decision model · ví dụ: JEV · 02 / Model Decision model ví dụ: JEV Typed decisions · kèm probabilities · 03 / Đầu ra Typed decisions kèm probabilities Policy theo ngưỡng · đọc confidence · 04 / Bước trung gian Policy theo ngưỡng đọc confidence Hành động · route, gate, escalate · 05 / Code dùng Hành động route, gate, escalate gửi prompt tuần tự phải đọc lại giá trị đã ép một request song song đúng schema rẽ nhánh Legend đường decision model đầu ra có kiểu đường LLM sinh văn bản