Decision model: khi AI ra quyết định thay vì viết chữ
Chuỗi bài về decision model, lớp model nhận trạng thái của chương trình cùng các câu hỏi có miền đáp án khai báo trước và trả về quyết định có kiểu kèm xác suất, thay vì sinh văn bản. JEV của TypeSafe AI là đại diện xuyên suốt: đi từ khái niệm, cơ chế, hệ sinh thái đến một ứng dụng cụ thể, luôn tách rõ điều hãng đã công bố với phân tích của blog.
- Decision model: nhánh mới bên cạnh LLM sinh văn bản
Phần lớn chỗ ta gắn LLM vào phần mềm thực ra chỉ cần một quyết định: route ticket này đi đâu, có chặn giao dịch này không, có cần người xem không. Vậy mà ta vẫn bắt model viết một đoạn văn rồi parse ngược lại. Decision model đảo cách làm đó: khai báo miền đáp án trước, nhận về quyết định có kiểu kèm xác suất.
- JEV hoạt động thế nào: Choice, Score, Noul và RLCD
Một lần gọi JEV mất khoảng 70–500 ms. Trong khoảng đó, một request gồm state, model và các câu hỏi có kiểu đi vào, và một bộ xác suất đi ra. Bài này mở từng lớp của vòng đó: schema, ba kiểu câu hỏi, code chạy được, parallel sampler, RLCD, calibration, cách đặt ngưỡng, và ranh giới giữa điều TypeSafe đã công bố với điều chưa ai biết.
- Hệ sinh thái JEV: SDK chính thức, cộng đồng và các bản System One mở
Danh sách gọn các tool và repo trong hệ sinh thái JEV, chia ba tầng theo ai chịu trách nhiệm: chính thức (org typesafe-ai), cộng đồng (gọi JEV thật qua SDK hoặc HTTP), và bản mở / self-host (model mở sau một server cùng giao thức). Mỗi tool một dòng: tên, link, mô tả.
- Thiết kế Chrome extension trích xuất dữ liệu web với JEV
Nghiên cứu tình huống ở dạng thiết kế và kế hoạch thử nghiệm: JEV chỉ chọn trong danh sách ứng viên, còn code đọc DOM, kiểm tra lại và xuất dữ liệu.