Ghi chép về gen ai trong môi trường vận hành
Bài viết được xếp theo đề mục, mỗi đề mục là một mạch nội dung đọc nối tiếp được. Chọn đề mục ở cột trái hoặc tìm theo từ khoá.
Tokenization trong LLM: từ văn bản con người đọc được đến những con số model xử lý được
Ba bài trước đều bắt đầu từ chỗ văn bản đã thành số. Bài này quay lại bước đó: normalization, pre-tokenization, subword segmentation, vocabulary và special token - lớp giao diện rời rạc quyết định context window, chi phí, và cả việc một ngôn ngữ có bị đánh thuế token hay không.
Transformer từ A đến Z: Hiểu nền tảng của LLM
Một mental model có hệ thống về Transformer: từ token và chi phí token tiếng Việt, qua Attention, residual, FFN và RoPE, tới ba họ kiến trúc, MoE và toàn bộ đường đi của inference.
RAG không cứu được dữ liệu bẩn
Ba tháng debug một hệ thống hỏi đáp nội bộ, và 80% công sức hoá ra nằm ở khâu chuẩn hoá tài liệu.
Không có bài nào khớp bộ lọc hiện tại.
Mỗi tháng một lần, chỉ bài viết mới. Không quảng cáo, huỷ bất cứ lúc nào.