# Hands-On Large Language Models: gần 300 hình minh hoạ và notebook Colab cho từng chương, đọc theo lộ trình của FDE

> Cuốn sách về LLM này dạy bằng hình vẽ thay vì công thức, chương nào cũng có notebook chạy được trên GPU miễn phí. Với FDE, chương về RAG là chỗ nên dồn sức trước tiên.

Bản gốc: https://fdetimes.net/vi/sach-khoa-hoc/sach-hands-on-large-language-models-alammar-grootendorst/

Gần 300 hình minh hoạ, tất cả được làm riêng cho sách. Maarten Grootendorst nêu con số này khi giới thiệu bản cuối của *Hands-On Large Language Models*, cuốn sách anh viết cùng Jay Alammar. Trang chính thức của sách ghi bản quyền năm 2024.

Với một cuốn sách kỹ thuật về mô hình ngôn ngữ lớn, lựa chọn này cho thấy rõ ý đồ của hai tác giả. Họ đặt cược rằng người đọc sẽ hiểu LLM qua hình ảnh nhanh hơn qua phương trình.

Với người muốn làm FDE, cách dạy này đánh đúng vào chỗ khó của nghề. Hệ thống phải chạy được ở chỗ khách hàng, nhưng bạn còn phải giải thích vì sao nó trả lời sai cho một trưởng phòng vận hành chưa từng nghe đến embedding. Một cuốn sách dạy bằng hình cho bạn sẵn cách để giải thích những chuyện như vậy.

## Trực giác và hình vẽ thay cho công thức

Grootendorst mô tả cách tiếp cận của sách là bắt đầu từ trực giác và kể chuyện bằng hình ảnh, thay vì dựa vào công thức. Andrew Ng, trong lời nhận xét trên trang sách, cho rằng hai tác giả vẫn giữ truyền thống của mình: mô tả các chủ đề phức tạp bằng những hình minh hoạ đẹp và sâu sắc.

Nils Reimers của Cohere gọi đây là một hướng dẫn xuất sắc về mô hình ngôn ngữ và cách chúng được ứng dụng trong công nghiệp. Leland McInnes thì khen sách mang lại sự rõ ràng và ví dụ thực hành để nhìn xuyên qua những lời thổi phồng về AI.

Dù vậy, đây không phải sách tranh. Toàn bộ code được công khai miễn phí trên GitHub, trong repo có biệt danh "The Illustrated LLM Book", theo giấy phép Apache-2.0. Mỗi chương có một notebook Colab, và tác giả khuyên chạy trên Google Colab với GPU T4 miễn phí 16GB VRAM, nên bạn chỉ cần một trình duyệt.

**Điểm mấu chốt:** Hiểu bằng hình trước, chạy code sau: đó cũng là cách giải thích LLM cho khách hàng.

Thói quen đáng mang theo nhất từ cuốn sách là thói quen vẽ. Nếu chưa vẽ được đường đi của dữ liệu, từ câu hỏi qua bước tìm kiếm đến câu trả lời, thì bạn chưa thật sự hiểu hệ thống mình đang triển khai. Gần 300 hình trong sách là mẫu để tập theo.

## Mười hai chương, nhưng FDE nên đọc theo thứ tự khác

Sách có 12 chương chia làm ba phần: Concepts, Using Pre-Trained Language Models và Training and Fine-Tuning. Thứ tự này hợp lý với người học từ đầu. Còn với FDE, nên ưu tiên theo những câu hỏi khách hàng hay đặt ra nhất.

Phần Concepts nên đọc hết vì nó là nền cho mọi cuộc trao đổi về sau. Sau đó hãy chuyển thẳng đến chương 8, Semantic Search and Retrieval-Augmented Generation. Đây là chương gần với công việc FDE nhất: cho mô hình đọc tài liệu nội bộ của khách rồi trả lời cho đúng.

## Một câu trả lời sai, lần ngược về đúng chỗ

Thử hình dung một khách hàng: một công ty bảo hiểm muốn nhân viên tổng đài tra cứu nhanh vài trăm điều khoản hợp đồng. Nhân viên hỏi: "Hợp đồng có chi trả khi khách bị tai nạn xe máy ngoài giờ làm việc không?". Hệ thống trả lời rất trôi chảy rằng có.

Thực ra, giả sử điều khoản loại trừ nằm ở mục 15 và ghi rõ là không chi trả. Mẹo gỡ lỗi là đừng vội đổi mô hình. Hãy in ra 3 đoạn văn bản mà bước tìm kiếm đã đưa cho mô hình.

Nếu cả 3 đoạn đều thuộc mục 12 nói về giờ làm việc và không có đoạn nào thuộc mục 15, thì mô hình không sai. Nó chỉ trả lời đúng theo những gì nó được đưa cho đọc.

Như vậy lỗi nằm ở bước retrieval. Có thể mục 15 bị cắt ngang khi chia đoạn, hoặc từ "loại trừ" không đủ gần nghĩa với câu hỏi. Đây là lời khuyên của người làm nghề chứ không phải nội dung của sách: khi chạy notebook chương 8, hãy tập kiểm tra riêng bước tìm kiếm trước, rồi mới xét đến bước sinh câu trả lời.

Đọc xong chương 8, bạn hãy quay lại các chương còn lại của phần hai để nắm đủ các cách dùng mô hình đã huấn luyện sẵn. Phần ba nên để sau.

## Fine-tuning là chương cuối, và nên ở cuối danh sách việc

Chương 11 và 12 bàn về fine-tuning: một bên là mô hình biểu diễn cho bài toán phân loại, một bên là mô hình sinh. Biết tách hai loại này giúp bạn chọn đúng công cụ khi khách nêu yêu cầu.

Nhiều yêu cầu của khách hàng, như phân loại email khiếu nại hay gắn nhãn phiếu hỗ trợ, thực chất là bài toán phân loại. Khi đó, tinh chỉnh một mô hình biểu diễn có thể đã đủ, không cần đụng đến mô hình sinh.

Một bài tập nhỏ để luyện phản xạ này: tự viết ra năm yêu cầu giả định, chẳng hạn "gắn nhãn khẩn cấp cho phiếu hỗ trợ" hay "soạn thư trả lời khiếu nại". Với mỗi yêu cầu, hỏi một câu: đầu ra là một nhãn trong danh sách cố định, hay một đoạn văn mới? Nếu là nhãn, hãy nghĩ đến mô hình biểu diễn trước.

Khi làm thực tế tại khách hàng, thường chỉ nên tính đến fine-tuning sau khi đã thử kỹ prompt và retrieval. Đọc phần ba là để biết khi nào việc này đáng làm, chứ không phải để làm ngay trong tuần đầu.

## Ai nên đọc, và đưa gì vào CV

Nếu bạn đã viết Python nhưng chưa từng dựng hệ thống LLM, các notebook chạy sẵn trên Colab là lối vào nhẹ nhàng nhất. Nếu bạn đã quen huấn luyện mô hình, có lẽ bạn sẽ đọc phần Concepts khá nhanh, và giá trị chính nằm ở các notebook.

Nếu đang nhắm đến vị trí FDE, hãy biến notebook chương 8 thành một dự án nhỏ trên tài liệu thật, chẳng hạn tài liệu tiếng Việt. Hãy ghi lại từng câu trả lời sai và lỗi bắt nguồn từ bước nào.

Trong CV, một dòng như "dựng RAG trên tài liệu tiếng Việt, phát hiện và sửa lỗi ở bước retrieval" thuyết phục hơn hẳn việc liệt kê khoá học đã hoàn thành. Khi đọc JD, hãy để ý các cụm như semantic search, RAG hay embedding, vì đó là những phần cuốn sách này giúp bạn luyện.

Với *Hands-On Large Language Models*, thước đo hợp lý không phải số chương đã đọc, mà là bản demo RAG bạn mang được đến buổi phỏng vấn FDE và giải thích được vì sao nó từng trả lời sai.

**Thử ngay tuần này:**

- Mở repo HandsOnLLM/Hands-On-Large-Language-Models và chạy hết notebook chương 8 trên Google Colab với GPU T4.
- Thay dữ liệu mẫu bằng 20–30 tài liệu tiếng Việt bạn được phép dùng rồi viết 10 câu hỏi thử. Với mỗi câu trả lời sai, in các đoạn được tìm về để xem lỗi nằm ở bước tìm kiếm hay ở bước sinh câu trả lời.
- Chọn một hình minh hoạ trong phần Concepts, tự vẽ lại trên giấy rồi dùng nó để giải thích cho một người không làm kỹ thuật trong 3 phút.

## Nguồn

- [Hands-On Large Language Models (llm-book.com)](https://www.llm-book.com/)

- [HandsOnLLM/Hands-On-Large-Language-Models (GitHub)](https://github.com/HandsOnLLM/Hands-On-Large-Language-Models)

- [Hands-On Large Language Models (Maarten Grootendorst's newsletter)](https://newsletter.maartengrootendorst.com/p/hands-on-large-language-models)