Building Agentic RAG with LlamaIndex: giữ lại tư duy, đừng giữ lại code

Một câu hỏi như “so sánh điều khoản phạt trong ba hợp đồng này” là chỗ hầu hết các bản demo RAG gãy. Truy xuất một lần rồi trả lời là không đủ.

Hệ thống phải tự biết lúc nào cần tìm một chi tiết cụ thể, lúc nào cần tóm tắt, và lúc nào phải đọc lần lượt từng tài liệu. Khoá học ngắn Building Agentic RAG with LlamaIndex của DeepLearning.AI dựng đúng loại hệ thống đó.

Người dạy là Jerry Liu, đồng sáng lập kiêm CEO của LlamaIndex, và LlamaIndex là đối tác của khoá học. Trang giới thiệu hứa sẽ giúp bạn dựng một agent biết suy luận trên tài liệu của chính bạn và trả lời được những câu hỏi phức tạp.

Khoá học ở mức người mới, gồm 6 bài video, 4 ví dụ code và một bài tập có chấm điểm, tổng cộng khoảng 54 phút. Trang khoá học ghi lần cập nhật gần nhất là ngày 7/10/2025.

Với FDE, đây là cách nhanh để có vốn từ chung khi khách hàng nói “chúng tôi muốn một agent đọc tài liệu”. Nhưng giá trị thật của khoá học nằm ở tư duy. Phần code nên đọc với con mắt hoài nghi.

Khoá học xếp các ý theo thứ tự nào?

Ở bài giới thiệu, Liu chia khoá học thành ba lớp: routing trước, tool use sau, cuối cùng là suy luận nhiều bước có bộ nhớ. Bài thực hành bám đúng trình tự đó.

Bạn dựng một router agent chọn giữa hỏi đáp và tóm tắt, rồi mở rộng nó để truyền tham số cho công cụ, và cuối cùng làm một research agent xử lý nhiều tài liệu cùng lúc, kèm các cách debug và điều khiển nó.

Thứ tự này đáng học vì nó cũng là thứ tự nên áp dụng ở chỗ khách hàng. Mỗi lớp thêm vào một khả năng, đồng thời thêm một chỗ có thể hỏng. Nếu router còn chọn sai công cụ thì vòng suy luận nhiều bước chỉ làm lỗi to hơn.

Router là tầng quyết định rẻ nhất để đo

Thử hình dung một khách hàng pháp chế có kho hợp đồng. Câu hỏi “hợp đồng A có điều khoản phạt chậm giao hàng không?” cần công cụ hỏi đáp để tìm một đoạn cụ thể.

Câu hỏi “hợp đồng A nói về gì?” cần công cụ tóm tắt đọc toàn văn. Gửi nhầm câu thứ hai sang công cụ hỏi đáp thì bạn nhận về vài đoạn rời rạc và một bản tóm tắt sai.

Router chỉ làm một quyết định: câu hỏi này thuộc loại nào. Vì quyết định ấy nhỏ, bạn chấm được nó trước khi bàn đến agent phức tạp hơn.

Một ví dụ giả định: bạn xin người dùng 20 câu hỏi thật, gắn nhãn 12 câu là hỏi đáp và 8 câu là tóm tắt. Router chọn đúng 17 câu, tức 85%. Con số chung chưa nói nhiều bằng việc xem 3 câu sai rơi vào đâu.

Giả sử cả 3 đều là câu tóm tắt bị gửi sang hỏi đáp, kiểu “điểm chính của hợp đồng B là gì?”. Khi đó hãy viết lại mô tả của hai công cụ cho rõ ranh giới, rồi chạy lại đúng 20 câu ấy. Giữ bộ câu cố định để mỗi lần sửa bạn biết mình tiến hay lùi.

Tham số cho công cụ là ranh giới dữ liệu

Bước mở rộng thứ hai của khoá học là cho LLM tự điền tham số khi gọi công cụ. Ở chỗ khách hàng, tham số thường là số trang, tên tài liệu hoặc khoảng thời gian, tức là chính phạm vi dữ liệu mà agent được phép đọc. Một câu như “trang 5 của hợp đồng B ghi gì” chỉ trả lời đúng khi tham số trang được điền đúng.

Lời khuyên là ghi log mọi tham số mà agent tự điền. Khi khách hàng phàn nàn câu trả lời sai, hãy mở log tham số trước rồi mới nghi đến mô hình, vì đó là chỗ rẻ nhất để loại trừ.

Debug và quyền điều khiển của con người

Bài 4, về vòng suy luận của agent, là phần dùng được ngay nhiều nhất khi làm cho khách hàng thật. Liu hướng dẫn cách đi qua từng bước agent đang làm và dùng chính những bước đó để cải thiện agent, tức là observability ở dạng cơ bản nhất.

Ông cũng gọi việc để người dùng tuỳ ý chèn hướng dẫn vào các bước trung gian là một công cụ rất mạnh.

Với câu hỏi so sánh ba hợp đồng, người dùng có thể thấy agent đã đọc xong hợp đồng thứ nhất rồi nói “bỏ qua phụ lục, chỉ xem điều khoản chính”. Khi demo cho khách hàng, được tận mắt thấy từng bước và chen vào được như vậy thường giúp họ yên tâm hơn so với một hộp đen chỉ trả về đáp án cuối.

Bỏ gì: code vòng lặp agent

Tài liệu chính thức của LlamaIndex hiện ghi AgentRunner và AgentWorker đã bị khai tử để nhường chỗ cho AgentWorkflow và Workflows, còn QueryPipeline cũng bị khai tử để nhường chỗ cho Workflows. Trang khoá học không nói các notebook dùng lớp nào. Vì vậy, hãy tự mở notebook ra kiểm tra trước khi chép bất cứ đoạn code vòng lặp agent nào vào dự án của khách hàng.

Cách học hợp lý là chạy notebook để hiểu luồng chạy, sau đó tự viết lại bằng API hiện hành. Bài tập viết lại này có ích hơn chính khoá học, vì nó buộc bạn hiểu từng bước thay vì chỉ chạy lại cell.

Ai nên học, và học theo thứ tự nào?

Khoá học hợp nhất với kỹ sư đã từng làm RAG cơ bản và sắp nhận dự án agent đầu tiên. Nếu bạn đã chạy agent trên production thì có thể xem nhanh bài 4 rồi bỏ qua phần còn lại. Trên Coursera, khoá học được gắn các kỹ năng Tool Calling, RAG và Debugging.

Nên học sớm: DeepLearning.AI chỉ cho học miễn phí trong thời gian giới hạn, khi nền tảng học của họ còn ở giai đoạn beta, nên điều kiện có thể đổi. Muốn lấy chứng chỉ thì phải có gói PRO.

Học xong, bước tiếp theo tự nhiên là Event-Driven Agentic Document Workflows, cũng của DeepLearning.AI với LlamaIndex, do Laurie Voss dạy. Khoá này đi vào workflow hướng sự kiện có rẽ nhánh, vòng lặp và chạy song song, gần với cách LlamaIndex làm hiện nay hơn.

Một repo dựng lại router agent trên một bộ tài liệu thật, có bảng tỉ lệ router chọn đúng công cụ trên bộ câu hỏi gắn nhãn và một trace cho thấy người dùng chen vào giữa vòng suy luận, sẽ chứng minh từng kỹ năng ấy rõ hơn hẳn.

Khoá học cho bạn bộ khung. Bộ khung đó chạy được trên dữ liệu thật hay không là phần bạn phải tự chứng minh.