Skip to content
Agent Skill Hub
VI
Lesson 5/11 · AI Agent cho người mới bắt đầu (Microsoft)

Agentic RAG

Agentic RAG là gì, vòng lặp maker-checker, cách hệ thống tự làm chủ quá trình suy luận, tự sửa lỗi, giới hạn của agency và các vấn đề quản trị, minh bạch.

This content is currently available in Vietnamese only.

Beginner@shine190415 min read

Bài này trình bày tổng quan toàn diện về Agentic Retrieval-Augmented Generation (Agentic RAG), một mô hình AI mới nổi trong đó Large Language Model (LLM) tự chủ lập kế hoạch các bước tiếp theo trong khi lấy thông tin từ nguồn bên ngoài. Khác với mẫu tĩnh "truy xuất rồi đọc", Agentic RAG gồm các lần gọi LLM lặp lại, xen kẽ với lời gọi tool hoặc hàm và đầu ra có cấu trúc. Hệ thống đánh giá kết quả, tinh chỉnh truy vấn, gọi thêm tool nếu cần và tiếp tục chu trình này cho đến khi đạt được lời giải thoả đáng.

Video của bài: Agentic RAG.

Giới thiệu

Bài này đề cập:

  • Hiểu Agentic RAG: tìm hiểu mô hình AI mới nổi, nơi LLM tự chủ lập kế hoạch bước tiếp theo trong khi lấy thông tin từ nguồn dữ liệu bên ngoài.
  • Nắm phong cách lặp maker-checker: hiểu vòng lặp gọi LLM nhiều lần, xen kẽ với lời gọi tool hoặc hàm và đầu ra có cấu trúc, nhằm cải thiện độ chính xác và xử lý truy vấn sai định dạng.
  • Khám phá ứng dụng thực tế: nhận ra các kịch bản Agentic RAG toả sáng, như môi trường đặt độ chính xác lên hàng đầu, tương tác cơ sở dữ liệu phức tạp và quy trình kéo dài.

Mục tiêu học tập

Sau bài này, bạn sẽ biết/hiểu:

  • Hiểu Agentic RAG: mô hình AI mới nổi, nơi LLM tự chủ lập kế hoạch bước tiếp theo trong khi lấy thông tin từ nguồn dữ liệu bên ngoài.
  • Phong cách lặp maker-checker: khái niệm vòng lặp gọi LLM nhiều lần, xen kẽ lời gọi tool hoặc hàm và đầu ra có cấu trúc, nhằm cải thiện độ chính xác và xử lý truy vấn sai định dạng.
  • Làm chủ quá trình suy luận: khả năng hệ thống tự làm chủ quá trình suy luận, tự quyết định cách tiếp cận vấn đề mà không dựa vào lộ trình định sẵn.
  • Quy trình: cách một model agentic tự quyết định truy xuất báo cáo xu hướng thị trường, xác định dữ liệu đối thủ, đối chiếu số liệu bán hàng nội bộ, tổng hợp kết quả và đánh giá chiến lược.
  • Vòng lặp, tích hợp tool và bộ nhớ: việc hệ thống dựa vào mẫu tương tác vòng lặp, duy trì trạng thái và bộ nhớ qua các bước để tránh lặp vô ích và ra quyết định có căn cứ.
  • Xử lý tình huống thất bại và tự sửa lỗi: các cơ chế tự sửa lỗi vững chắc của hệ thống, gồm lặp và truy vấn lại, dùng tool chẩn đoán và nhờ con người giám sát khi cần.
  • Giới hạn của agency: các giới hạn của Agentic RAG, tập trung vào tính tự chủ trong một lĩnh vực cụ thể, sự phụ thuộc hạ tầng và việc tôn trọng các rào chắn (guardrail).
  • Trường hợp sử dụng thực tế và giá trị: các kịch bản Agentic RAG toả sáng, như môi trường đặt độ chính xác lên hàng đầu, tương tác cơ sở dữ liệu phức tạp và quy trình kéo dài.
  • Quản trị, minh bạch và niềm tin: tầm quan trọng của quản trị và minh bạch, gồm suy luận giải thích được, kiểm soát thiên lệch và sự giám sát của con người.

Agentic RAG là gì?

Agentic Retrieval-Augmented Generation (Agentic RAG) là một mô hình AI mới nổi, nơi LLM tự chủ lập kế hoạch các bước tiếp theo trong khi lấy thông tin từ nguồn bên ngoài. Khác với mẫu tĩnh "truy xuất rồi đọc", Agentic RAG gồm các lần gọi LLM lặp lại, xen kẽ với lời gọi tool hoặc hàm và đầu ra có cấu trúc. Hệ thống đánh giá kết quả, tinh chỉnh truy vấn, gọi thêm tool nếu cần và tiếp tục chu trình này cho đến khi đạt lời giải thoả đáng. Phong cách lặp "maker-checker" (người làm - người kiểm) này cải thiện độ chính xác, xử lý truy vấn sai định dạng và đảm bảo kết quả chất lượng cao.

Hệ thống chủ động làm chủ quá trình suy luận của mình: viết lại các truy vấn thất bại, chọn phương pháp truy xuất khác và tích hợp nhiều tool (như vector search trong Azure AI Search, cơ sở dữ liệu SQL hay API tuỳ chỉnh) trước khi chốt câu trả lời. Phẩm chất phân biệt của một hệ thống agentic là khả năng làm chủ quá trình suy luận của nó. Các cách cài đặt RAG truyền thống dựa vào lộ trình định sẵn, còn hệ thống agentic tự xác định chuỗi các bước dựa trên chất lượng thông tin nó tìm được.

Định nghĩa Agentic Retrieval-Augmented Generation (Agentic RAG)

Agentic RAG là một mô hình mới nổi trong phát triển AI, nơi LLM không chỉ lấy thông tin từ nguồn dữ liệu bên ngoài mà còn tự chủ lập kế hoạch các bước tiếp theo. Khác với mẫu tĩnh "truy xuất rồi đọc" hay các chuỗi prompt được viết kịch bản cẩn thận, Agentic RAG gồm một vòng lặp gọi LLM nhiều lần, xen kẽ với lời gọi tool hoặc hàm và đầu ra có cấu trúc. Ở mỗi lượt, hệ thống đánh giá kết quả thu được, quyết định có cần tinh chỉnh truy vấn không, gọi thêm tool nếu cần và tiếp tục chu trình cho đến khi đạt lời giải thoả đáng.

Phong cách vận hành lặp "maker-checker" này được thiết kế để cải thiện độ chính xác, xử lý các truy vấn sai định dạng tới cơ sở dữ liệu có cấu trúc (ví dụ NL2SQL) và đảm bảo kết quả cân bằng, chất lượng cao. Thay vì chỉ dựa vào các chuỗi prompt được thiết kế công phu, hệ thống chủ động làm chủ quá trình suy luận. Nó có thể viết lại truy vấn thất bại, chọn phương pháp truy xuất khác và tích hợp nhiều tool (như vector search trong Azure AI Search, cơ sở dữ liệu SQL hay API tuỳ chỉnh) trước khi chốt câu trả lời. Điều này loại bỏ nhu cầu dùng các framework điều phối quá phức tạp. Thay vào đó, một vòng lặp tương đối đơn giản "gọi LLM → dùng tool → gọi LLM → …" có thể tạo ra đầu ra tinh vi và có căn cứ vững chắc.

Vòng lặp cốt lõi của Agentic RAG

Làm chủ quá trình suy luận

Phẩm chất phân biệt khiến một hệ thống trở nên "agentic" là khả năng làm chủ quá trình suy luận của nó. Các cách cài đặt RAG truyền thống thường phụ thuộc vào việc con người định sẵn lộ trình cho model: một chain-of-thought vạch ra cần truy xuất gì và khi nào.

Nhưng khi một hệ thống thật sự agentic, nó tự quyết định bên trong cách tiếp cận vấn đề. Nó không chỉ chạy một kịch bản; nó tự chủ xác định chuỗi các bước dựa trên chất lượng thông tin tìm được. Ví dụ, nếu được yêu cầu lập chiến lược ra mắt sản phẩm, nó không chỉ dựa vào một prompt mô tả toàn bộ quy trình nghiên cứu và ra quyết định. Thay vào đó, model agentic tự quyết định:

  1. Truy xuất báo cáo xu hướng thị trường hiện tại bằng Bing Web Grounding
  2. Xác định dữ liệu đối thủ liên quan bằng Azure AI Search.
  3. Đối chiếu số liệu bán hàng nội bộ trong quá khứ bằng Azure SQL Database.
  4. Tổng hợp các phát hiện thành một chiến lược mạch lạc, được điều phối qua Azure OpenAI Service.
  5. Đánh giá chiến lược để tìm lỗ hổng hoặc điểm mâu thuẫn, và khởi động thêm một vòng truy xuất nếu cần.

Tất cả các bước này (tinh chỉnh truy vấn, chọn nguồn, lặp cho đến khi "hài lòng" với câu trả lời) đều do model quyết định, không phải do con người viết kịch bản sẵn.

Vòng lặp, tích hợp tool và bộ nhớ

Kiến trúc tích hợp tool

Một hệ thống agentic dựa vào mẫu tương tác vòng lặp:

  • Lời gọi ban đầu: mục tiêu của người dùng (tức prompt của người dùng) được đưa cho LLM.
  • Gọi tool: nếu model nhận ra còn thiếu thông tin hoặc chỉ dẫn mơ hồ, nó chọn một tool hoặc phương pháp truy xuất (như truy vấn vector database, ví dụ Azure AI Search Hybrid search trên dữ liệu riêng, hoặc một lời gọi SQL có cấu trúc) để thu thập thêm ngữ cảnh.
  • Đánh giá và tinh chỉnh: sau khi xem dữ liệu trả về, model quyết định thông tin đã đủ chưa. Nếu chưa, nó tinh chỉnh truy vấn, thử tool khác hoặc điều chỉnh cách tiếp cận.
  • Lặp đến khi hài lòng: chu trình này tiếp tục cho đến khi model xác định đã có đủ sự rõ ràng và bằng chứng để đưa ra câu trả lời cuối cùng có lập luận tốt.
  • Bộ nhớ và trạng thái: vì hệ thống duy trì trạng thái và bộ nhớ qua các bước, nó có thể nhớ lại các lần thử trước và kết quả của chúng, tránh vòng lặp lặp lại và ra quyết định có căn cứ hơn khi tiến triển.

Theo thời gian, điều này tạo ra cảm giác về một sự hiểu biết đang tiến hoá, cho phép model xử lý các tác vụ phức tạp nhiều bước mà không cần con người liên tục can thiệp hay viết lại prompt.

Xử lý tình huống thất bại và tự sửa lỗi

Tính tự chủ của Agentic RAG cũng bao gồm các cơ chế tự sửa lỗi vững chắc. Khi hệ thống đi vào ngõ cụt, như truy xuất phải tài liệu không liên quan hoặc gặp truy vấn sai định dạng, nó có thể:

  • Lặp và truy vấn lại: thay vì trả về câu trả lời kém giá trị, model thử chiến lược tìm kiếm mới, viết lại truy vấn cơ sở dữ liệu hoặc xem các tập dữ liệu khác.
  • Dùng tool chẩn đoán: hệ thống có thể gọi thêm các hàm được thiết kế để giúp nó gỡ lỗi các bước suy luận hoặc xác nhận độ chính xác của dữ liệu truy xuất. Các tool như Azure AI Tracing sẽ quan trọng để có khả năng quan sát và giám sát vững chắc.
  • Nhờ con người giám sát: với các kịch bản rủi ro cao hoặc thất bại lặp lại, model có thể đánh dấu sự không chắc chắn và xin hướng dẫn của con người. Khi con người đưa phản hồi sửa sai, model có thể áp dụng bài học đó cho các bước tiếp theo.

Cách tiếp cận lặp và linh hoạt này cho phép model cải thiện liên tục, đảm bảo nó không chỉ là hệ thống làm một lần mà là hệ thống học từ sai sót của mình trong một phiên làm việc.

Cơ chế tự sửa lỗi

Giới hạn của agency

Dù tự chủ trong một tác vụ, Agentic RAG không tương đương với Artificial General Intelligence (trí tuệ nhân tạo tổng quát). Khả năng "agentic" của nó bị giới hạn trong các tool, nguồn dữ liệu và chính sách do nhà phát triển cung cấp. Nó không thể tự phát minh tool hay bước ra ngoài ranh giới lĩnh vực đã đặt. Thay vào đó, nó giỏi điều phối linh hoạt các tài nguyên có sẵn. Các khác biệt chính so với những dạng AI tiên tiến hơn gồm:

  1. Tự chủ trong một lĩnh vực cụ thể: hệ thống Agentic RAG tập trung đạt mục tiêu do người dùng đặt ra trong một lĩnh vực đã biết, dùng các chiến lược như viết lại truy vấn hay chọn tool để cải thiện kết quả.
  2. Phụ thuộc hạ tầng: khả năng của hệ thống phụ thuộc vào tool và dữ liệu do nhà phát triển tích hợp. Nó không thể vượt qua các ranh giới này nếu không có con người can thiệp.
  3. Tôn trọng rào chắn: các hướng dẫn đạo đức, quy tắc tuân thủ và chính sách kinh doanh vẫn rất quan trọng. Sự tự do của agent luôn bị ràng buộc bởi các biện pháp an toàn và cơ chế giám sát (hy vọng là vậy?).

Trường hợp sử dụng thực tế và giá trị

Agentic RAG toả sáng trong các kịch bản cần tinh chỉnh lặp lại và độ chính xác:

  1. Môi trường đặt độ chính xác lên hàng đầu: trong kiểm tra tuân thủ, phân tích quy định hay nghiên cứu pháp lý, model agentic có thể liên tục xác minh sự kiện, tham khảo nhiều nguồn và viết lại truy vấn cho đến khi đưa ra câu trả lời đã được kiểm chứng kỹ.
  2. Tương tác cơ sở dữ liệu phức tạp: khi làm việc với dữ liệu có cấu trúc, nơi truy vấn thường thất bại hoặc cần điều chỉnh, hệ thống có thể tự tinh chỉnh truy vấn bằng Azure SQL hoặc Microsoft Fabric OneLake, đảm bảo kết quả truy xuất cuối cùng khớp với ý định của người dùng.
  3. Quy trình kéo dài: các phiên chạy lâu có thể thay đổi khi thông tin mới xuất hiện. Agentic RAG có thể liên tục đưa dữ liệu mới vào, chuyển chiến lược khi hiểu thêm về không gian vấn đề.

Quản trị, minh bạch và niềm tin

Khi các hệ thống này ngày càng tự chủ trong suy luận, quản trị và minh bạch trở nên then chốt:

  • Suy luận giải thích được: model có thể cung cấp dấu vết kiểm toán về các truy vấn đã thực hiện, các nguồn đã tham khảo và các bước suy luận đã đi qua để đến kết luận. Các tool như Azure AI Content Safety và Azure AI Tracing / GenAIOps có thể giúp duy trì minh bạch và giảm thiểu rủi ro.
  • Kiểm soát thiên lệch và truy xuất cân bằng: nhà phát triển có thể tinh chỉnh chiến lược truy xuất để đảm bảo các nguồn dữ liệu cân bằng, mang tính đại diện được xem xét, và thường xuyên kiểm tra đầu ra để phát hiện thiên lệch hoặc mẫu lệch, dùng các model tuỳ chỉnh cho các tổ chức khoa học dữ liệu nâng cao với Azure Machine Learning.
  • Giám sát của con người và tuân thủ: với các tác vụ nhạy cảm, việc con người xem xét vẫn là thiết yếu. Agentic RAG không thay thế phán đoán của con người trong các quyết định rủi ro cao, mà bổ trợ cho nó bằng cách đưa ra các lựa chọn đã được kiểm chứng kỹ hơn.

Có tool cung cấp bản ghi rõ ràng về các hành động là điều thiết yếu. Không có chúng, việc gỡ lỗi một quá trình nhiều bước có thể rất khó. Xem ví dụ sau từ Literal AI (công ty đứng sau Chainlit) cho một lượt chạy agent:

Ví dụ một lượt chạy agent

Kết luận

Agentic RAG thể hiện một bước tiến hoá tự nhiên trong cách hệ thống AI xử lý các tác vụ phức tạp, nặng về dữ liệu. Bằng cách áp dụng mẫu tương tác vòng lặp, tự chọn tool và tinh chỉnh truy vấn cho đến khi đạt kết quả chất lượng cao, hệ thống vượt ra ngoài việc làm theo prompt tĩnh để trở thành một bên ra quyết định thích nghi hơn, nhận biết ngữ cảnh tốt hơn. Dù vẫn bị giới hạn bởi hạ tầng và hướng dẫn đạo đức do con người đặt ra, các khả năng agentic này mang lại những tương tác AI phong phú, linh hoạt hơn và rốt cuộc hữu ích hơn cho cả doanh nghiệp lẫn người dùng cuối.

Còn câu hỏi về Agentic RAG?

Tham gia Microsoft Foundry Discord để gặp gỡ những người cùng học, dự các buổi office hours và được giải đáp thắc mắc về AI agent.

Tài liệu bổ sung

Bài báo học thuật

Kiểm thử nhanh agent này (tuỳ chọn)

Sau khi học cách triển khai agent ở bài 16 của khoá gốc, bạn có thể kiểm thử nhanh TravelRAGAgent của bài này (kiểm tra câu trả lời vẫn bám vào cơ sở tri thức) bằng tests/lesson-05-smoke-tests.json. Xem tests/README.md để biết cách chạy.

Nguồn