Tối ưu mức dùng AI credit trong VS Code · Guides

Mỗi gói GitHub Copilot có hạn mức AI credits hằng tháng; mỗi hành động tiêu credit khác nhau tuỳ model và số token xử lý. Bài này tóm tắt các cách thực tế để dùng credit hiệu quả trong VS Code.

Chọn model dựa trên bằng chứng

Model rẻ nhất chưa chắc cho kết quả rẻ nhất: model phải thử lại nhiều lần hoặc gây làm lại có thể tốn hơn một model mạnh làm xong ngay. Ngược lại, tác vụ đơn giản, lặp lại không cần model suy luận phức tạp.

Bắt đầu từ bảng so sánh model và thực hành chọn model, rồi so sánh trên tác vụ tiêu biểu của chính bạn:

Xác định kết quả mong đợi và cách đánh giá chất lượng.
Chạy mỗi tác vụ nhiều lần vì output của model không tất định.
So sánh mức hoàn thành, chất lượng, độ ổn định, thời gian và credit.
Chọn model rẻ nhất luôn đạt yêu cầu, và đánh giá lại khi model thay đổi.

Để đỡ công, dùng auto model selection: VS Code tự chọn model hiệu quả theo độ phức tạp tác vụ, tình trạng và khả năng sẵn có của model. Với quy trình (workflow) lặp lại, đặt model ưu tiên trong custom agent. Bộ chọn model trong chat hiện chi phí khi rê chuột (chi phí theo loại token và nhãn Low, Medium, High). Agent Debug Logs giúp so sánh token, lời gọi tool, lỗi và thời gian giữa các lần chạy. Xem thêm chọn và cấu hình model.

Lập kế hoạch và giao việc trước khi hiện thực (implement)

Nhảy thẳng vào sinh code dễ phí credit nếu hướng tiếp cận sai. Tách lập kế hoạch, hiện thực và review để mỗi giai đoạn dùng model phù hợp:

Dùng Plan agent với model suy luận mạnh để nghiên cứu và lập kế hoạch có cấu trúc.
Rà soát, tinh chỉnh kế hoạch trước khi agent viết code.
Chia kế hoạch đã duyệt thành các tác vụ có phạm vi rõ.
Giao các tác vụ đó cho custom agent chạy dưới dạng sub-agent, mỗi worker có model tiết kiệm, chỉ dẫn tập trung và chỉ những tool cần thiết.
Để agent chính đánh giá kết quả và xử lý phần cần ngữ cảnh (context) rộng hoặc suy luận mạnh hơn.

Mẫu điều phối viên và worker này giữ agent chính tập trung vào lập kế hoạch và đánh giá. Bản thân việc giao việc cũng tốn token, nên giữ tác vụ nhỏ trong session chính khi việc tách ra và dùng model rẻ hơn không bù được chi phí điều phối. Xem thêm plan first, then implement.

Giữ thinking effort mặc định

Thinking effort quyết định model suy luận bao nhiêu cho mỗi yêu cầu (request); mức cao sinh nhiều thinking token hơn, tăng cả độ trễ lẫn credit. VS Code đặt mức mặc định dựa trên đánh giá và bật adaptive reasoning, để model tự quyết suy nghĩ bao nhiêu theo độ phức tạp. Phần lớn tác vụ chỉ cần mặc định; chỉ tăng cho bài toán thật sự phức tạp như lập kế hoạch kiến trúc hay debug nhiều bước. Xem cấu hình thinking effort.

Quản lý hội thoại

Chat mới cho tác vụ mới: hội thoại dài tích luỹ tin nhắn cũ, output tool, nội dung file. Chuyển sang việc không liên quan trong cùng session thì model vẫn phải xử lý lịch sử thừa đó. Mở agent session mới (lệnh workbench.action.chat.newChat) để có cửa sổ ngữ cảnh (context window) sạch.
Fork hội thoại: muốn thử hướng khác hoặc hỏi bên lề, fork thay vì prompt lại từ đầu. Session mới kế thừa lịch sử. Gõ /fork để fork toàn bộ tới tin nhắn hiện tại, hoặc rê chuột lên một tin nhắn trước và chọn Fork Conversation.
Nén ngữ cảnh: hội thoại dài thì dùng /compact để tóm tắt phần cũ và giải phóng cửa sổ ngữ cảnh, có thể kèm chỉ dẫn, ví dụ /compact focus on the API design decisions. Xem context compaction.

Thu hẹp danh mục tool

Danh mục tool lớn làm tăng input và khiến việc chọn tool phức tạp hơn; output của mỗi lời gọi tool cũng chiếm cửa sổ ngữ cảnh. Chỉ bật tool cần cho tác vụ:

Dùng nút Configure Tools trong ô chat để chọn từng tool hoặc MCP server cho yêu cầu hiện tại.
Trong custom agent, dùng thuộc tính tools để giới hạn bộ tool theo tác vụ.

Tổ chức có danh mục tool nội bộ lớn có thể cung cấp một CLI được tuyển chọn cho quy trình phổ biến, để agent gọi qua terminal tool thay vì nạp từng thao tác thành một MCP tool. Cách này đòi hỏi tổ chức tự duy trì và bảo mật CLI đó. Xem use tools with agents.

Gộp thao tác lặp lại

Chuỗi gọi tool submit, poll, retrieve lặp lại sẽ đẩy kết quả trung gian vào ngữ cảnh. Với quy trình tất định hoặc hàng loạt, dùng script hay CLI để chạy vòng lặp bên ngoài hội thoại và chỉ trả kết quả cuối. Ví dụ, thay vì để agent chạy từng truy vấn database, dùng một script đã review chạy cả loạt truy vấn và xuất bản tóm tắt ngắn, rồi đưa bản tóm tắt cho model phân tích. Hãy đo cả hai cách vì mức tiết kiệm tuỳ tool, kết quả và tác vụ.

Neo agent trước khi khám phá rộng

Ngữ cảnh đúng giúp agent tránh tìm kiếm thất bại, gọi tool thừa và sửa sai:

Đảm bảo workspace semantic index sẵn sàng; dùng #codebase khi muốn neo yêu cầu vào codebase đã index.
Đưa file, lỗi, ràng buộc và tiêu chí thành công liên quan vào prompt.
Dùng tìm kiếm theo symbol và MCP hoặc CLI tập trung cho dữ liệu chính thống của dự án và tổ chức.
Đưa quy ước ổn định vào custom instructions để agent không phải tìm lại mỗi session.

Mục tiêu là thu hẹp phạm vi tìm, không phải nạp sẵn mọi nguồn: chỉ đưa tập ngữ cảnh chính thống nhỏ nhất đủ để hoàn thành tác vụ.

Loại file khỏi ngữ cảnh chat

File sinh tự động lớn, output build hay thư mục không liên quan làm tăng token mà không thêm giá trị:

.gitignore loại file khỏi workspace index và khỏi tìm kiếm văn bản, grep của agent.
Setting files.exclude ẩn hẳn file khỏi VS Code, đồng thời loại khỏi index và tool tìm kiếm của agent.
Setting search.exclude loại file khỏi tìm kiếm văn bản và grep của agent nhưng vẫn hiện trong Explorer, ví dụ file log bạn muốn tự mở.

Đoạn trích kết quả tìm kiếm vẫn tính vào cửa sổ ngữ cảnh dù agent không mở file. Xem cấu hình mẫu tại improve agent search with exclusion settings.

Theo dõi mức dùng

Từng yêu cầu: rê chuột lên phản hồi chat để xem credit của lượt đó.
Cả session: rê chuột hoặc chọn control cửa sổ ngữ cảnh trong ô chat; popover hiện tổng credit và tổng token ngữ cảnh của session.
Cả tháng: mở Copilot status dashboard từ Status Bar để xem phần trăm hạn mức AI credits đã dùng (và gợi ý inline với gói Copilot Free). Chi tiết ở tài liệu GitHub Copilot về theo dõi mức dùng.

Lệnh /chronicle:cost-tips trong chat cho gợi ý tối ưu credit dựa trên hoạt động gần đây. Xem session insights và lệnh chronicle.

Kiểm tra token và cache

Trong Agent Debug Logs, Summary view cho thấy tổng token, tổng lời gọi tool và thời gian của session; Cache Explorer view cho thấy tỉ lệ cache hit của prompt và số input token được tái dùng. Prompt caching cho phép nhà cung cấp model tái dùng phần đầu yêu cầu trùng với yêu cầu trước, giảm độ trễ và chi phí.

Dùng các số đo này như một vòng tối ưu:

Chạy một tác vụ tiêu biểu, ghi lại chất lượng, độ ổn định, credit, token, thời gian, lời gọi tool và lỗi.
Đổi một biến: model, tool, cách giao việc hoặc nguồn ngữ cảnh.
Chạy lại và so sánh.
Giữ cấu hình đạt ngưỡng chất lượng với chi phí thấp nhất.

Tài liệu liên quan

Nguồn

Tóm tắt từ https://raw.githubusercontent.com/microsoft/vscode-docs/main/docs/agents/guides/optimize-usage.md, giấy phép CC-BY-3.0-US.