Dùng AI tạo sinh có trách nhiệm

Rất dễ bị cuốn hút bởi AI, đặc biệt là AI tạo sinh (generative AI), nhưng bạn cần nghĩ tới cách dùng nó có trách nhiệm: làm sao để đầu ra công bằng, không gây hại, và hơn thế nữa. Bài này cho bạn bối cảnh đó, những điều cần cân nhắc và các bước chủ động để cải thiện cách bạn dùng AI.

Video bài học (tiếng Anh): xem trên YouTube.

Giới thiệu

Bài này gồm:

• Vì sao nên ưu tiên AI có trách nhiệm (Responsible AI) khi xây ứng dụng AI tạo sinh.
• Các nguyên tắc cốt lõi của AI có trách nhiệm và liên hệ của chúng với AI tạo sinh.
• Cách đưa các nguyên tắc này vào thực tế bằng chiến lược và công cụ.

Mục tiêu học tập

Sau bài này, bạn sẽ biết:

• Tầm quan trọng của AI có trách nhiệm khi xây ứng dụng AI tạo sinh.
• Khi nào cần nghĩ tới và áp dụng các nguyên tắc cốt lõi của AI có trách nhiệm.
• Những công cụ và chiến lược có sẵn để đưa AI có trách nhiệm vào thực tế.

Các nguyên tắc AI có trách nhiệm

Sự hào hứng với AI tạo sinh chưa bao giờ cao như bây giờ. Nó kéo theo nhiều lập trình viên mới, sự chú ý và nguồn vốn vào lĩnh vực này. Điều đó rất tích cực với những ai muốn xây sản phẩm và công ty dựa trên AI tạo sinh, nhưng cũng quan trọng là chúng ta phải tiến lên một cách có trách nhiệm.

Trong suốt khoá học, chúng ta tập trung xây startup và sản phẩm giáo dục AI của mình. Chúng ta sẽ dùng các nguyên tắc của AI có trách nhiệm: Công bằng (Fairness), Hoà nhập (Inclusiveness), Tin cậy/An toàn (Reliability/Safety), Bảo mật & Quyền riêng tư (Security & Privacy), Minh bạch (Transparency) và Trách nhiệm giải trình (Accountability). Với các nguyên tắc này, chúng ta sẽ xem chúng liên quan thế nào tới việc dùng AI tạo sinh trong sản phẩm.

Vì sao nên ưu tiên AI có trách nhiệm

Khi xây sản phẩm, cách tiếp cận lấy con người làm trung tâm, luôn đặt lợi ích tốt nhất của người dùng lên đầu, sẽ cho kết quả tốt nhất.

Điểm đặc biệt của AI tạo sinh là khả năng tạo ra câu trả lời, thông tin, hướng dẫn và nội dung hữu ích cho người dùng mà không cần nhiều bước thủ công, nhờ đó cho kết quả rất ấn tượng. Nhưng nếu không có kế hoạch và chiến lược phù hợp, nó cũng có thể gây hại cho người dùng, cho sản phẩm và cho cả xã hội.

Hãy xem một số (không phải tất cả) kết quả có thể gây hại:

Ảo giác

Ảo giác (hallucination) là thuật ngữ chỉ việc LLM tạo ra nội dung hoàn toàn vô nghĩa, hoặc điều mà ta biết là sai sự thật dựa trên các nguồn thông tin khác.

Ví dụ, startup của chúng ta xây một tính năng cho phép học sinh hỏi model các câu hỏi lịch sử. Một học sinh hỏi Who was the sole survivor of Titanic? (Ai là người sống sót duy nhất của tàu Titanic?)

Model trả lời như sau:

(Nguồn: Flying bisons)

Đây là một câu trả lời rất tự tin và chi tiết. Tiếc là nó sai. Chỉ cần tìm hiểu sơ qua cũng thấy thảm hoạ Titanic có nhiều hơn một người sống sót. Với một học sinh mới bắt đầu tìm hiểu chủ đề, câu trả lời này đủ thuyết phục để không bị nghi ngờ và được coi là sự thật. Hệ quả là hệ thống AI trở nên không đáng tin và ảnh hưởng xấu tới uy tín của startup.

Qua mỗi phiên bản của một LLM, chúng ta thấy hiệu năng được cải thiện trong việc giảm ảo giác. Dù vậy, là người xây ứng dụng và người dùng, chúng ta vẫn cần ý thức về các giới hạn này.

Nội dung độc hại

Mục trước nói về việc LLM tạo ra câu trả lời sai hoặc vô nghĩa. Một rủi ro khác cần lưu ý là model trả lời bằng nội dung độc hại.

Nội dung độc hại có thể là:

• Hướng dẫn hoặc khuyến khích tự làm hại bản thân hoặc làm hại một số nhóm người.
• Nội dung thù ghét hoặc hạ thấp người khác.
• Hướng dẫn lên kế hoạch tấn công hoặc hành vi bạo lực.
• Hướng dẫn cách tìm nội dung bất hợp pháp hoặc thực hiện hành vi bất hợp pháp.
• Hiển thị nội dung khiêu dâm.

Với startup của chúng ta, cần đảm bảo có đúng công cụ và chiến lược để ngăn học sinh nhìn thấy loại nội dung này.

Thiếu công bằng

Công bằng được định nghĩa là "đảm bảo hệ thống AI không thiên kiến, không phân biệt đối xử và đối xử với mọi người công bằng, bình đẳng". Trong AI tạo sinh, chúng ta muốn đảm bảo đầu ra của model không củng cố các thế giới quan loại trừ đối với nhóm yếu thế.

Những đầu ra như vậy không chỉ phá hỏng trải nghiệm sản phẩm của người dùng mà còn gây thêm tổn hại cho xã hội. Là người xây ứng dụng, chúng ta luôn cần nghĩ tới một tập người dùng rộng và đa dạng khi xây giải pháp với AI tạo sinh.

Dùng AI tạo sinh có trách nhiệm như thế nào

Giờ đã thấy tầm quan trọng của AI tạo sinh có trách nhiệm, hãy xem 4 bước chúng ta có thể làm để xây giải pháp AI có trách nhiệm:

Đo lường tác hại tiềm ẩn

Trong kiểm thử phần mềm, chúng ta kiểm tra các hành động mong đợi của người dùng trên ứng dụng. Tương tự, kiểm thử một tập prompt đa dạng mà người dùng nhiều khả năng sẽ dùng là cách tốt để đo lường tác hại tiềm ẩn.

Vì startup đang xây sản phẩm giáo dục, nên chuẩn bị một danh sách prompt liên quan tới giáo dục: về một môn học nào đó, sự kiện lịch sử, và các câu hỏi về đời sống học sinh.

Giảm thiểu tác hại tiềm ẩn

Giờ là lúc tìm cách ngăn chặn hoặc hạn chế tác hại mà model và câu trả lời của nó có thể gây ra. Có thể xem xét ở 4 lớp:

• Model. Chọn đúng model cho đúng tình huống. Các model lớn và phức tạp hơn như GPT-4 có thể gây rủi ro nội dung độc hại cao hơn khi áp dụng cho tình huống nhỏ và cụ thể. Dùng dữ liệu huấn luyện của bạn để fine-tuning cũng giảm rủi ro nội dung độc hại.

• Hệ thống an toàn (Safety System). Là tập công cụ và cấu hình trên nền tảng phục vụ model, giúp giảm tác hại. Ví dụ là hệ thống lọc nội dung của dịch vụ Azure OpenAI. Hệ thống cũng nên phát hiện tấn công jailbreak và hoạt động không mong muốn như yêu cầu từ bot.

• Metaprompt. Metaprompt và grounding là cách định hướng hoặc giới hạn model theo một số hành vi và thông tin. Có thể dùng đầu vào hệ thống (system input) để đặt giới hạn cho model, đồng thời đưa ra đầu ra sát hơn với phạm vi hoặc lĩnh vực của hệ thống.

  Cũng có thể dùng kỹ thuật như Retrieval Augmented Generation (RAG) để model chỉ lấy thông tin từ một tập nguồn đáng tin. Khoá học có một bài về xây ứng dụng tìm kiếm.

• Trải nghiệm người dùng (User Experience). Lớp cuối là nơi người dùng tương tác trực tiếp với model qua giao diện ứng dụng. Ta có thể thiết kế UI/UX để giới hạn loại đầu vào người dùng gửi tới model, cũng như văn bản hoặc hình ảnh hiển thị cho người dùng. Khi triển khai (deploy) ứng dụng AI, chúng ta cũng phải minh bạch về những gì ứng dụng AI tạo sinh làm được và không làm được.

  Có hẳn một bài về Thiết kế UX cho ứng dụng AI (tiếng Anh).

• Đánh giá model. Làm việc với LLM có thể khó vì không phải lúc nào ta cũng kiểm soát được dữ liệu model đã được huấn luyện. Dù vậy, chúng ta luôn nên đánh giá hiệu năng và đầu ra của model: đo độ chính xác, độ tương đồng, mức có căn cứ (groundedness) và độ liên quan của đầu ra. Việc này mang lại sự minh bạch và niềm tin cho các bên liên quan và người dùng.

Vận hành một giải pháp AI tạo sinh có trách nhiệm

Xây dựng quy trình vận hành quanh ứng dụng AI là giai đoạn cuối. Việc này gồm phối hợp với các bộ phận khác của startup như Pháp lý và Bảo mật để đảm bảo tuân thủ mọi quy định. Trước khi ra mắt, chúng ta cũng muốn có kế hoạch về phát hành, xử lý sự cố và rollback để ngăn tác hại cho người dùng lan rộng.

Công cụ

Dù việc phát triển giải pháp AI có trách nhiệm có vẻ nhiều, đây là công sức rất đáng bỏ ra. Khi lĩnh vực AI tạo sinh phát triển, sẽ có thêm nhiều công cụ trưởng thành giúp lập trình viên đưa trách nhiệm vào quy trình làm việc hiệu quả. Ví dụ, Azure AI Content Safety giúp phát hiện nội dung và hình ảnh độc hại qua một yêu cầu (request) API.

Thử thách

Đọc về Azure AI Content Safety và xem bạn có thể áp dụng gì cho trường hợp của mình.

Bài tiếp theo: Nền tảng prompt engineering.

Nguồn

• Dịch và biên tập từ microsoft/generative-ai-for-beginners · 03-using-generative-ai-responsibly/README.md, giấy phép MIT.