AI hallucination là gì? Dấu hiệu nhận biết và cách khắc phục

Bạn hỏi AI về một cuốn sách và nhận được tên tác giả, năm xuất bản, thậm chí cả số trang rất cụ thể. Thế nhưng, khi kiểm tra lại, bạn phát hiện cuốn sách đó hoàn toàn không tồn tại. Đây không phải lỗi hiếm gặp mà là một trong những hạn chế đáng chú ý của các mô hình trí tuệ nhân tạo hiện nay. Hiện tượng này được gọi là ảo giác AI (hallucination AI). Nó có thể gây ra nhiều rắc rối cho cá nhân và doanh nghiệp, đặc biệt khi AI ngày càng được ứng dụng rộng rãi trong học tập, công việc và quá trình ra quyết định. Vậy AI hallucination là gì? Có những dạng nào, nguyên nhân xuất phát từ đâu và làm thế nào để hạn chế? Hãy cùng Phương Nam Vina tìm hiểu chi tiết trong bài viết dưới đây!

 

AI hallucination là gì? Dấu hiệu nhận biết và cách khắc phục
 

Mục lục

AI hallucination là gì?

AI hallucination (ảo giác AI) là hiện tượng mô hình AI tạo ra thông tin sai lệch, bịa đặt hoặc không có căn cứ, nhưng lại trình bày với giọng điệu tự tin và nghe rất hợp lý, như thể đó là sự thật. Khác với khái niệm ảo giác trong y học, vốn chỉ trải nghiệm giác quan khi không có kích thích tương ứng từ môi trường bên ngoài, thuật ngữ AI hallucination dùng để chỉ những nội dung không đúng sự thật do hệ thống AI tạo ra. Hiện tượng này thường được nhắc đến khi nói về các mô hình ngôn ngữ lớn (LLM), nền tảng đứng sau những công cụ như ChatGPT, Gemini, Claude và nhiều chatbot khác.

Ví dụ:

- Trí tuệ nhân tạo bịa ra một bài báo khoa học nhưng tên tác giả hoặc đường link không hề tồn tại.

- Trích dẫn sai một điều luật hoặc một phán quyết của tòa án.

- Đưa ra số liệu, ngày tháng hoặc sự kiện lịch sử không chính xác.

- Viết đoạn code gọi một hàm hoặc thư viện không có thật.

Ảo giác AI có thể xuất hiện ngay cả khi người dùng đặt những câu hỏi tưởng chừng đơn giản. Trong một thử nghiệm được OpenAI đề cập, khi được hỏi về tiêu đề luận án tiến sĩ của một trong các tác giả nghiên cứu, một chatbot phổ biến đã đưa ra ba đáp án khác nhau, nhưng không đáp án nào chính xác. Khi được hỏi về ngày sinh của người đó, chatbot tiếp tục cung cấp ba mốc thời gian khác nhau và đều sai.

Một trường hợp nổi tiếng khác xảy ra tại Mỹ trong vụ kiện Mata kiện hãng hàng không Avianca. Luật sư của bên nguyên đơn đã sử dụng ChatGPT để tìm kiếm án lệ và đưa vào hồ sơ nhiều vụ việc không có thật, trong đó có vụ Varghese v. China Southern Airlines. Đáng chú ý, khi được hỏi lại về tính xác thực của vụ án, chatbot vẫn khẳng định thông tin đó là chính xác.

Điều khiến AI hallucination trở nên nguy hiểm là nội dung sai thường được diễn đạt mạch lạc, có cấu trúc và đôi khi đi kèm nguồn trích dẫn giả. Vì vậy, người đọc rất dễ nhầm lẫn giữa thông tin chính xác và nội dung do AI tạo ra. Cần hiểu rằng AI không cố tình nói dối như con người, mà tạo ra câu trả lời dựa trên các mẫu và mối liên hệ thống kê đã học được, nên vẫn có thể đưa ra thông tin không phù hợp với thực tế.
 

Hiện tượng ảo giác của AI
 

Các dạng AI hallucination phổ biến hiện nay

AI hallucination có thể được phân loại theo nhiều tiêu chí khác nhau. Trong đó, một cách tiếp cận phổ biến là xem xét mối quan hệ giữa câu trả lời với dữ liệu đầu vào, từ đó chia thành ảo giác nội tại và ảo giác ngoại tại. Ngoài ra, nếu xét theo bản chất của lỗi, có thể phân biệt ảo giác sai lệch sự thật và ảo giác sai lệch logic. Hai cách phân loại này không loại trừ lẫn nhau. Một câu trả lời do AI tạo ra có thể đồng thời chứa thông tin mâu thuẫn với tài liệu đầu vào và sai lệch so với sự thật khách quan. Dưới đây là đặc điểm và ví dụ cụ thể của từng dạng.

1. Intrinsic hallucination (ảo giác nội tại)

Intrinsic hallucination là hiện tượng AI tạo ra nội dung mâu thuẫn trực tiếp với thông tin hoặc ngữ cảnh có trong dữ liệu đầu vào. Dạng ảo giác này thường xuất hiện khi người dùng yêu cầu AI tóm tắt, dịch thuật hoặc trích xuất thông tin từ một tài liệu có sẵn.

Ví dụ, bạn cung cấp một báo cáo ghi nhận doanh thu quý tăng 12% và yêu cầu AI tóm tắt nội dung. Tuy nhiên, trong bản tóm tắt, AI lại khẳng định doanh thu giảm 12%. Đây là lỗi ảo giác nội tại vì câu trả lời đã đi ngược lại thông tin được cung cấp ngay từ đầu. Do mâu thuẫn trực tiếp với nguồn dữ liệu ban đầu, dạng lỗi này tương đối dễ phát hiện nếu người dùng đối chiếu kỹ kết quả với tài liệu gốc.

2. Extrinsic hallucination (ảo giác ngoại tại)

Extrinsic hallucination xảy ra khi AI bổ sung thông tin không được xác nhận bởi dữ liệu đầu vào hoặc không có đủ căn cứ để kiểm chứng. Khác với ảo giác nội tại, nội dung được tạo ra không nhất thiết mâu thuẫn với nguồn ban đầu mà có thể là những chi tiết hoàn toàn mới do mô hình tự bổ sung.

Một ví dụ được đề cập trong tài liệu nghiên cứu là câu trả lời khẳng định một loài hổ tại Paris bị săn bắt đến tuyệt chủng vào năm 1885, trong khi cả loài vật lẫn sự kiện này đều không có thật. Trong tình huống khác, khi được yêu cầu tóm tắt một bài báo, AI có thể tự thêm lời phát biểu của một chuyên gia dù nội dung đó không xuất hiện trong bài viết gốc. Vì phần thông tin bổ sung thường phù hợp với chủ đề đang thảo luận, người đọc có thể khó nhận ra đây là nội dung không có căn cứ.

3. Factual hallucination (ảo giác sai lệch sự thật)

Factual hallucination là hiện tượng AI tạo ra thông tin không phù hợp với sự thật khách quan có thể kiểm chứng. Nội dung sai có thể xuất hiện dưới dạng số liệu không chính xác, sự kiện không tồn tại, tên nhân vật sai hoặc thông tin bị bóp méo.

Vụ việc luật sư sử dụng ChatGPT để tìm kiếm án lệ trong vụ kiện Mata kiện Avianca là một ví dụ điển hình. Chatbot đã đưa ra những vụ kiện với tên gọi và nội dung nghe có vẻ thuyết phục, nhưng thực tế không tồn tại.

Một trường hợp khác liên quan đến chatbot trên website của Air Canada. Hệ thống đã cung cấp thông tin sai về chính sách giảm giá vé dành cho khách hàng có thân nhân qua đời. Chatbot cho biết khách hàng có thể yêu cầu giảm giá sau chuyến bay, trong khi chính sách thực tế của hãng chỉ chấp nhận yêu cầu trước khi bay.

Factual hallucination đặc biệt đáng lo ngại trong các lĩnh vực như y tế, pháp lý và tài chính. Một thông tin sai về thuốc, quy định pháp luật hoặc số liệu đầu tư có thể khiến người dùng đưa ra quyết định thiếu chính xác và phải đối mặt với những hậu quả đáng kể.

4. Logical hallucination (ảo giác sai lệch logic)

Logical hallucination là hiện tượng AI đưa ra lập luận có vẻ hợp lý ở từng bước riêng lẻ nhưng lại dẫn đến kết luận sai hoặc tự mâu thuẫn. Đây là dạng lỗi liên quan đến tính nhất quán trong quá trình suy luận, thay vì chỉ đơn thuần cung cấp sai một dữ kiện.

Ví dụ, AI lập luận: “Mọi loài cá đều biết bơi. Cá voi biết bơi. Vì vậy, cá voi là cá”. Kết luận này không chính xác vì việc có cùng một đặc điểm không đồng nghĩa với việc hai đối tượng thuộc cùng một nhóm phân loại. Trong khi đó, sự thật là cá voi động vật có vú, thuộc lớp thú, phân thứ bộ Cetacea.

Lỗi tương tự cũng có thể xuất hiện trong các phép tính nhiều bước hoặc bài toán logic. AI có thể thực hiện đúng một số bước ban đầu nhưng lại đưa ra kết quả cuối cùng không khớp với dữ kiện và lập luận trước đó. Vì vậy, với những vấn đề cần độ chính xác cao, người dùng nên kiểm tra cả quá trình suy luận thay vì chỉ xem kết quả cuối cùng.
 

Ảo giác AI
 

Dấu hiệu nào giúp nhận biết AI đang gặp tình trạng ảo giác?

Hallucination trong AI không phải lúc nào cũng dễ nhận diện, bởi thông tin sai vẫn có thể được trình bày mạch lạc, tự nhiên và đầy tự tin. Tuy nhiên, bạn có thể dựa vào một số dấu hiệu dưới đây để nhận biết sớm những câu trả lời có khả năng chứa nội dung bịa đặt hoặc thiếu căn cứ:

- Thông tin quá cụ thể nhưng không có nguồn kiểm chứng: AI đưa ra nhiều số liệu, ngày tháng, tên nhân vật hoặc tên tài liệu chi tiết nhưng không cung cấp nguồn đáng tin cậy để đối chiếu.

 - Nguồn trích dẫn không tồn tại hoặc không khớp: Đường dẫn không thể truy cập, tên bài báo không tìm thấy hoặc nội dung tài liệu được dẫn không thực sự hỗ trợ cho nhận định của AI.

- Câu trả lời thay đổi giữa các lần hỏi: Khi được hỏi cùng một vấn đề, AI đưa ra những đáp án khác nhau, đặc biệt là các dữ kiện cụ thể như ngày tháng, tên riêng hoặc số liệu.

- Nội dung tự mâu thuẫn: Phần mở đầu và kết luận đưa ra những thông tin trái ngược nhau, hoặc kết quả cuối cùng không phù hợp với các bước lập luận trước đó.

- Giọng điệu chắc chắn bất thường: AI khẳng định dứt khoát về một chủ đề hiếm gặp, thiếu dữ liệu hoặc có nhiều điểm chưa rõ ràng mà không thể hiện bất kỳ sự dè dặt nào.

- Chấp nhận tiền đề sai trong câu hỏi: Khi người dùng đưa ra một thông tin không chính xác, AI vẫn tiếp tục trả lời dựa trên tiền đề đó thay vì chỉ ra điểm sai hoặc yêu cầu làm rõ.

- Nội dung không khớp với tài liệu đầu vào: Bản tóm tắt xuất hiện những ý không có trong tài liệu gốc, bỏ sót dữ kiện quan trọng hoặc diễn giải sai thông tin được cung cấp.

Nguyên nhân khiến AI xảy ra hiện tượng hallucination

Có nhiều yếu tố khiến hallucination AI xuất hiện, không ngẫu nhiên mà có liên quan đến cơ chế hoạt động, dữ liệu huấn luyện và cách mô hình được đánh giá. Khi không có đủ thông tin để tạo ra câu trả lời chính xác, hệ thống có thể đưa ra nội dung suy đoán nhưng vẫn thể hiện như một kết luận chắc chắn. Dưới đây là bốn nguyên nhân phổ biến dẫn đến hiện tượng ảo giác AI.

1. Dữ liệu huấn luyện thiếu chính xác hoặc không đầy đủ

Chất lượng dữ liệu huấn luyện ảnh hưởng trực tiếp đến khả năng tạo ra câu trả lời của mô hình AI. Nếu dữ liệu chứa thông tin sai lệch, lỗi thời, thiếu hụt hoặc mâu thuẫn, mô hình có thể học và tái tạo những sai sót đó trong quá trình phản hồi.

Bên cạnh đó, ở giai đoạn tiền huấn luyện, mô hình chủ yếu học cách dự đoán từ tiếp theo dựa trên các mẫu ngôn ngữ. Quá trình này không tự động giúp hệ thống phân biệt hoàn toàn giữa một câu có vẻ hợp lý và một thông tin thực sự chính xác.

Đặc biệt, những dữ kiện hiếm gặp hoặc mang tính ngẫu nhiên như ngày sinh của một cá nhân, số hiệu văn bản hay tên một công trình nghiên cứu thường khó suy ra từ các quy luật ngôn ngữ. Khi không có đủ dữ liệu liên quan, mô hình có thể đưa ra phỏng đoán thay vì thừa nhận rằng mình không biết.

2. Sự suy diễn ép buộc

Các mô hình ngôn ngữ được thiết kế để tạo ra phần nội dung tiếp theo dựa trên ngữ cảnh và xác suất. Vì vậy, khi gặp câu hỏi thiếu thông tin, mô hình có thể cố gắng hoàn thiện câu trả lời bằng cách suy đoán những dữ kiện có vẻ phù hợp, thay vì dừng lại hoặc thừa nhận sự không chắc chắn.

Có thể hình dung cơ chế này giống như một học sinh làm bài trắc nghiệm và có xu hướng chọn đại một đáp án vì nghĩ rằng bỏ trống sẽ bị mất điểm. Nếu hệ thống đánh giá chỉ tập trung vào việc đưa ra câu trả lời mà không khuyến khích thừa nhận giới hạn kiến thức, mô hình sẽ có xu hướng đoán thay vì nói “không biết”.

Theo nghiên cứu của OpenAI, cách huấn luyện và đánh giá mô hình phổ biến có thể vô tình tạo động lực cho hành vi này. Đây là một trong những lý do khiến AI đôi khi đưa ra câu trả lời rất tự tin dù không có đủ căn cứ.

3. Thiếu khả năng nhận thức ngữ cảnh sâu

Mô hình ngôn ngữ không tiếp nhận và hiểu thế giới theo cách con người vẫn làm, mà xử lý thông tin thông qua các mối liên hệ và mẫu thống kê đã học được. Vì vậy, khi phải xử lý ngữ cảnh dài, phức tạp hoặc chứa nhiều tầng ý nghĩa, mô hình có thể bỏ sót chi tiết quan trọng hoặc diễn giải sai mối quan hệ giữa các thông tin.

Một số nghiên cứu cho thấy khả năng khai thác thông tin trong ngữ cảnh dài của mô hình có thể bị suy giảm khi dữ liệu đầu vào quá lớn hoặc thông tin quan trọng nằm ở những vị trí khó chú ý. Điều này khiến AI có thể trả lời đúng chủ đề chung nhưng sai một chi tiết cụ thể, hoặc đưa ra kết luận mâu thuẫn với tài liệu người dùng đã cung cấp.

4. Prompt (câu lệnh) nhập nhằng

Prompt thiếu rõ ràng, không cung cấp đủ bối cảnh hoặc chứa tiền đề sai cũng là nguyên nhân khiến AI dễ tạo ra thông tin không chính xác. Khi không hiểu đầy đủ mục đích của người dùng, mô hình phải tự suy đoán phạm vi và ý nghĩa của câu hỏi, từ đó làm tăng nguy cơ phản hồi sai lệch.

Chẳng hạn, nếu bạn yêu cầu AI cung cấp số liệu mới nhất về thị trường nhưng không nêu rõ quốc gia, khoảng thời gian hoặc nguồn dữ liệu mong muốn, hệ thống có thể kết hợp những thông tin không cùng phạm vi để tạo ra một câu trả lời thiếu chính xác.

Trong những trường hợp này, phản hồi phù hợp nhất là yêu cầu người dùng làm rõ câu hỏi hoặc thừa nhận chưa đủ dữ liệu để trả lời. Tuy nhiên, không phải mô hình nào cũng xử lý tốt tình huống đó, nên prompt càng cụ thể và đầy đủ thì khả năng nhận được câu trả lời phù hợp càng cao.
 

AI hallucination là gì?
 

Tác hại và rủi ro của ảo giác AI

Ảo giác AI có thể gây ra nhiều hậu quả khác nhau, tùy thuộc vào nội dung sai lệch và mục đích sử dụng. Một lỗi nhỏ trong câu trả lời thông thường có thể chỉ gây nhầm lẫn, nhưng khi liên quan đến pháp luật, tài chính hoặc sức khỏe, hậu quả có thể nghiêm trọng hơn nhiều.

Một số rủi ro đáng chú ý gồm:

- Rủi ro pháp lý: Trong vụ Mata kiện Avianca, luật sư đã sử dụng những án lệ không tồn tại do ChatGPT cung cấp và đưa chúng vào hồ sơ gửi tòa. Tại Canada, Air Canada cũng phải chịu trách nhiệm sau khi chatbot cung cấp thông tin sai về chính sách giảm giá vé, khiến hãng phải bồi thường cho khách hàng.

- Nguyên nhân AI ảo giác: Deloitte Australia từng phải hoàn lại một phần khoản tiền 440.000 đô la Úc liên quan đến báo cáo thực hiện cho chính phủ, sau khi tài liệu bị phát hiện có nhiều lỗi, trong đó có trích dẫn được cho là do AI tạo ra.

- Quyết định sai trong lĩnh vực nhạy cảm: Thông tin không chính xác về y tế, pháp lý hoặc tài chính có thể khiến người dùng sử dụng thuốc không phù hợp, ký kết hợp đồng bất lợi hoặc đưa ra quyết định đầu tư thiếu căn cứ.

- Lan truyền thông tin sai lệch: Nội dung bịa đặt có thể được sao chép, chia sẻ và trích dẫn lại trên nhiều nền tảng. Khi tiếp tục được sử dụng như nguồn tham khảo, thông tin sai sẽ ngày càng khó truy vết và đính chính.

- Suy giảm niềm tin: Khách hàng, đối tác và nhân viên có thể mất niềm tin vào doanh nghiệp nếu chatbot, báo cáo hoặc tài liệu có sự hỗ trợ của AI liên tục cung cấp thông tin không chính xác.

Điểm chung của những vụ việc trên là kết quả do AI tạo ra đã được sử dụng mà không trải qua quá trình kiểm chứng đầy đủ. Vì vậy, trách nhiệm không chỉ nằm ở công nghệ mà còn thuộc về cá nhân và tổ chức triển khai, sử dụng hệ thống AI. Việc có quy trình kiểm tra và xác nhận thông tin trước khi công bố là yêu cầu cần thiết để hạn chế những hậu quả không mong muốn.

Cách hạn chế và khắc phục tình trạng AI hallucination hiệu quả

Để hạn chế hallucination trong AI, cần kết hợp nhiều biện pháp thay vì chỉ phụ thuộc vào một kỹ thuật riêng lẻ. Các giải pháp như cải thiện dữ liệu huấn luyện, ứng dụng RAG, tối ưu prompt và kiểm chứng chéo có thể giúp nâng cao độ tin cậy của kết quả do AI tạo ra.

1. Cải thiện chất lượng dữ liệu huấn luyện

Dữ liệu là nền tảng quyết định khả năng phản hồi của mô hình AI. Vì vậy, cải thiện chất lượng dữ liệu huấn luyện là một trong những cách tiếp cận từ gốc nhằm hạn chế thông tin sai lệch.

Các đơn vị phát triển mô hình cần ưu tiên nguồn dữ liệu đáng tin cậy, loại bỏ nội dung sai hoặc trùng lặp, cập nhật thông tin lỗi thời và chuẩn hóa nhãn dữ liệu. Bên cạnh đó, việc kiểm tra tính nhất quán giữa các nguồn cũng giúp hạn chế tình trạng mô hình học phải những thông tin mâu thuẫn.

Huấn luyện trên tập dữ liệu được tuyển chọn và kiểm duyệt kỹ lưỡng có thể cải thiện chất lượng đầu ra, đặc biệt với những lĩnh vực đòi hỏi độ chính xác cao. Đối với người dùng cuối, dù không thể trực tiếp kiểm soát dữ liệu huấn luyện, bạn vẫn có thể ưu tiên những công cụ minh bạch về nguồn thông tin và cơ chế cập nhật dữ liệu.

2. Kết hợp fine-tuning để nâng cao độ chính xác

Fine-tuning (tinh chỉnh mô hình) là quá trình tiếp tục huấn luyện một mô hình AI đã được huấn luyện trước đó bằng tập dữ liệu chuyên biệt. Chẳng hạn, doanh nghiệp có thể tinh chỉnh mô hình trên tài liệu y khoa, văn bản pháp lý hoặc quy trình nội bộ để hệ thống phản hồi phù hợp hơn với lĩnh vực hoạt động.

Khi dữ liệu tinh chỉnh có chất lượng tốt và được chuẩn bị đúng cách, mô hình có thể cải thiện khả năng sử dụng thuật ngữ chuyên ngành, nhận diện các mẫu thông tin và thực hiện những tác vụ đặc thù. Tuy nhiên, fine-tuning không đồng nghĩa với việc mô hình sẽ luôn ghi nhớ chính xác mọi dữ kiện được cung cấp.

Đặc biệt, việc sử dụng fine-tuning để bổ sung kiến thức mới cần được cân nhắc kỹ lưỡng. Một số nghiên cứu cho thấy quá trình đưa thêm kiến thức thực tế vào mô hình thông qua tinh chỉnh có thể làm gia tăng xu hướng tạo ra thông tin sai trong một số điều kiện. Vì vậy, fine-tuning nên được xem là giải pháp cải thiện năng lực chuyên biệt, không phải phương pháp bảo đảm tính chính xác tuyệt đối.

3. Ứng dụng RAG để truy xuất nguồn dữ liệu đáng tin cậy

RAG (Retrieval-Augmented Generation) là kỹ thuật kết hợp giữa truy xuất thông tin và tạo nội dung. Trước khi phản hồi, mô hình sẽ tìm kiếm những tài liệu liên quan trong một kho dữ liệu được chỉ định, sau đó sử dụng thông tin truy xuất được làm căn cứ để xây dựng câu trả lời.

Phương pháp này giúp mô hình tiếp cận nguồn dữ liệu cụ thể thay vì chỉ dựa vào kiến thức đã học trong quá trình huấn luyện. Nhờ đó, RAG có thể giảm khoảng trống kiến thức, hỗ trợ cập nhật thông tin và hạn chế việc tự suy diễn khi trả lời.

Tuy nhiên, RAG không phải giải pháp loại bỏ hoàn toàn hallucination trong AI. Nếu tài liệu được truy xuất không chính xác, lỗi thời hoặc không liên quan, mô hình vẫn có thể tạo ra câu trả lời sai. Ngay cả khi nguồn dữ liệu phù hợp, AI vẫn có khả năng diễn giải không đúng nội dung. Do đó, doanh nghiệp cần kết hợp RAG với kho tài liệu được kiểm duyệt, đồng thời yêu cầu hệ thống chỉ rõ nguồn hoặc đoạn thông tin được sử dụng.
 

Hallucination trong AI
 

4. Tinh chỉnh mô hình để cải thiện khả năng phản hồi

Bên cạnh việc cải thiện kiến thức chuyên ngành, fine-tuning còn có thể được sử dụng để điều chỉnh cách mô hình phản hồi khi gặp câu hỏi thiếu dữ liệu hoặc không có đáp án chắc chắn. Mục tiêu của hướng tiếp cận này là khuyến khích AI thừa nhận giới hạn, thay vì cố gắng đưa ra một câu trả lời bằng mọi giá.

Chẳng hạn, mô hình có thể được huấn luyện để phản hồi “không đủ thông tin” khi dữ liệu đầu vào không hỗ trợ kết luận. Một số nghiên cứu đã thử nghiệm tinh chỉnh mô hình theo hướng này nhằm giảm tình trạng trả lời sai khi câu hỏi chứa tiền đề không chính xác.

Ngoài ra, kỹ thuật học tăng cường từ phản hồi của con người (RLHF) cũng được sử dụng để điều chỉnh hành vi của mô hình. Thông qua đánh giá và phản hồi, hệ thống có thể được định hướng ưu tiên câu trả lời trung thực, phù hợp hơn thay vì chỉ cố gắng tạo ra nội dung nghe thuyết phục.

Một hướng tiếp cận khác là điều chỉnh cơ chế đánh giá để những câu trả lời thể hiện sự không chắc chắn hợp lý không bị xem là kém chất lượng hơn việc đoán sai. Dù vậy, các phương pháp tinh chỉnh chỉ giúp giảm nguy cơ ảo giác chứ không thể bảo đảm mô hình luôn phản hồi chính xác.

5. Tối ưu prompt để cung cấp ngữ cảnh đầy đủ

Prompt rõ ràng và đầy đủ giúp AI hiểu đúng yêu cầu, giới hạn phạm vi xử lý và giảm nhu cầu tự suy đoán thông tin. Người dùng có thể áp dụng một số nguyên tắc sau để cải thiện chất lượng câu trả lời:

- Cung cấp tài liệu nguồn: Đính kèm hoặc dán nội dung cần xử lý và yêu cầu AI chỉ sử dụng thông tin trong tài liệu đó.

- Nêu rõ phạm vi: Xác định thời gian, địa điểm, đối tượng, mục đích và định dạng câu trả lời mong muốn.

- Cho phép AI thừa nhận sự không chắc chắn: Yêu cầu hệ thống nói rõ khi dữ liệu không đủ căn cứ, thay vì tự bổ sung hoặc phỏng đoán.

- Yêu cầu trích dẫn nguồn: Đề nghị AI chỉ ra tài liệu hoặc đoạn thông tin hỗ trợ cho từng nhận định quan trọng để người dùng thuận tiện đối chiếu.

- Chia nhỏ yêu cầu phức tạp: Tách một nhiệm vụ lớn thành các câu hỏi hoặc bước xử lý cụ thể để dễ theo dõi và kiểm tra kết quả.

Ví dụ, thay vì chỉ viết “Hãy cho tôi biết các nghiên cứu về chủ đề này”, bạn có thể yêu cầu: “Chỉ sử dụng tài liệu tôi cung cấp, liệt kê ba kết luận chính kèm đoạn trích tương ứng. Nếu tài liệu không đề cập đến nội dung nào, hãy ghi rõ chưa đủ thông tin thay vì tự suy đoán”.

Cách đặt prompt này vừa giới hạn phạm vi nguồn dữ liệu, vừa tạo điều kiện để AI thừa nhận khi không có đủ căn cứ. Tuy nhiên, người dùng vẫn cần kiểm tra lại nội dung và nguồn trích dẫn trước khi sử dụng.

6. Thiết lập cơ chế Human-in-the-loop (HITL)

Human-in-the-loop (HITL) là cơ chế đưa con người vào quy trình vận hành AI để kiểm tra, chỉnh sửa hoặc phê duyệt kết quả trước khi đưa vào sử dụng. Thay vì để hệ thống tự động xử lý toàn bộ nhiệm vụ, mô hình sẽ được kết hợp với sự giám sát của người có chuyên môn.

Trong thực tế, doanh nghiệp có thể thiết lập quy trình đánh dấu những nội dung có dấu hiệu thiếu căn cứ, sau đó chuyển cho nhân sự phụ trách kiểm tra. Với các tác vụ có mức độ rủi ro cao, hệ thống có thể yêu cầu người dùng phê duyệt trước khi thực hiện bước tiếp theo.

Mức độ giám sát nên tương ứng với mức độ ảnh hưởng của từng nhiệm vụ. Nội dung thông thường có thể chỉ cần kiểm tra nhanh, trong khi thông tin liên quan đến pháp lý, y tế, tài chính hoặc báo cáo gửi khách hàng cần được người có chuyên môn xác nhận. Cơ chế HITL không chỉ giúp phát hiện lỗi mà còn xác định rõ trách nhiệm của con người trong quá trình sử dụng AI.

7. Thực hiện kiểm chứng chéo bằng công cụ xác minh độc lập

Kiểm chứng chéo là quá trình đối chiếu thông tin do AI cung cấp với các nguồn dữ liệu độc lập nhằm xác định mức độ chính xác và độ tin cậy. Đây là bước cần thiết, đặc biệt khi câu trả lời có liên quan đến số liệu, sự kiện, nghiên cứu hoặc những quyết định quan trọng.

Bạn có thể thực hiện kiểm chứng theo một số cách sau:

- Tra cứu nguồn gốc: Tìm bài báo, nghiên cứu, văn bản pháp luật hoặc số liệu mà AI đề cập trên website chính thức và các cơ sở dữ liệu đáng tin cậy.

- Đối chiếu nhiều nguồn: So sánh thông tin từ các tài liệu độc lập, ưu tiên nguồn của cơ quan chuyên môn, tổ chức nghiên cứu hoặc đơn vị có thẩm quyền.

- Không yêu cầu AI tự xác nhận: Việc hỏi lại chính chatbot rằng thông tin có đúng hay không không thể thay thế quá trình kiểm chứng độc lập.

- Sử dụng công cụ đánh giá: Một số công cụ hỗ trợ kiểm tra mức độ nhất quán giữa câu trả lời và tài liệu nguồn. Chẳng hạn, mô hình HHEM của Vectara được sử dụng để đánh giá mức độ ảo giác trong các tác vụ tóm tắt.

Kiểm chứng chéo có thể tốn thêm thời gian, nhưng giúp hạn chế nguy cơ sử dụng thông tin sai và tránh những hậu quả không đáng có. Cách tiếp cận an toàn là xem câu trả lời của AI như một bản nháp cần được xác minh, thay vì mặc định đó là kết luận cuối cùng.
 

Hiện tượng AI hallucination
 

Phân biệt AI hallucination với các hiện tượng sai lệch khác trong AI

Trong quá trình sử dụng trí tuệ nhân tạo, AI hallucination thường bị nhầm lẫn với những hiện tượng sai lệch khác như AI bias và AI misinterpretation. Tuy nhiên, mỗi hiện tượng có bản chất, nguyên nhân và cách xử lý riêng. Bảng dưới đây giúp phân biệt ba khái niệm này:
 

Tiêu chí

AI hallucination

AI bias 

AI misinterpretation 

Bản chất

Tạo ra thông tin sai lệch hoặc bịa đặt nhưng trình bày như thật.

Tạo ra kết quả mang tính thiên lệch có hệ thống, có thể ưu tiên hoặc gây bất lợi cho một nhóm hay quan điểm nhất định.

Diễn giải sai yêu cầu, ý định hoặc ngữ cảnh mà người dùng cung cấp.

Nguyên nhân chính

Cơ chế dự đoán xác suất, dữ liệu thiếu hoặc không chính xác và cách đánh giá khuyến khích mô hình đoán.

Dữ liệu huấn luyện hoặc quy trình phát triển chứa định kiến.

Câu lệnh mơ hồ, thiếu bối cảnh hoặc có nhiều cách hiểu.

Biểu hiện

Bịa đặt nguồn trích dẫn, số liệu, nhân vật hoặc sự kiện.

Kết quả lặp lại một khuynh hướng thiên lệch trong nhiều tình huống.

Trả lời lệch trọng tâm hoặc không đúng ý định của người dùng.

Ví dụ

AI tạo ra một án lệ không tồn tại và trình bày như một vụ việc có thật.

Hệ thống tuyển dụng ưu tiên một nhóm ứng viên do dữ liệu huấn luyện chứa định kiến.

Người dùng hỏi về công ty Apple nhưng AI lại cung cấp thông tin về cây táo.

Cách xử lý

Sử dụng nguồn dữ liệu đáng tin cậy, RAG, kiểm chứng thông tin và giám sát của con người.

Kiểm tra tính công bằng, đánh giá dữ liệu và điều chỉnh quy trình huấn luyện.

Làm rõ câu lệnh, bổ sung ngữ cảnh và yêu cầu AI hỏi lại khi chưa hiểu.


Trên thực tế, ba hiện tượng này không phải lúc nào cũng xuất hiện riêng lẻ. Một câu trả lời có thể vừa hiểu sai yêu cầu vừa bổ sung dữ liệu không có thật, hoặc vừa chứa định kiến vừa đưa ra thông tin sai lệch.

Đáng chú ý, một số dạng hallucination AI liên quan đến việc nội dung phản hồi không trung thành với dữ liệu hoặc chỉ dẫn đầu vào. Vì vậy, ranh giới giữa hiểu sai và ảo giác đôi khi có thể giao thoa. Việc phân biệt đúng bản chất từng lỗi giúp lựa chọn biện pháp xử lý phù hợp: hallucination cần được kiểm chứng về tính xác thực, bias cần được đánh giá về tính công bằng, còn misinterpretation cần được khắc phục bằng cách làm rõ yêu cầu và ngữ cảnh.

Tương lai của AI: Bài toán hallucination có thể được giải quyết triệt để?

Khả năng loại bỏ hoàn toàn hallucination vẫn là vấn đề được giới nghiên cứu và các nhà phát triển AI tranh luận. Hiện có những quan điểm khác nhau về việc liệu ảo giác có phải là hạn chế khó tránh khỏi của mô hình ngôn ngữ hay chỉ là vấn đề có thể khắc phục bằng cách cải thiện công nghệ và phương pháp đánh giá.

Một nhóm nghiên cứu lập luận dựa trên lý thuyết học máy rằng mô hình ngôn ngữ không thể học chính xác mọi hàm tính toán được trong mọi trường hợp. Theo quan điểm này, khi được sử dụng như công cụ giải quyết các vấn đề tổng quát, mô hình trí tuệ nhân tạo vẫn có thể tạo ra câu trả lời sai. Những biện pháp như tăng kích thước mô hình, mở rộng dữ liệu huấn luyện, tối ưu prompt hoặc tích hợp nguồn tri thức bên ngoài có thể giúp giảm ảo giác nhưng khó loại bỏ hoàn toàn hiện tượng này.

Ở chiều ngược lại, nhiều chuyên gia cho rằng hallucination AI không phải là điều tất yếu trong mọi tình huống. Một trong những hướng cải thiện là điều chỉnh cách đánh giá để mô hình không bị khuyến khích đoán khi thiếu thông tin, đồng thời ưu tiên những phản hồi biết thừa nhận sự không chắc chắn. Tuy nhiên, ngay cả khi áp dụng các biện pháp này, độ chính xác tuyệt đối vẫn khó đạt được vì có những câu hỏi không có đủ dữ liệu hoặc không thể xác định đáp án.

Có thể thấy, hai quan điểm trên không hoàn toàn đối lập. Cả hai đều thừa nhận rằng công nghệ có thể giảm đáng kể nguy cơ ảo giác, nhưng việc bảo đảm mọi câu trả lời luôn chính xác trong mọi hoàn cảnh là mục tiêu rất khó đạt được.

Trong tương lai, hướng phát triển thực tế của AI có thể tập trung vào việc xây dựng những mô hình biết nhận diện giới hạn kiến thức, chủ động yêu cầu làm rõ thông tin và truy xuất nguồn dữ liệu đáng tin cậy trước khi phản hồi. Bên cạnh đó, sự giám sát của con người vẫn giữ vai trò quan trọng đối với các tác vụ có mức độ rủi ro cao. Thay vì kỳ vọng AI không bao giờ mắc lỗi, người dùng cần học cách khai thác công nghệ hiệu quả và kiểm chứng thông tin trước khi đưa vào sử dụng.
 

Nguyên nhân AI ảo giác
 

Một số câu hỏi thường gặp về ảo giác AI

Bên cạnh những vấn đề về khái niệm, nguyên nhân và cách hạn chế, người dùng thường có thêm nhiều thắc mắc khi ứng dụng AI vào học tập và công việc. Dưới đây là giải đáp cho bốn câu hỏi phổ biến về hiện tượng ảo giác AI.

1. Các phiên bản AI trả phí có loại bỏ được hoàn toàn hallucination không?

Không. Các phiên bản AI trả phí có thể cung cấp quyền truy cập vào những mô hình mạnh hơn, cửa sổ ngữ cảnh dài hơn hoặc công cụ tìm kiếm hỗ trợ tra cứu thông tin. Tuy nhiên, những nâng cấp này chỉ giúp giảm nguy cơ ảo giác chứ không bảo đảm loại bỏ hoàn toàn lỗi sai.

Ngay cả các mô hình tiên tiến như GPT-5 cũng vẫn có thể tạo ra thông tin không chính xác, dù tỷ lệ ảo giác đã được cải thiện trong một số tác vụ. Vì vậy, dù sử dụng phiên bản miễn phí hay trả phí, bạn vẫn cần kiểm chứng những nội dung quan trọng trước khi áp dụng.

2. Có an toàn khi dùng AI để tra cứu thông tin y tế, pháp lý hay tài chính cá nhân?

Bạn có thể sử dụng AI để tìm hiểu khái niệm, giải thích thuật ngữ, tóm tắt tài liệu hoặc chuẩn bị câu hỏi trước khi trao đổi với chuyên gia. Tuy nhiên, không nên xem câu trả lời của AI là căn cứ cuối cùng để đưa ra quyết định liên quan đến sức khỏe, pháp luật hoặc tài chính cá nhân.

Để hạn chế rủi ro, bạn nên lưu ý:

- Sử dụng AI để tham khảo: Nhờ AI giải thích thông tin cơ bản, sau đó đối chiếu với tài liệu và nguồn chính thống.

- Tham khảo ý kiến chuyên gia: Trao đổi với bác sĩ, luật sư hoặc cố vấn tài chính trước khi thực hiện những quyết định quan trọng.

- Ưu tiên nguồn chính thức: Kiểm tra văn bản pháp luật, hướng dẫn của cơ quan y tế và thông tin từ tổ chức tài chính có thẩm quyền.

- Bảo vệ dữ liệu cá nhân: Hạn chế nhập thông tin định danh, hồ sơ bệnh án hoặc dữ liệu tài khoản vào những công cụ chưa rõ chính sách bảo mật.

Đặc biệt, nếu gặp tình huống khẩn cấp liên quan đến sức khỏe, bạn nên liên hệ cơ sở y tế hoặc nhân viên chuyên môn thay vì phụ thuộc vào câu trả lời của AI.

3. Công cụ AI nào ít bị ảo giác nhất hiện nay?

Hiện chưa có công cụ AI nào được chứng minh là ít ảo giác nhất trong mọi tình huống. Mức độ chính xác phụ thuộc vào mô hình, loại tác vụ, dữ liệu đầu vào và phương pháp đánh giá được sử dụng.

Chẳng hạn, bảng xếp hạng của Vectara tập trung đánh giá khả năng tóm tắt tài liệu được cung cấp. Vì vậy, một mô hình có tỷ lệ ảo giác thấp trong tác vụ này chưa chắc sẽ có kết quả tốt khi trả lời câu hỏi kiến thức tổng quát hoặc xử lý các vấn đề chuyên ngành.

Thay vì chỉ dựa vào thứ hạng, bạn nên thử nghiệm công cụ trên những tác vụ thực tế của mình, ưu tiên hệ thống có khả năng cung cấp nguồn tham khảo và luôn kiểm tra lại thông tin quan trọng trước khi sử dụng.

4. Ảo giác AI có mang lại lợi ích gì không, hay chỉ toàn rủi ro?

Có. Trong một số bối cảnh sáng tạo và nghiên cứu khoa học, khả năng tạo ra những giả thuyết hoặc cấu trúc chưa từng xuất hiện có thể mang lại giá trị. Điều này đặc biệt hữu ích khi mục tiêu không phải là truy xuất sự thật đã biết mà là khám phá những khả năng mới.

Một ví dụ đáng chú ý là công trình thiết kế protein bằng máy tính của David Baker, người đoạt giải Nobel Hóa học năm 2024. Ông từng chia sẻ về vai trò của AI trong việc hỗ trợ tạo ra các thiết kế protein mới, mở rộng khả năng nghiên cứu những cấu trúc chưa có trong tự nhiên. Một số nghiên cứu khác cũng thử nghiệm việc khai thác khả năng tạo ra giả thuyết mới của AI trong lĩnh vực khám phá thuốc.

Tuy nhiên, cần phân biệt giữa việc tạo ra ý tưởng mới và việc cung cấp thông tin sai lệch. Những kết quả sáng tạo do AI đề xuất vẫn phải trải qua quá trình thử nghiệm, đánh giá và kiểm chứng nghiêm ngặt. Vì vậy, ảo giác chỉ có thể mang lại giá trị trong những bối cảnh phù hợp, khi người dùng chủ động xem nội dung đó là giả thuyết để khám phá chứ không mặc định là sự thật.
 

AI ảo giác
 

AI hallucination là hiện tượng mô hình trí tuệ nhân tạo tạo ra thông tin sai lệch hoặc bịa đặt nhưng trình bày như thể đó là sự thật. Hiện tượng này có thể bắt nguồn từ dữ liệu huấn luyện chưa đầy đủ, cơ chế dự đoán xác suất, hạn chế trong xử lý ngữ cảnh và cách đặt prompt chưa rõ ràng. Nếu không được phát hiện kịp thời, ảo giác AI có thể gây ra nhiều rủi ro trong học tập, công việc, pháp lý và tài chính.

Để hạn chế tình trạng này, người dùng và doanh nghiệp cần kết hợp nhiều giải pháp như cải thiện dữ liệu, ứng dụng RAG, tinh chỉnh mô hình, tối ưu prompt, thiết lập cơ chế giám sát của con người và kiểm chứng chéo bằng nguồn độc lập. Dù công nghệ AI đang không ngừng phát triển, việc xem câu trả lời của AI như thông tin cần được xác minh vẫn là nguyên tắc quan trọng để sử dụng công nghệ an toàn và hiệu quả. Hy vọng bài viết của Phương Nam Vina đã giúp bạn hiểu rõ hơn về ảo giác AI và biết cách hạn chế những rủi ro có thể phát sinh trong quá trình ứng dụng.

Tham khảo thêm

icon thiết kế website Data extraction là gì? Phương pháp, quy trình và công cụ

icon thiết kế website GEO là gì? Xu hướng tối ưu website mới trong kỷ nguyên AI

icon thiết kế website Generative AI là gì? Khám phá bước nhảy vọt thay đổi cả thế giới

Bài viết mới nhất

Thẻ embed là gì? Thuộc tính và cách dùng thẻ embed trong HTML

Thẻ embed là gì? Thuộc tính và cách dùng thẻ embed trong HTML

Thẻ embed là một phần tử HTML rỗng dùng để nhúng trực tiếp các nội dung bên ngoài như tệp PDF, video, âm thanh hay hình ảnh vào trang web.

Codex là gì? Tính năng, ứng dụng và cách sử dụng Codex AI

Codex là gì? Tính năng, ứng dụng và cách sử dụng Codex AI

Codex là tác tử lập trình AI do OpenAI phát triển, giúp viết, sửa, kiểm thử mã và quản lý dự án phần mềm từ các yêu cầu bằng ngôn ngữ tự nhiên.

Data model là gì? Vai trò và phân loại các mô hình dữ liệu

Data model là gì? Vai trò và phân loại các mô hình dữ liệu

Data model (mô hình dữ liệu) là bản thiết kế mô tả cách dữ liệu được tổ chức, liên kết và lưu trữ, giúp xây dựng cơ sở dữ liệu hiệu quả.

Vibe coding là gì? Cách lập trình bằng AI và những điều cần biết

Vibe coding là gì? Cách lập trình bằng AI và những điều cần biết

Vibe coding là cách lập trình bằng ngôn ngữ tự nhiên, trong đó AI viết mã còn bạn mô tả ý tưởng, kiểm tra và chỉnh sửa kết quả để tạo ra sản phẩm.

Thiết kế website thương mại điện tử

Thiết kế website thương mại điện tử

Dịch vụ thiết kế website thương mại điện tử uy tín, chuyên nghiệp, chuẩn SEO, giao diện đẹp, miễn phí hosting tên miền, hỗ trợ bảo hành vĩnh viễn.

Metadata là gì? Toàn bộ về siêu dữ liệu trong môi trường số

Metadata là gì? Toàn bộ về siêu dữ liệu trong môi trường số

Metadata (siêu dữ liệu) là dữ liệu mô tả về dữ liệu khác, giúp tìm kiếm, tổ chức và quản lý thông tin nhanh chóng, chính xác hơn trong môi trường số.

zalo