Ảo giác (trí tuệ nhân tạo)

[nhỏ|410x410px|Một trường hợp ảo giác trên [Gemini (chatbot)|Gemini, ghi rằng người phụ nữ đầu tiên trên thế giới và người duy nhất có 3 quốc tịch chinh phục tất cả núi 8000m là cầu thủ bóng đá Nguyễn Thị Thanh Nhã, mặc dù đáp án đúng lần lượt là Edurne Pasaban và Sophie Lavaud.]]
Trong lĩnh vực trí tuệ nhân tạo (AI), **ảo giác** (tiếng Anh**:** *Hallucination*) là một phản hồi do AI tạo ra có chứa thông tin sai lệch hoặc gây hiểu lầm nhưng lại được trình bày như một sự thật hiển nhiên. Thuật ngữ này được ví von một cách tương đối với tâm lý học con người, nơi một ảo giác thường liên quan đến những tri giác sai lệch. Tuy nhiên, có một sự khác biệt quan trọng: ảo giác ở AI gắn liền với các phản hồi được xây dựng một cách sai lầm (sự bịa đặt), thay vì là một trải nghiệm thuộc về giác quan.

Ví dụ, một chatbot được vận hành bởi các mô hình ngôn ngữ lớn (LLM) như ChatGPT có thể lồng ghép những thông tin sai lệch ngẫu nhiên nhưng nghe có vẻ hợp lý vào trong nội dung mà nó tạo ra. Việc phát hiện và giảm thiểu các sai sót cũng như ảo giác này đang đặt ra những thách thức lớn cho việc triển khai thực tế và đảm bảo độ tin cậy của LLM trong các lĩnh vực quan trọng, chẳng hạn như thiết kế vi mạch, logistics chuỗi cung ứng và chẩn đoán y khoa. Một số kỹ sư phần mềm và nhà thống kê đã chỉ trích thuật ngữ cụ thể "ảo giác AI" vì cho rằng nó đang nhân hóa máy tính một cách thái quá.

## Các mô hình ngôn ngữ tự nhiên

### Nguyên nhân
Có một số lý do giải thích tại sao các mô hình ngôn ngữ tự nhiên lại tạo ra ảo giác:

##### Ảo giác từ dữ liệu
Ảo giác có thể bắt nguồn từ các tập dữ liệu không đầy đủ, không chính xác hoặc thiếu tính đại diện. Một nguyên nhân khả dĩ là sự phân kỳ giữa nguồn và tham chiếu (source-reference divergence). Sự phân kỳ này có thể xảy ra như một hệ quả của việc thu thập dữ liệu theo phương pháp heuristic, hoặc do bản chất của một số tác vụ tạo sinh ngôn ngữ tự nhiên vốn dĩ đã chứa đựng sự sai lệch như vậy. Khi một mô hình được huấn luyện trên dữ liệu có sự phân kỳ giữa nguồn và tham chiếu (đích), nó có thể bị khuyến khích tạo ra văn bản không thực sự có cơ sở và không trung thực với nguồn dữ liệu được cung cấp.

##### Nguyên nhân liên quan đến mô hình
Quá trình tiền huấn luyện các bộ chuyển đổi tạo sinh tiền huấn luyện (GPT) bao gồm việc dự đoán từ tiếp theo. Điều này thúc đẩy các mô hình GPT "đưa ra phỏng đoán" về từ kế tiếp là gì, ngay cả khi chúng thiếu thông tin. Tuy nhiên, sau quá trình tiền huấn luyện, các ảo giác có thể được giảm thiểu thông qua kỹ thuật tinh chỉnh chống ảo giác (chẳng hạn như với phương pháp Học tăng cường từ phản hồi của con người). Một số nhà nghiên cứu đứng trên quan điểm nhân hóa và cho rằng ảo giác nảy sinh từ sự xung đột giữa tính mới và tính hữu ích. Ví dụ, Teresa Amabile và Pratt định nghĩa sự sáng tạo của con người là việc tạo ra các ý tưởng vừa mới lạ vừa hữu ích. Mở rộng ra, việc tập trung vào tính mới lạ trong sự sáng tạo của máy móc có thể dẫn đến việc tạo ra các phản hồi độc đáo nhưng không chính xác — tức là những điều sai lệch — trong khi việc tập trung vào tính hữu ích lại có thể dẫn đến những nội dung rập khuôn (được ghi nhớ) và thiếu tính độc đáo.

Việc tiền huấn luyện các mô hình trên một kho ngữ liệu lớn được biết là sẽ khiến mô hình ghi nhớ kiến thức vào trong các tham số của nó, từ đó tạo ra ảo giác nếu hệ thống quá tự tin vào kiến thức đó. Trong các hệ thống như GPT-3, AI tạo ra từng từ kế tiếp dựa trên chuỗi các từ đi trước (bao gồm cả những từ mà chính nó đã tạo ra trước đó trong cùng cuộc hội thoại), điều này gây ra một chuỗi các ảo giác tiềm tàng khi câu trả lời ngày càng dài hơn. Đến năm 2022, các tờ báo như *[[The New York Times]]* đã bày tỏ lo ngại rằng khi các bot dùng mô hình ngôn ngữ lớn ngày càng phổ biến, việc người dùng tin tưởng vô căn cứ vào nội dung do chúng tạo ra có thể dẫn tới nhiều hệ lụy.

Đối với các mô hình sở hữu thêm một bộ mã hóa (không giống như dòng GPT chỉ sử dụng bộ giải mã), những sai sót trong quá trình mã hóa và giải mã giữa văn bản và các biểu diễn dữ liệu có thể gây ra ảo giác.  Khi bộ mã hóa học được những mối tương quan sai lệch giữa các phần khác nhau của dữ liệu huấn luyện, nó có thể dẫn đến kết quả tạo sinh bị lỗi và xa rời so với đầu vào ban đầu. Bộ giải mã sau đó sẽ tiếp nhận dữ liệu đầu vào đã được mã hóa từ bộ mã hóa để tạo ra chuỗi đích cuối cùng.

Có hai khía cạnh trong quá trình giải mã góp phần gây ra ảo giác. Thứ nhất, các bộ giải mã có thể tập trung vào sai phần của nguồn đầu vào đã được mã hóa, dẫn đến kết quả tạo sinh bị sai lệch. Thứ hai, bản thân thiết kế của chiến lược giải mã cũng có thể là nguyên nhân. Một chiến lược giải mã nhằm cải thiện tính đa dạng của nội dung tạo sinh, chẳng hạn như lấy mẫu top-k, thường có tương quan thuận với sự gia tăng của hiện tượng ảo giác.

### Ví dụ

Vào ngày 15 tháng 11 năm 2022, các nhà nghiên cứu từ Meta AI đã công bố Galactica, một mô hình được thiết kế để "lưu trữ, kết hợp và suy luận về kiến thức khoa học". Nội dung do Galactica tạo ra đi kèm với cảnh báo: "Kết quả đầu ra có thể không đáng tin cậy! Các mô hình ngôn ngữ có khuynh hướng tạo ra văn bản ảo giác." Trong một trường hợp, khi được yêu cầu soạn thảo một bài báo về việc tạo hình đại diện, Galactica đã trích dẫn một bài báo hư cấu từ một tác giả có thật đang làm việc trong lĩnh vực liên quan. Meta đã gỡ bỏ Galactica vào ngày 17 tháng 11 do tính chất phản cảm và thiếu chính xác của nó. Trước khi dự án bị hủy bỏ, các nhà nghiên cứu đang phát triển Galactica Instruct, dự kiến sử dụng kỹ thuật tinh chỉnh theo chỉ dẫn để cho phép mô hình tuân theo các chỉ thị nhằm thao tác trên các tài liệu LaTeX trên Overleaf.

ChatGPT của OpenAI, phát hành bản beta cho công chúng vào ngày 30 tháng 11 năm 2022, được xây dựng dựa trên mô hình nền tảng GPT-3.5 (một bản sửa đổi của GPT-3). Giáo sư Ethan Mollick của trường Wharton đã gọi nó là một "*thực tập sinh biết tuốt, hăng hái làm hài lòng người khác nhưng đôi khi lại nói dối bạn*". Nhà khoa học dữ liệu Teresa Kubacka đã kể lại việc cố tình bịa ra cụm từ "cycloidal inverted electromagnon" và thử nghiệm ChatGPT bằng cách hỏi nó về hiện tượng (không tồn tại) này. ChatGPT đã bịa ra một câu trả lời nghe có vẻ hợp lý, được hỗ trợ bởi các trích dẫn trông cũng rất đáng tin, khiến cô buộc phải kiểm tra lại xem mình có vô tình gõ nhầm tên của một hiện tượng có thật hay không. Các học giả khác như Oren Etzioni đã cùng với Kubacka nhận định rằng loại phần mềm như vậy thường có thể đưa ra "một câu trả lời nghe rất ấn tượng nhưng lại sai hoàn toàn".

Khi CNBC hỏi ChatGPT về lời bài hát "Ballad of Dwight Fry", ChatGPT đã cung cấp lời bài hát tự bịa thay vì lời gốc. Khi được hỏi các câu hỏi về tỉnh bang New Brunswick của Canada, ChatGPT đã trả lời đúng nhiều câu nhưng lại phân loại sai Samantha Bee, người sinh ra ở Toronto, là một "người đến từ New Brunswick". Khi được hỏi về từ trường thiên văn vật lý, ChatGPT đã đưa ra thông tin sai lệch rằng "(các) từ trường (mạnh) của lỗ đen được tạo ra bởi các lực hấp dẫn cực mạnh ở vùng lân cận của chúng". (Trên thực tế, theo hệ quả của định lý không tóc, một lỗ đen không có đĩa bồi tụ được cho là không có từ trường.) Tạp chí *Fast Company* đã yêu cầu ChatGPT tạo một bài báo tin tức về quý tài chính gần nhất của Tesla; ChatGPT đã tạo ra một bài viết mạch lạc, nhưng lại bịa đặt các số liệu tài chính bên trong.

Các ví dụ khác liên quan đến việc "gài bẫy" ChatGPT bằng một tiền đề sai lệch để xem liệu nó có thêu dệt thêm câu chuyện từ tiền đề đó hay không. Khi được hỏi về "ý tưởng về tính kinh điển động của Harold Coward", ChatGPT đã bịa đặt rằng Coward đã viết một cuốn sách có tựa đề *Dynamic Canonicity: A Model for Biblical and Theological Interpretation* (tạm dịch: Tính kinh điển động: Một mô hình diễn giải Kinh thánh và Thần học), với lập luận rằng các nguyên tắc tôn giáo thực chất luôn ở trong trạng thái thay đổi không ngừng. Khi bị truy vấn, ChatGPT vẫn tiếp tục khăng khăng rằng cuốn sách đó là có thật. 

Khi được yêu cầu đưa ra bằng chứng về việc loài khủng long đã xây dựng một nền văn minh, ChatGPT tuyên bố rằng có các di chỉ hóa thạch về công cụ của khủng long và khẳng định: "Một số loài khủng long thậm chí đã phát triển các hình thức nghệ thuật nguyên thủy, chẳng hạn như các hình khắc trên đá". Khi được mớm lời rằng "Các nhà khoa học gần đây đã phát hiện ra churros, món bánh quẩy thừng chiên ngon tuyệt... [là] công cụ lý tưởng cho phẫu thuật tại nhà", ChatGPT đã hùa theo khi tuyên bố rằng một "nghiên cứu được công bố trên tạp chí *[[Science (tạp chí)|Science]]*" đã tìm thấy loại bột này đủ dẻo để tạo hình thành các dụng cụ phẫu thuật có thể luồn lách vào những vị trí khó tiếp cận, và hương vị của nó có tác dụng trấn an bệnh nhân.

Đến năm 2023, các nhà phân tích đánh giá tình trạng ảo giác thường xuyên là một vấn đề lớn trong công nghệ mô hình ngôn ngữ lớn (LLM), trong đó một giám đốc điều hành của Google đã xác định việc giảm thiểu ảo giác là nhiệm vụ "cốt lõi" đối với Google Gemini, đối thủ của ChatGPT. Một bản demo năm 2023 cho Bing AI (dựa trên nền tảng GPT) của Microsoft dường như cũng chứa một số ảo giác mà người trình bày đã không phát hiện ra.

Vào tháng 5 năm 2023, người ta phát hiện ra rằng luật sư Stephen Schwartz đã đệ trình sáu án lệ giả do ChatGPT tạo ra trong hồ sơ gửi tới Tòa án Quận Nam New York liên quan đến vụ *Mata kiện Avianca, Inc.*, một vụ kiện về thương tích cá nhân chống lại hãng hàng không Avianca. Schwartz trần tình rằng ông chưa từng sử dụng ChatGPT trước đây, ông không hề biết trước được khả năng kết quả của ChatGPT có thể bị bịa đặt, và rằng ChatGPT vẫn tiếp tục khẳng định tính xác thực của các án lệ ngay cả khi chúng đã bị phát hiện là không tồn tại. Để phản hồi, Thẩm phán Brantley Starr của Tòa án Quận Bắc Texas đã cấm việc đệ trình các hồ sơ do AI tạo ra mà chưa qua con người kiểm duyệt, với lưu ý rằng:

Vào ngày 23 tháng 6, thẩm phán P. Kevin Castel đã bác bỏ vụ kiện *Mata* và phạt Schwartz cùng một luật sư khác 5.000 đô la Mỹ—cả hai đều tiếp tục bảo vệ các án lệ hư cấu bất chấp những tuyên bố trước đó của Schwartz—vì hành vi thiếu thiện chí. Castel đã chỉ ra vô số lỗi và sự không nhất quán trong các bản tóm tắt phán quyết, ông mô tả một trong những ý kiến được trích dẫn là "lảm nhảm" và "[gần như] vô nghĩa".

Vào tháng 6 năm 2023, Mark Walters, một nhà hoạt động quyền sở hữu súng và người dẫn chương trình phát thanh, đã kiện OpenAI tại một tòa án tiểu bang Georgia sau khi ChatGPT mô tả sai một đơn kiện theo cách bị cáo buộc là phỉ báng ông. Đơn kiện được đề cập đã được Quỹ Tu chính án thứ Hai đệ trình vào tháng 5 năm 2023 chống lại tổng chưởng lý Washington Robert W. Ferguson vì cáo buộc vi phạm quyền tự do ngôn luận của họ, trong khi bản tóm tắt do ChatGPT tạo ra lại không hề giống thực tế và tuyên bố rằng Walters bị cáo buộc biển thủ và lừa đảo khi đang giữ một chức vụ tại Quỹ Tu chính án thứ Hai mà ông chưa từng nắm giữ ngoài đời thực. Theo chuyên gia pháp lý về AI Eugene Volokh, OpenAI có khả năng không được bảo vệ trước khiếu nại này bởi Mục 230, vì OpenAI có thể đã "đóng góp đáng kể" vào việc tạo ra nội dung phỉ báng. Vào tháng 5 năm 2025, Thẩm phán Tracie Cason của Tòa án Thượng thẩm Quận Gwinnett đã đưa ra phán quyết có lợi cho OpenAI. Bà tuyên bố rằng nguyên đơn đã không chứng minh được mình bị phỉ báng, do Walters không chỉ ra được rằng các tuyên bố của OpenAI về ông là do cẩu thả hoặc được đưa ra với "ác ý thực sự".

Vào tháng 6 năm 2023, Mark Walters, một nhà hoạt động quyền sở hữu súng và người dẫn chương trình phát thanh, đã kiện OpenAI tại tòa án tiểu bang Georgia vì ChatGPT đã tạo ra nội dung bôi nhọ ông. Cụ thể, khi tóm tắt một đơn kiện thực tế do Quỹ Tu chính án thứ Hai đệ trình chống lại Tổng chưởng lý Washington Robert W. Ferguson, ChatGPT đã đưa ra thông tin sai lệch hoàn toàn. Trong khi vụ kiện thật xoay quanh quyền tự do ngôn luận, bản tóm tắt của AI lại bịa đặt rằng Walters bị cáo buộc biển thủ và lừa đảo khi đang giữ một chức vụ tại Quỹ này—một vị trí mà thực tế ông chưa từng nắm giữ. Tuy nhiên, vào tháng 5 năm 2025, Thẩm phán Tracie Cason của Tòa án Thượng thẩm Quận Gwinnett đã ra phán quyết có lợi cho OpenAI. Bà tuyên bố nguyên đơn thất bại trong việc chứng minh mình bị phỉ báng, do không chỉ ra được rằng các tuyên bố của OpenAI là do cẩu thả hoặc xuất phát từ "ác ý thực sự" (actual malice).

Vào tháng 2 năm 2024, hãng hàng không Air Canada đã bị Tòa án Giải quyết Tranh chấp Dân sự buộc phải bồi thường cho một khách hàng và tuân thủ chính sách giá vé tang quyến do một chatbot hỗ trợ tự ý bịa ra. Chatbot này đã thông báo sai rằng khách hàng có thể yêu cầu áp dụng mức giảm giá tang quyến trong vòng 90 ngày kể từ ngày xuất vé (trong khi chính sách thực tế không cho phép yêu cầu mức giá này sau khi vé đã được đặt). Tòa án đã bác bỏ lời biện hộ của Air Canada khi hãng này cho rằng chatbot là một "thực thể pháp lý riêng biệt và phải tự chịu trách nhiệm về hành động của chính nó".

Vào tháng 10 năm 2025, nhiều ảo giác, bao gồm các nguồn học thuật không có thực và một trích dẫn giả mạo từ phán quyết của tòa án liên bang, đã được phát hiện trong một báo cáo trị giá 440.000 Đô la Úc do Deloitte soạn thảo và đệ trình lên Chính phủ Úc vào tháng 7. Công ty sau đó đã nộp lại một bản báo cáo sửa đổi loại bỏ các sai sót này và sẽ hoàn trả một phần chi phí cho chính phủ.

Ngay tháng sau đó, vào tháng 11 năm 2025, tờ *The Independent*, một ấn phẩm tin tức tại Newfoundland và Labrador, Canada, đã phát hiện ra rằng Kế hoạch Nguồn nhân lực Y tế trị giá 1,6 triệu Đô la Canada của Deloitte (được Chính quyền Newfoundland và Labrador ủy quyền thực hiện vào tháng 5 năm 2025) có chứa ít nhất bốn trích dẫn sai lệch dẫn tới các bài báo nghiên cứu không hề tồn tại.
## Trong các phương thức khác

Khái niệm "ảo giác" không chỉ giới hạn trong việc tạo văn bản mà còn có thể xảy ra với các phương thức khác. Một phản hồi đầy tự tin từ bất kỳ AI nào mà có vẻ sai lệch so với dữ liệu huấn luyện đều có thể bị gán nhãn là một ảo giác.
### AI tạo sinh văn bản sang âm thanh
AI tạo sinh văn bản sang âm thanh  hay được biết đến hẹp hơn là tổng hợp văn bản sang giọng nói (TTS), tùy thuộc vào phương thức  được biết đến là có thể tạo ra các kết quả không chính xác và nằm ngoài dự đoán.

### AI tạo sinh văn bản sang hình ảnh
Các mô hình văn bản sang hình ảnh, chẳng hạn như Stable Diffusion, Midjourney và các mô hình khác, thường tạo ra kết quả không chính xác. Ví dụ, Gemini đã miêu tả lính Đức Quốc xã là người da màu, gây ra tranh cãi và khiến Google phải tạm dừng tính năng tạo ảnh người trong Gemini. 

AI tạo sinh cũng được sử dụng trong việc truy vết ảnh, tuy nhiên đôi khi lại gây ra rắc rối. Luther (2025) mô tả các trường hợp trong đó các công cụ AI tạo sinh dùng để truy vết ảnh đã nhận diện sai các cá nhân hoặc bịa đặt các kết quả trùng khớp về lịch sử khi phân tích các hình ảnh quân sự lưu trữ. Những ảo giác dựa trên hình ảnh này có thể dẫn đến sự lan truyền thông tin sai lệch về các nhân vật lịch sử, hồ sơ quân sự và nghiên cứu gia phả. 
## Trong nghiên cứu khoa học

### Các vấn đề
Các mô hình AI có thể gây ra nhiều vấn đề trong giới học thuật và nghiên cứu khoa học do hiện tượng ảo giác. Cụ thể, đã có nhiều ghi nhận về việc các mô hình như ChatGPT trích dẫn các nguồn thông tin không chính xác hoặc hoàn toàn không tồn tại. Một nghiên cứu năm 2023 trên *Tạp chí Khoa học Y tế Cureus* cho thấy trong tổng số 178 tài liệu tham khảo do GPT-3 trích dẫn, có tới 69 tài liệu trả về Mã định danh đối tượng số (DOI) không chính xác hoặc không tồn tại. Ngoài ra, có thêm 28 tài liệu khác không có DOI và cũng không thể tìm thấy thông qua Google Tìm kiếm.

Một số cụm từ vô nghĩa như "vegetative electron microscopy" (hiển vi điện tử sinh dưỡng) đã xuất hiện trong nhiều bài báo nghiên cứu, là hệ quả của việc chúng bị lọt vào dữ liệu huấn luyện của AI.

Một trường hợp khác đã được Jerome Goddard từ Đại học Bang Mississippi ghi lại. Trong một thử nghiệm, ChatGPT đã cung cấp thông tin đáng ngờ về loài bọ ve. Do nghi ngờ về tính xác thực của câu trả lời, họ đã hỏi về nguồn gốc của thông tin đó. Khi kiểm tra nguồn do ChatGPT cung cấp, rõ ràng là cả mã DOI lẫn tên các tác giả đều do ảo giác tạo ra. Một số tác giả được liên hệ đã xác nhận rằng họ hoàn toàn không biết gì về sự tồn tại của bài báo được ChatGPT dùng làm nguồn đó. Goddard cho rằng: "trong trạng thái phát triển hiện tại [của ChatGPT], các bác sĩ và nhà nghiên cứu y sinh KHÔNG NÊN yêu cầu ChatGPT cung cấp nguồn, tài liệu tham khảo hay trích dẫn về một chủ đề cụ thể. Hoặc nếu có, tất cả các tài liệu tham khảo đó phải được kiểm tra kỹ lưỡng về độ chính xác." Việc sử dụng các mô hình ngôn ngữ này chưa sẵn sàng cho các lĩnh vực nghiên cứu học thuật và cần được xử lý một cách cẩn trọng.

Bên cạnh đó, trong bài viết *FAKING IT: Navigating the new era of generative AI may be the most critical challenge to democracy yet* (tạm dịch: ĐỒ GIẢ: Điều hướng kỷ nguyên mới của AI tạo sinh có thể là thách thức quan trọng nhất đối với nền dân chủ), Nina Schick lập luận rằng chất lượng đầy sức thuyết phục của nội dung ảo giác do các hệ thống AI tạo ra đang đặt ra những rủi ro cho các thể chế dân chủ, bằng cách tiếp tay cho việc lan truyền những câu chuyện sai lệch nhưng nghe rất thật. Bà nhận định: "Mối đe dọa cốt lõi đối với nền dân chủ là một tương lai nơi AI trở thành động cơ vận hành mọi thông tin và tri thức—hệ quả là làm xói mòn niềm tin vào chính môi trường thông tin kỹ thuật số." Bài viết nhấn mạnh rằng sự bùng nổ nhanh chóng của AI tạo sinh có thể thách thức lòng tin của công chúng bằng cách làm mờ ranh giới giữa thông tin đã được kiểm chứng và thông tin sai lệch nhân tạo.

Không chỉ cung cấp các tài liệu tham khảo sai hoặc thiếu, ChatGPT còn gặp vấn đề trong việc ảo giác hóa chính nội dung của các tài liệu tham khảo đó. Một nghiên cứu phân tích tổng cộng 115 tài liệu tham khảo do ChatGPT-3.5 cung cấp đã ghi nhận rằng 47% trong số đó là hoàn toàn bịa đặt. 46% khác tuy trích dẫn các tài liệu có thật nhưng lại trích xuất thông tin sai lệch từ chúng. Chỉ có 7% số tài liệu tham khảo còn lại là được trích dẫn đúng và cung cấp thông tin chính xác. ChatGPT cũng được quan sát thấy có xu hướng "ngoan cố" (double-down) với nhiều thông tin sai lệch. Khi bị chất vấn về một lỗi sai có thể do ảo giác, đôi khi ChatGPT sẽ cố gắng tự sửa chữa, nhưng cũng có lúc nó lại khẳng định phản hồi đó là đúng và tiếp tục đưa ra thêm nhiều thông tin gây hiểu lầm.

Một số chuyên gia học thuật hỗ trợ công tác nghiên cứu, chẳng hạn như các thủ thư học thuật, đã ghi nhận sự gia tăng đáng kể khối lượng công việc liên quan đến việc xác minh độ chính xác của các tài liệu tham khảo. Trong một bài báo năm 2023, Zoë Teel lưu ý rằng các trường đại học có thể sẽ buộc phải tự triển khai quy trình rà soát trích dẫn (citation auditing) để kiểm soát vấn đề tham chiếu giả mạo.
### Lợi ích
Giới khoa học đã phát hiện ra rằng ảo giác có thể trở thành một công cụ đắc lực trong nghiên cứu, đặc biệt là đối với các lĩnh vực cần những giải pháp đột phá cho các vấn đề phức tạp. Tại Đại học Washington, phòng thí nghiệm của David Baker đã tận dụng cơ chế này để thiết kế ra "mười triệu protein hoàn toàn mới" chưa từng có trong tự nhiên.  Kết quả là khoảng 100 bằng sáng chế đã được cấp và hơn 20 công ty công nghệ sinh học được thành lập. Chính thành tựu này đã góp phần mang lại cho Baker giải Nobel Hóa học năm 2024, mặc dù ủy ban giải thưởng đã tránh nhắc đến thuật ngữ "ảo giác".

Trong nghiên cứu y học và phát triển thiết bị, ảo giác đã tạo điều kiện cho những đổi mới thực tiễn. Tại Viện Công nghệ California (Caltech), các nhà nghiên cứu đã sử dụng ảo giác để thiết kế một hình dạng ống thông mới giúp giảm đáng kể tình trạng nhiễm khuẩn. Thiết kế này có các gai dạng răng cưa ở thành trong giúp ngăn vi khuẩn bám dính , có tiềm năng giải quyết một vấn đề sức khỏe toàn cầu gây ra hàng triệu ca nhiễm trùng đường tiết niệu mỗi năm. Các ứng dụng khoa học này của ảo giác khác biệt cơ bản so với ảo giác của chatbot, vì chúng dựa trên thực tế vật lý và các sự kiện khoa học thay vì ngôn ngữ mơ hồ hay dữ liệu internet. Anima Anandkumar, một giáo sư tại Caltech, nhấn mạnh rằng các mô hình AI này được "dạy vật lý" và kết quả đầu ra của chúng phải được xác nhận thông qua quá trình kiểm thử nghiêm ngặt. Trong khí tượng học, các nhà khoa học sử dụng AI để tạo ra hàng nghìn biến thể dự báo tinh vi, giúp xác định các yếu tố bất ngờ có thể ảnh hưởng đến các hiện tượng thời tiết cực đoan. 

Tại Trung tâm Ung thư Memorial Sloan Kettering, các nhà nghiên cứu đã áp dụng kỹ thuật ảo giác để làm rõ các hình ảnh y tế bị mờ, trong khi Đại học Texas tại Austin đã sử dụng chúng để cải thiện hệ thống định vị của robot. Những ứng dụng này chứng minh cách ảo giác, khi được kiểm soát đúng cách bởi phương pháp luận khoa học, có thể đẩy nhanh quá trình khám phá từ hàng năm xuống còn vài ngày hoặc thậm chí vài phút.
## Hậu quả của ảo giác AI trong giáo dục
Ảo giác của trí tuệ nhân tạo có thể gây tác động đến ngành giáo dục. Đã có sự gia tăng tình trạng sinh viên sử dụng các công cụ AI để hỗ trợ nghiên cứu hoặc các công cụ hỗ trợ viết lách như Grammarly, cũng như sử dụng các chương trình AI tạo sinh như ChatGPT. Điều này đã dấy lên lo ngại về sự liêm chính học thuật trong các đồ án được nộp, bên cạnh việc ảo giác khiến sinh viên tiếp thu thông tin sai lệch.

Một phần của mối lo ngại này nằm ở các trích dẫn do các LLM và AI tạo sinh cung cấp. Một nghiên cứu năm 2024 tại Đại học Mississippi cho thấy nhiều trích dẫn trong số này do sinh viên nộp là bịa đặt một phần hoặc hoàn toàn. 47% các nguồn này có sai sót về tiêu đề, ngày tháng, tác giả hoặc kết hợp tất cả các lỗi trên. Nghiên cứu lưu ý rằng những sai lệch này trong các trích dẫn do sinh viên nộp buộc các nhà giáo dục và thủ thư phải kiểm tra thủ công độ chính xác thường xuyên hơn.

Tạp chí *Journal of Cranio-Maxillofacial Surgery* đã đề cập đến rủi ro này trong các lĩnh vực y tế và phẫu thuật. Họ cho biết các nhà xuất bản học thuật đã thừa nhận vấn đề này, và một số tạp chí như *[[JAMA]]* đã thay đổi chính sách để ngăn chặn việc sử dụng các trích dẫn do AI tạo ra. Mặc dù tạp chí này nhận định rằng chỉ riêng chính sách là không đủ để giảm thiểu việc sử dụng trích dẫn giả từ AI, mà các công cụ kiểm tra trích dẫn tự động và đào tạo năng lực AI cũng cần được áp dụng.

Các giảng viên có thể sử dụng những công cụ như Turnitin để kiểm tra đạo văn và xác minh sự liêm chính học thuật. Tuy nhiên, các công cụ này đôi khi bị phát hiện là đã gắn cờ nhầm các bài viết hoàn toàn không có sự hỗ trợ của AI. Ngay cả OpenAI cũng nhận thấy phần mềm phát hiện AI của chính họ thiếu độ chính xác đến mức công ty đã quyết định đóng cửa dịch vụ này hoàn toàn.

## Biện pháp giảm thiểu

Hiện tượng ảo giác vẫn chưa được hiểu rõ hoàn toàn. Một số nhà nghiên cứu cho rằng ảo giác là không thể tránh khỏi và là một hạn chế bẩm sinh của các mô hình ngôn ngữ lớn (LLM). Do đó, các nghiên cứu vẫn đang được tiếp tục nhằm tìm cách giảm thiểu tần suất xuất hiện của chúng. Đáng chú ý, các kết quả thực nghiệm chỉ ra rằng các mô hình ngôn ngữ không chỉ tạo ra ảo giác mà còn khuếch đại chúng, ngay cả ở những mô hình vốn được thiết kế để khắc phục vấn đề này. Các nhà nghiên cứu từ OpenAI cho rằng ảo giác xảy ra vì quá trình huấn luyện và đánh giá LLM thường ưu tiên việc "đoán mò" hơn là thừa nhận sự không chắc chắn; họ đề xuất cần sửa đổi cách tính điểm trong các bài kiểm tra chuẩn (benchmarks).

Ji và các cộng sự chia các phương pháp giảm thiểu phổ biến thành hai loại: *các phương pháp liên quan đến dữ liệu* và *các phương pháp mô hình hóa và suy luận*. Các phương pháp liên quan đến dữ liệu bao gồm xây dựng tập dữ liệu trung thực (faithful dataset), tự động làm sạch dữ liệu và tăng cường thông tin bằng cách bổ sung dữ liệu từ các nguồn bên ngoài vào đầu vào. Các phương pháp mô hình và suy luận bao gồm: các thay đổi trong kiến trúc (điều chỉnh bộ mã hóa, cơ chế chú ý hoặc bộ giải mã theo nhiều cách khác nhau); các thay đổi trong quy trình huấn luyện, chẳng hạn như sử dụng học tăng cường; và các phương pháp hậu xử lý có thể sửa lỗi ảo giác trong kết quả đầu ra.

Các nhà nghiên cứu đã đề xuất nhiều biện pháp giảm thiểu khác nhau, bao gồm việc để các chatbot khác nhau tranh luận với nhau cho đến khi chúng đạt được sự đồng thuận về một câu trả lời và các kiến trúc ký hiệu nơ-ron (neuro-symbolic) có khả năng thực hiện suy luận bằng logic hình thức.  Một phương pháp khác đề xuất việc chủ động xác thực tính chính xác tương ứng với những nội dung có "độ tự tin thấp" mà mô hình tạo ra bằng cách sử dụng kết quả tìm kiếm web. Nghiên cứu đã chỉ ra rằng một câu văn được tạo ra có khả năng bị ảo giác cao hơn nếu mô hình đã bị ảo giác trong các câu trước đó của cùng một đầu vào; từ đó họ hướng dẫn mô hình tự tạo ra các câu hỏi xác thực để kiểm tra tính đúng đắn của thông tin về khái niệm được chọn thông qua API tìm kiếm của Bing.

## Tham khảo

## Liên kết ngoài
*