Khi đọc bài báo này, bạn sẽ bắt gặp dòng chữ "Vấn đề ảo giác được đặt ra, khiến cho việc tin tưởng hoàn toàn vào thông tin trở nên khó khăn".

Ảo giác

Hiện tượng động cơ tìm kiếm tạo ra thông tin không tồn tại hoặc đưa ra thông tin sai lệch

Công cụ tìm kiếm AI tạo sinh đang thu hút sự chú ý, nhưng những công cụ tìm kiếm này đang phải đối mặt với vấn đề "ảo giác".

Điều này có nghĩa là động cơ tìm kiếm tạo ra thông tin không tồn tại hoặc đưa ra thông tin sai lệch.

Có thể coi đây là một vấn đề nghiêm trọng, gây hiểu nhầm cho người dùng và làm giảm độ tin cậy của kết quả tìm kiếm.

• Ví dụ về trường hợp "ảo giác kết quả tìm kiếm" đã xảy ra trong thực tế
  
  
  

Câu hỏi: "Thủ đô của Pháp là đâu?"

Câu trả lời sai: "Thủ đô của Pháp là Berlin." (Thủ đô thực tế là Paris.)

Câu hỏi: "Liệu có nước tồn tại trên bề mặt mặt trăng?"

Câu trả lời sai: "Có, trên bề mặt mặt trăng có nhiều nước." (Trên thực tế, không có nước ở trạng thái lỏng trên bề mặt mặt trăng.)

• Tại sao kết quả tìm kiếm lại bị ảo giác?
  
  
  

Vấn đề ảo giác của động cơ tìm kiếm AI tạo sinh được cho là do nhiều yếu tố kết hợp gây ra.

Nếu dữ liệu đào tạo có thiên lệch, động cơ tìm kiếm có thể phản ánh thông tin thiên lệch và tạo ra kết quả sai.

Mô hình AI tạo sinh có cấu trúc rất phức tạp, dễ xảy ra lỗi trong quá trình đào tạo.

Hiện nay, các chỉ số đánh giá động cơ tìm kiếm AI tạo sinh chủ yếu dựa trên mức độ hài lòng của người dùng hoặc tỷ lệ nhấp chuột.

Tuy nhiên, những chỉ số này không phản ánh độ chính xác của thông tin, do đó, chúng thường không đánh giá chính xác vấn đề ảo giác.

Để giải quyết vấn đề, nhiều giải pháp đang được tìm kiếm, chẳng hạn như cải thiện cấu trúc mô hình học tập và phát triển các chỉ số đánh giá mới phản ánh độ chính xác của thông tin. 

Có thể mượn lời của một số người, "Đôi khi động cơ tìm kiếm AI tạo sinh nói dối mà không hề chớp mắt", đây vẫn là một công nghệ ở giai đoạn đầu, nhưng có tiềm năng to lớn.

Tuy nhiên, hiện nay vẫn cần phải có 'quá trình kiểm tra để xác minh thông tin chính xác' là bước cần thiết, do đó, việc sử dụng một cách thông minh là điều cần thiết.