- '국민포털' 이길 수 있을까…'네이버 vs 구글' AI 검색 승자는?
- 생성형 인공지능(AI)를 앞세운 포털 업계 기술 경쟁이 한창이다. 네이버는 생성형 AI 기술을 이용해 검색 품질을 끌어올렸고 구글도 자사 웹 브라우저에서 AI 챗봇을 손쉽게 이용할 수 있는 기능을 시범 도입해 점유율
Saat membaca artikel ini, kita menemukan kalimat "Masalah halusinasi (halusinasi) muncul, sehingga sulit untuk sepenuhnya mempercayai informasi yang disajikan."
iClickart
Halusinasi
Fenomena mesin pencari yang menghasilkan informasi yang tidak ada atau memberikan informasi yang salah
Mesin pencari berbasis AI generatif tengah menarik perhatian, namun mesin pencari ini menghadapi masalah yang disebut "halusinasi".
Ini mengacu pada fenomena mesin pencari yang menghasilkan informasi yang tidak ada atau memberikan informasi yang salah.
Hal ini dapat dianggap sebagai masalah serius karena dapat memberikan informasi yang menyesatkan kepada pengguna dan mengurangi kredibilitas hasil pencarian.
- Contoh kasus 'halusinasi hasil pencarian' yang benar-benar terjadi
Pertanyaan: "Apa ibu kota Prancis?"
Jawaban yang salah: "Ibu kota Prancis adalah Berlin." (Ibu kota yang sebenarnya adalah Paris.)
Pertanyaan: "Apakah ada air di permukaan bulan?"
Jawaban yang salah: "Ya, terdapat air yang melimpah di permukaan bulan." (Sebenarnya, tidak ada air dalam bentuk cair di permukaan bulan.)
- Apa penyebab hasil pencarian mengalami halusinasi?
Masalah halusinasi pada mesin pencari berbasis AI generatif diyakini disebabkan oleh berbagai faktor yang saling terkait.
Jika data pelatihan mengandung bias, mesin pencari dapat merefleksikan informasi yang bias tersebut dan menghasilkan hasil yang salah.
Model AI generatif memiliki struktur yang sangat kompleks, sehingga mudah terjadi kesalahan selama proses pelatihan.
Saat ini, metrik evaluasi yang digunakan untuk mesin pencari berbasis AI generatif umumnya didasarkan pada kepuasan pengguna atau tingkat klik.
Namun, metrik ini tidak mencerminkan akurasi informasi, sehingga seringkali gagal dalam mengevaluasi masalah halusinasi secara tepat.
Untuk mengatasi masalah ini, berbagai upaya sedang dilakukan, seperti memperbaiki struktur model pembelajaran dan mengembangkan metrik evaluasi baru yang mempertimbangkan akurasi informasi.
Dengan meminjam istilah seseorang, mesin pencari berbasis AI generatif yang "terkadang tanpa ragu-ragu melontarkan kebohongan" masih merupakan teknologi yang berada pada tahap awal, namun memiliki potensi yang luar biasa.
Namun, saat ini, "proses verifikasi untuk memastikan kebenaran informasi" masih diperlukan, sehingga diperlukan penggunaan yang bijak.
Komentar0