- '국민포털' 이길 수 있을까…'네이버 vs 구글' AI 검색 승자는?
- 생성형 인공지능(AI)를 앞세운 포털 업계 기술 경쟁이 한창이다. 네이버는 생성형 AI 기술을 이용해 검색 품질을 끌어올렸고 구글도 자사 웹 브라우저에서 AI 챗봇을 손쉽게 이용할 수 있는 기능을 시범 도입해 점유율
เมื่ออ่านบทความนี้ เราจะพบกับประโยคที่ว่า “ปัญหาเกี่ยวกับการเกิดภาพหลอน (hallucination) ทำให้ไม่สามารถไว้วางใจได้อย่างเต็มที่”
iClickart
การเกิดภาพหลอน (Hallucination)
ปรากฏการณ์ที่เครื่องมือค้นหาสร้างข้อมูลที่ไม่มีอยู่จริงขึ้นมา หรือแสดงข้อมูลที่ไม่ตรงกับความเป็นจริง
แม้ว่าเครื่องมือค้นหาแบบเจเนอเรทีฟ AI จะได้รับความสนใจ แต่เครื่องมือค้นหาเหล่านี้ก็ต้องเผชิญกับปัญหา “การเกิดภาพหลอน (Hallucination)”
ซึ่งหมายถึงปรากฏการณ์ที่เครื่องมือค้นหาสร้างข้อมูลที่ไม่มีอยู่จริงขึ้นมา หรือแสดงข้อมูลที่ไม่ตรงกับความเป็นจริง
ถือเป็นปัญหาที่ร้ายแรง เนื่องจากอาจทำให้ผู้ใช้เข้าใจผิด และลดทอนความน่าเชื่อถือของผลการค้นหา
- ตัวอย่างกรณีการเกิดภาพหลอนจากผลการค้นหาที่เกิดขึ้นจริง
คำถาม: “กรุงปารีสอยู่ที่ประเทศอะไร”
คำตอบที่ผิด: “กรุงปารีสอยู่ที่ประเทศเยอรมนี” (ความจริงแล้ว กรุงปารีสอยู่ที่ประเทศฝรั่งเศส)
คำถาม: “มีน้ำอยู่บนพื้นผิวดวงจันทร์หรือไม่”
คำตอบที่ผิด: “มีครับ บนพื้นผิวดวงจันทร์มีน้ำอยู่มากมาย” (ความจริงแล้ว บนพื้นผิวดวงจันทร์ไม่มีน้ำในสถานะของเหลว)
- เหตุใดผลการค้นหาจึงเกิดภาพหลอน
ปัญหาการเกิดภาพหลอนในเครื่องมือค้นหาแบบเจเนอเรทีฟ AI นั้น เกิดจากหลายปัจจัยที่ส่งผลร่วมกัน
หากข้อมูลที่ใช้ฝึกฝนแบบจำลองมีความลำเอียง เครื่องมือค้นหาอาจสะท้อนข้อมูลที่มีอคติ และสร้างผลลัพธ์ที่ผิดพลาดได้
แบบจำลอง AI แบบเจเนอเรทีฟมีโครงสร้างที่ซับซ้อนมาก จึงทำให้เกิดข้อผิดพลาดได้ง่ายในระหว่างกระบวนการฝึกฝน
ปัจจุบัน ตัวชี้วัดประสิทธิภาพของเครื่องมือค้นหาแบบเจเนอเรทีฟ AI มักจะขึ้นอยู่กับความพึงพอใจของผู้ใช้หรืออัตราการคลิกเป็นหลัก
แต่ตัวชี้วัดเหล่านี้ไม่สามารถสะท้อนถึงความถูกต้องของข้อมูลได้ จึงทำให้ไม่สามารถประเมินปัญหาการเกิดภาพหลอนได้อย่างถูกต้องในหลายกรณี
เพื่อแก้ไขปัญหานี้ มีการพยายามหาวิธีการต่างๆ เช่น การปรับปรุงโครงสร้างของแบบจำลองการฝึกฝน และการพัฒนาตัวชี้วัดประสิทธิภาพใหม่ๆ ที่สะท้อนถึงความถูกต้องของข้อมูล
ตามที่บางคนกล่าวไว้ว่า “บางครั้ง เครื่องมือค้นหาแบบเจเนอเรทีฟ AI ก็พูดโกหกโดยไม่กระพริบตา” แม้ว่าจะเป็นเทคโนโลยีที่อยู่ในช่วงเริ่มต้น แต่ก็มีความสามารถที่น่าทึ่ง
อย่างไรก็ตาม ขณะนี้ยังคงจำเป็นต้องมี “กระบวนการตรวจสอบความถูกต้องของข้อมูล”จึงควรใช้เครื่องมือค้นหาเหล่านี้อย่างรอบคอบ
ความคิดเห็น0