क्या सर्च रिजल्ट भी भ्रम पैदा कर रहे हैं? आर्टिफिशियल इंटेलिजेंस सर्च इंजन की 'हैलुसिनेशन' समस्या

जब आप इस लेख को पढ़ते हैं, तो आपको यह पंक्ति दिखाई देती है, "हालुसिनेशन (भ्रम) की समस्या उठाई गई है, जिसके कारण इसे सीधे तौर पर विश्वसनीय मानना मुश्किल है।"

हालुसिनेशन (भ्रम)

जब सर्च इंजन वास्तव में मौजूद न होने वाली जानकारी बनाते हैं या गलत जानकारी देते हैं, तो इस घटना को हालुसिनेशन (भ्रम) कहा जाता है।

जेनरेटिव एआई सर्च इंजन भले ही लोगों का ध्यान खींच रहे हों, लेकिन इन सर्च इंजनों को "हालुसिनेशन (भ्रम)" नामक समस्या का सामना करना पड़ रहा है।

इसका मतलब है कि सर्च इंजन वास्तव में मौजूद न होने वाली जानकारी बनाते हैं या गलत जानकारी देते हैं।

यह उपयोगकर्ताओं को भ्रमित करने वाली जानकारी प्रदान करता है और सर्च परिणामों की विश्वसनीयता को कम करता है, जिसे एक गंभीर समस्या माना जा सकता है।

• "सर्च परिणामों में भ्रम" के कुछ वास्तविक उदाहरण
  
  
  

प्रश्न: "फ्रांस की राजधानी कहाँ है?"

गलत उत्तर: "फ्रांस की राजधानी बर्लिन है।" (वास्तविक राजधानी पेरिस है।)

प्रश्न: "क्या चाँद की सतह पर पानी है?"

गलत उत्तर: "हाँ, चाँद की सतह पर भरपूर मात्रा में पानी है।" (वास्तव में चाँद की सतह पर तरल अवस्था में पानी नहीं है।)

• सर्च परिणामों में भ्रम आने के क्या कारण हैं?
  
  
  

जेनरेटिव एआई सर्च इंजन में हालुसिनेशन (भ्रम) की समस्या कई कारकों के संयुक्त प्रभाव के कारण उत्पन्न होती है।

यदि प्रशिक्षण डेटा में पूर्वाग्रह है, तो सर्च इंजन पूर्वाग्रही जानकारी को शामिल करके गलत परिणाम उत्पन्न कर सकता है।

जेनरेटिव एआई मॉडल बहुत जटिल संरचना वाले होते हैं, इसलिए प्रशिक्षण प्रक्रिया में त्रुटियां होना आसान है।

वर्तमान में उपयोग किए जा रहे जेनरेटिव एआई सर्च इंजन का मूल्यांकन मुख्य रूप से उपयोगकर्ता संतुष्टि या क्लिक-थ्रू दर जैसे मानदंडों पर आधारित होता है।

लेकिन ये मानदंड जानकारी की सटीकता को नहीं दर्शाते हैं, इसलिए कई बार हालुसिनेशन (भ्रम) की समस्या का सही मूल्यांकन नहीं हो पाता है।

इस समस्या के समाधान के लिए प्रशिक्षण मॉडल की संरचना में सुधार करना, जानकारी की सटीकता को दर्शाने वाले नए मूल्यांकन मानदंड विकसित करना, और अन्य कई उपायों पर विचार किया जा रहा है।

कुछ लोगों के अनुसार, "कभी-कभी बिना पलक झपकाए झूठ बोलने वाले" जेनरेटिव एआई सर्च इंजन अभी भी प्रारंभिक चरण की तकनीक हैं, लेकिन इनमें अपार क्षमता है।

लेकिन अभी भी 'सही तथ्यों की जाँच करने की प्रक्रिया' आवश्यक है, इसलिए बुद्धिमानी से उपयोग करने की आवश्यकता है।