इस लेख को पढ़ते समय, "हलुसिनेशन (भ्रम) की समस्या उठाई गई है, इसलिए इसे सीधे तौर पर भरोसा करना मुश्किल है" जैसा एक वाक्यांश सामने आता है।

हलुसिनेशन

खोज इंजन वास्तव में गैर-मौजूद जानकारी बनाता है या गलत जानकारी प्रस्तुत करता है।

हालांकि, जनरेटिव एआई सर्च इंजन लोगों का ध्यान आकर्षित कर रहे हैं, लेकिन इन सर्च इंजन को "हलुसिनेशन" जैसी समस्या का सामना करना पड़ रहा है।

इसका मतलब है कि सर्च इंजन वास्तव में गैर-मौजूद जानकारी बनाता है या गलत जानकारी प्रस्तुत करता है।

यह एक गंभीर समस्या है क्योंकि यह उपयोगकर्ताओं को भ्रमित कर सकता है और खोज परिणामों की विश्वसनीयता को कम कर सकता है।

• वास्तव में हुई 'खोज परिणाम भ्रम' की घटना के कुछ उदाहरण
  
  
  

प्रश्न: "फ्रांस की राजधानी कहाँ है?"

गलत उत्तर: "फ्रांस की राजधानी बर्लिन है।" (वास्तविक राजधानी पेरिस है।)

प्रश्न: "क्या चाँद की सतह पर पानी मौजूद है?"

गलत उत्तर: "हाँ, चाँद की सतह पर प्रचुर मात्रा में पानी मौजूद है।" (वास्तव में चाँद की सतह पर तरल पानी मौजूद नहीं है।)

• खोज परिणाम भ्रम क्यों दिखाते हैं?
  
  
  

जनरेटिव एआई सर्च इंजन में हलुसिनेशन की समस्या विभिन्न कारकों के संयोजन से उत्पन्न होती है।

यदि प्रशिक्षण डेटा में पक्षपात है, तो खोज इंजन पक्षपाती जानकारी को प्रतिबिंबित कर सकता है और गलत परिणाम उत्पन्न कर सकता है।

जनरेटिव एआई मॉडल बहुत जटिल संरचना वाले होते हैं, जिसके कारण प्रशिक्षण प्रक्रिया में त्रुटियाँ हो सकती हैं।

वर्तमान में उपयोग किए जा रहे जनरेटिव एआई सर्च इंजन का मूल्यांकन मुख्य रूप से उपयोगकर्ता संतुष्टि या क्लिक दर जैसे मानदंडों पर आधारित है।

हालांकि, ये मानदंड जानकारी की सटीकता को नहीं दर्शाते हैं, इसलिए वे हलुसिनेशन की समस्या का ठीक से मूल्यांकन नहीं कर पाते हैं।

समस्या को हल करने के लिए, प्रशिक्षण मॉडल की संरचना में सुधार किया जा रहा है, और जानकारी की सटीकता को दर्शाने वाले नए मूल्यांकन मानदंड विकसित किए जा रहे हैं। 

कुछ लोगों ने इसे "कभी-कभी बिना पलक झपकाए झूठ बोलने" वाला जनरेटिव एआई सर्च इंजन कहा है, जो अभी भी प्रारंभिक चरण में है लेकिन इसमें काफी क्षमता है।

हालाँकि, अभी भी 'सटीक तथ्यों की जाँच करना'एक आवश्यक कदम है, इसलिए बुद्धिमानी से उपयोग करने की आवश्यकता है।