गलत होने पर भी AI निश्चित क्यों लगता है और हम इस पर विश्वास क्यों करते हैं | भारत समाचार

मतिभ्रम का उपयोग हाल ही में एक विशिष्ट व्यवहार पैटर्न को संदर्भित करने के लिए किया गया है जिसे जेनरेटिव आर्टिफिशियल इंटेलिजेंस (एआई) मॉडल प्रदर्शित करते हैं।एआई मतिभ्रम तब होता है जब कोई मॉडल पूरी तरह से मनगढ़ंत प्रतिक्रिया उत्पन्न करता है। प्रशंसनीय लेकिन झूठे उत्तरों का वास्तविकता या प्रशिक्षण डेटा में कोई आधार नहीं है।इन मतिभ्रमों का सबसे अजीब पहलू स्वर है: प्रतिक्रिया, हालांकि भ्रामक और आविष्कारित है, पूरी तरह से आश्वस्त लगती है। इन प्रतिक्रियाओं में जरा भी अनिश्चितता नहीं दिखती है, जो अक्सर उपयोगकर्ताओं को गलत सूचना पर विश्वास करने के लिए प्रेरित करती है।उपयोगकर्ताओं को अपने पिज़्ज़ा पर गोंद लगाने की सिफ़ारिश करने से लेकर उन किताबों की गर्मियों में पढ़ने की सूची बनाने तक जो मौजूद नहीं हैं (जो एक समाचार पत्र में पहुंच गईं!), एआई मतिभ्रम पिछले कुछ वर्षों में अनगिनत बार इंटरनेट वायरलिटी का विषय रहा है।यह अजीब घटना विच्छेदन की मांग करती है।

एआई मतिभ्रम क्या हैं?

एआई मॉडल मतिभ्रम क्यों करते हैं?भाषा मॉडल मतिभ्रम करते हैं क्योंकि मानक प्रशिक्षण और मूल्यांकन प्रक्रियाएं अनिश्चितता को स्वीकार करने के बजाय अनुमान लगाने को पुरस्कृत करती हैं, ओपनएआई में विद्वानों द्वारा प्रकाशित एक शोध पत्र का सुझाव है: ‘भाषा मॉडल मतिभ्रम क्यों करते हैं।’पेपर इसे एक सादृश्य के साथ समझाता है: बहुविकल्पीय प्रश्न। यदि भाग्य साथ दे तो किसी अज्ञात प्रश्न पर बेतुका अनुमान सही हो सकता है। दूसरी ओर इसे खाली छोड़ रहे हैं? वह शून्य की गारंटी देता है. बड़े भाषा मॉडल (एलएलएमएस) को सटीकता और सही प्रश्नों के प्रतिशत के आधार पर समान रूप से वर्गीकृत किया जाता है।यह वर्तमान मूल्यांकन पद्धति गलत प्रोत्साहन निर्धारित करती है, जो अनिश्चितता की ईमानदार अभिव्यक्ति के बजाय अनुमान लगाने को प्रोत्साहित करती है।इसके अलावा, भाषा मॉडल एक समय में एक शब्द की भविष्यवाणी करके संकेतों का जवाब देते हैं। यह केवल संभाव्यता और पैटर्न का प्रश्न है। ऐसी प्रक्रिया में गलतियाँ अपरिहार्य हैं।

एआई मॉडल मतिभ्रम क्यों करते हैं?

चिंताजनक पैटर्नअक्टूबर 2024 में, एसोसिएटेड प्रेस ने अस्पतालों में ओपनएआई के ट्रांसक्रिप्शन टूल व्हिस्पर के उपयोग पर एक जांच प्रकाशित की। इसमें कहा गया है कि “मानवीय स्तर की मजबूती और सटीकता” के रूप में धकेले जाने के बावजूद, व्हिस्पर में अक्सर पाठ के टुकड़े और यहां तक ​​कि पूरे वाक्य बनाने की प्रवृत्ति होती थी जो पहले कभी नहीं कहे गए थे।“उच्च-जोखिम वाले डोमेन” में व्हिस्पर का उपयोग न करने के बारे में ओपनएआई की चेतावनी के बावजूद, इसका उपयोग वैसे भी डॉक्टर-रोगी परामर्श को लिखने के लिए किया जाता पाया गया, क्योंकि इसने चिकित्सा प्रदाताओं को रिपोर्ट लिखने और नोट लेने में समय बचाने में सक्षम बनाया।रिपोर्ट में कहा गया है, “उन विशेषज्ञों (एक दर्जन से अधिक सॉफ्टवेयर इंजीनियरों, डेवलपर्स और अकादमिक शोधकर्ताओं) ने कहा कि कुछ आविष्कृत पाठ – जिन्हें उद्योग में मतिभ्रम के रूप में जाना जाता है – में नस्लीय टिप्पणी, हिंसक बयानबाजी और यहां तक ​​कि काल्पनिक चिकित्सा उपचार भी शामिल हो सकते हैं।”एआई-संचालित ट्रांसक्रिप्शन के साथ मुद्दा सिर्फ निर्माण का नहीं है, बल्कि पूर्वाग्रह का भी है। अमेरिकी भाषाविद् मैरी बुचोल्ट्ज़ के शब्दों में, “सभी प्रतिलेख पक्ष लेते हैं, कुछ व्याख्याओं को सक्षम करते हैं, विशेष हितों को आगे बढ़ाते हैं, विशिष्ट वक्ताओं का पक्ष लेते हैं।”मई 2026 में, अकाउंटिंग फर्म अर्न्स्ट एंड यंग (ईवाई) ने उद्धरण त्रुटियों, नकली फ़ुटनोट्स और एआई द्वारा मतिभ्रम के संदेह वाले आंकड़ों के लिए चिह्नित एक रिपोर्ट को वापस ले लिया। एआई-डिटेक्शन स्टार्टअप जीपीटीजीरो की जांच से पता चला है कि लॉयल्टी प्रोग्राम सुरक्षा उपायों पर ईवाई कनाडा की साइबर सुरक्षा रिपोर्ट में उन अध्ययनों का उल्लेख किया गया था जो अस्तित्व में ही नहीं थे।‘चेज़िंग द हेलुसिनेशन्स’ शीर्षक वाली रिपोर्ट में सुझाव दिया गया है कि कैसे विरोधाभासी संदर्भ, निम्न-गुणवत्ता वाले स्रोत और पुराने आँकड़े सभी एआई संकेतक हैं. रिपोर्ट एक चेतावनी के साथ समाप्त हुई: “फर्जी जानकारी अच्छी तरह से जहर देती है और भविष्य के शोधकर्ताओं को गुमराह करती है, खासकर जब एक प्रमुख परामर्श फर्म द्वारा प्रकाशित की जाती है। क्लाउड, चैटजीपीटी, पर्प्लेक्सिटी सभी सतही मतिभ्रम ईवाई की त्रुटिपूर्ण रिपोर्ट से हैं।”

जब AI अपने स्रोत नकली बनाता है

एआई मतिभ्रम शिक्षाविदों, शोधकर्ताओं को कैसे प्रभावित करता है“कई मौकों पर जब मैंने किताबों या सुप्रीम कोर्ट के मामलों के संदर्भ मांगे, तो एआई ने मतिभ्रम किया और आत्मविश्वास से गलत उद्धरण प्रदान किए जो शुरू में सटीक लगे। लेकिन जब मैंने मूल स्रोतों से जांच करना शुरू किया, तो मैंने उन्हें गलत पाया,” भारतीय जनसंचार संस्थान के प्रोफेसर (डॉ.) आनंद प्रधान ने कहा। ”कुछ बार, इसने अन्य विद्वानों के काम के साथ विशेष सिद्धांतों की व्याख्याओं को भी भ्रमित कर दिया।”GPTZero के शोधकर्ताओं ने ‘वाइब का हवाला देते हुए’ शब्द को यह बताने के लिए गढ़ा कि कैसे जेनरेटिव एआई मॉडल ऐसे उद्धरण या अकादमिक संदर्भ बनाते हैं जो विश्वसनीय प्रतीत होते हैं लेकिन या तो गलत आरोप हैं या पूरी तरह से मनगढ़ंत हैं।उन्होंने इस घटना को तीन अलग-अलग पैटर्न में वर्गीकृत किया है, जहां मानवीय त्रुटियों को छूट दी गई है:

मतिभ्रम वाले उद्धरण न केवल संबंधित कार्य की अखंडता पर सवाल उठाते हैं, बल्कि समग्र रूप से शिक्षा और अनुसंधान के भविष्य के लिए भी खतरा पैदा करते हैं।मास्टर का एक छात्र एआई-जनित शैक्षणिक प्रतिक्रियाओं की अविश्वसनीयता के कारण होने वाली लगातार बेचैनी की बात करता है। “जेमिनी उन वेबसाइटों को लिंक करता है जिनसे वह अपने सारांश तैयार करता है। हालाँकि, कई बार ऐसा हुआ है जब मैंने लिंक तक पहुँचने का प्रयास किया है लेकिन यह खुला स्रोत नहीं था इसलिए मैं तथ्य-जाँच नहीं कर सका। अन्य समय में, मैं वेबसाइट को पूरी तरह से अलग कुछ कहते हुए देखता हूं, ”उषासी चौधरी ने कहा, जो लोरेटो कॉलेज, कोलकाता में अंग्रेजी साहित्य में मास्टर डिग्री कर रही हैं।उषासी ने कहा कि जब भी साहित्य या दर्शन में किसी अवधारणा को संदर्भित करने की आवश्यकता होती है, तो एक सरल गूगल खोज त्वरित और व्यापक समझ के लिए वेबसाइट ढूंढने में मदद करती है। अब जबकि Google AI-जनरेटेड अवलोकन प्रदान करता है, कभी-कभी इसे वहां से पढ़ना सुविधाजनक होता है, खासकर जब भीड़ हो।साहित्य के छात्र ने कहा, “लगातार 5 अलग-अलग किताबों का जिक्र करना एक कठिन प्रक्रिया है, कभी-कभी मैं Google AI-सारांश के अनुसार ही चलता हूं।” “यह अंध विश्वास नहीं हो सकता लेकिन मुझे उन परिस्थितियों के दौरान आश्वासन का भ्रम दिया जाता है जहां मेरे पास बहुत सारे स्रोतों को देखने का समय नहीं होता है।”डॉ प्रधान ने कहा कि एआई धीरे-धीरे सटीकता में सुधार कर रहा है। फिर भी, यह अभी तक 100% सटीक नहीं है और इसकी प्रतिक्रियाओं को अभी भी सत्यापित करने की आवश्यकता है, विशेष रूप से पत्रकारिता, शैक्षणिक और अनुसंधान संदर्भों में, प्रोफेसर ने चेतावनी दी।

अपनी सुरक्षा कैसे करें

एआई के युग में प्रश्न और सत्यापनयह स्थापित है कि कोई भी और सभी आर्टिफिशियल इंटेलिजेंस मॉडल कभी-कभी आत्मविश्वास से झूठ बोलेंगे। एक ही समय में, सुविधा और जल्दबाजी के संबंध में, एआई अजेय है और इसे खत्म नहीं किया जा सकता है, एक बढ़ती आम सहमति कहती है।मीडिया साक्षरता के उपकरण इस कठिन परिस्थिति में उपयोगी साबित होते हैं।किसी को भी अशुद्धि और गलत सूचना को कम करने में जो मदद मिल सकती है, वह केवल जोरदार, संपूर्ण तथ्य-जांच और सत्यापन की प्रक्रिया है। एआई मॉडल द्वारा दिए गए किसी भी जवाब पर आंख मूंदकर भरोसा न करें, चाहे वह कितना भी विश्वसनीय लगे या उसने कितनी आधिकारिक जानकारी व्यक्त की हो – यहां तक ​​​​कि, और विशेष रूप से, अगर वह किसी की पहले से मौजूद धारणाओं का समर्थन करता हो।