हम सभी ने एआई चैटबॉट्स की प्रवृत्ति का अनुभव किया है कि वे हमें बताएं कि हम क्या सुनना चाहते हैं, लेकिन दो अन्य, अधिक सूक्ष्म कारक हैं जो चैटबॉट्स को मानव दिलों में अपनी जगह बनाने में मदद करते हैं।
डब्ल्यूएसजे के लिए फ्रांज़िस्का बार्ज़िक
अत्यधिक सहमत होने के अलावा, चैटबॉट लोगों के बोलने के तरीके को प्रतिबिंबित करते हैं और पूर्व वार्तालापों के आधार पर अत्यधिक वैयक्तिकृत प्रतिक्रियाएँ उत्पन्न करते हैं। मनोचिकित्सक शोधकर्ता इन तीन विशेषताओं – चापलूसी, भाषाई संरेखण और हाइपरपर्सनलाइजेशन – के संगम को “प्रवर्धन सर्पिल” के रूप में संदर्भित कर रहे हैं, यह सुझाव देते हुए कि यह वह तंत्र है जिसके द्वारा भ्रमपूर्ण सोच विकसित हो सकती है।
जर्मनी के बोचुम में प्रोटेस्टेंट यूनिवर्सिटी ऑफ एप्लाइड साइंसेज के मनोचिकित्सक और प्रोफेसर मार्क ऑगस्टिन और एक नव प्रकाशित पुस्तक के सह-लेखक मार्क ऑगस्टिन ने कहा, “मिररिंग और वैयक्तिकरण आपको आकर्षित करता है और किसी सिस्टम से नहीं, बल्कि किसी से बात करने का अनुभव देता है।” साहित्य की समीक्षा एआई से संबंधित भ्रमों पर।
किसी अन्य व्यक्ति के वाक्य-विन्यास और मौखिक अभिव्यक्तियों का मिलान करना मनुष्यों के लिए संबंध बनाने का एक सामान्य तरीका है। हाल के शोध में पाया गया है कि कृत्रिम-बुद्धिमत्ता मॉडल महत्वपूर्ण रूप से अनुकूलन करते हैं बातचीत की शैली उनका उपयोग करने वाले मनुष्यों का। एक अन्य अध्ययन ने सुझाव दिया कि अत्यधिक वैयक्तिकृत सामग्री चैटबॉट्स द्वारा उत्पन्न, जो लंबी बातचीत के दौरान बनता है, मानव-पुष्टि पूर्वाग्रह को बढ़ा सकता है।
ऑगस्टिन ने उस शोध का हवाला दिया जिसमें एक पैटर्न का दस्तावेजीकरण किया गया था चैटबॉट्स को दोबारा दोहराया गया और एक्सट्रपलेशन किया गया लोगों ने जो साझा किया, और उन्हें बताया कि वे अद्वितीय हैं और उनके विचारों के महान निहितार्थ हैं। उन्होंने लिखा, “इसे हाइपरपर्सनलाइजेशन के एक तत्व के रूप में देखा जा सकता है, जिसका अकेले चाटुकारिता से हिसाब नहीं लगाया जा सकता है।”
कुछ एआई कंपनियों ने अपने चैटबॉट्स की चापलूसी प्रकृति को कम करने की कोशिश की है। OpenAI ने इसे बंद कर दिया लोकप्रिय लेकिन समस्याग्रस्त 4o मॉडलजिसकी अत्यधिक सहमत होने के कारण व्यापक रूप से आलोचना की गई थी। का विषय था कई मुकदमे इसमें उपयोगकर्ता भ्रम, आत्महत्याएं और एक हत्या शामिल है। कंपनी ने कहा, GPT-5 में चाटुकारितापूर्ण उत्तर 14.5% से घटकर 6% से भी कम हो गए।
गूगल ने अप्रैल में कहा था कि उसने जेमिनी को जबरदस्ती न करने के लिए प्रशिक्षित किया था झूठी मान्यताएँऔर “व्यक्तिपरक अनुभव को वस्तुनिष्ठ तथ्य से धीरे-धीरे अलग करना।”
चिकित्सकों के अनुसार, फिर भी, चैटबॉट-संबंधी निर्भरता व्यापक बनी हुई है।
अमेरिकन साइकोलॉजिकल एसोसिएशन द्वारा अप्रैल में सर्वेक्षण किए गए लगभग 68% मनोवैज्ञानिकों ने कहा कि उनके रोगियों को चैटबॉट्स द्वारा मान्य महसूस हुआ। जबकि 1,200 से अधिक उत्तरदाताओं में से कई ने बताया कि मरीज़ों ने चैटबॉट के साथ सकारात्मक संचार किया था और स्वस्थ मुकाबला कौशल को सुदृढ़ करने के लिए उनका उपयोग किया था, 36% ने कहा कि मरीज़ों ने चैटबॉट पर निर्भरता बना ली थी और 15% ने बताया कि मरीज़ों ने विकृत सोच या भ्रम विकसित कर लिया था।
किशोरों का इलाज करने वाले और एमोरी यूनिवर्सिटी स्कूल ऑफ मेडिसिन में मनोचिकित्सा और व्यवहार-विज्ञान विभाग में एसोसिएट प्रोफेसर एलिसन लोपिलाटो ने कहा, “मैंने अपने मरीजों से जो सुना है, उससे पता चलता है कि भावनात्मक समर्थन के लिए एआई का उपयोग बढ़ रहा है।”
“चैटबॉट्स अभी भी गर्मजोशी भरे और आश्वस्त करने वाले होते हैं,” लोपिलाटो ने कहा, जिन्होंने इसे तैयार करने में मदद की नई मार्गदर्शिका अमेरिकन साइकोलॉजिकल एसोसिएशन के लिए सुरक्षित एआई उपयोग पर। क्योंकि वे आपके बारे में जानकारी इकट्ठा करते हैं, “ऐसा महसूस हो सकता है कि चैटबॉट आपको समझता है, और यह आपको गठबंधन और विश्वास की भावना में फंसा सकता है।”
स्टैनफोर्ड और कार्नेगी मेलॉन यूनिवर्सिटी के शोधकर्ताओं ने कहा कि चैटबॉट तब भी नुकसान पहुंचा सकते हैं जब कोई व्यक्ति भ्रमपूर्ण सोच के प्रति संवेदनशील न हो। उन्होंने GPT-5 सहित 11 मॉडलों में चाटुकारिता की व्यापकता को मापा और निर्धारित किया कि उनकी प्रतिक्रियाएँ मानवीय प्रतिक्रियाओं की तुलना में लगभग 50% अधिक चाटुकारितापूर्ण थीं। उन्होंने लोकप्रिय रेडिट फोरम में लोगों द्वारा पोस्ट किए गए वास्तविक परिदृश्यों की नकल करके, उन्हें एआई मॉडल में डाला और फिर चैटबॉट उत्तरों की रेडिट पर उत्तरों के साथ तुलना करके ऐसा किया।
एंथ्रोपिक ने मार्च और अप्रैल में अपने स्वयं के क्लाउड चैटबॉट की दस लाख बातचीत का नमूना लिया और पाया कि यह प्रदर्शित हुआ चाटुकारितापूर्ण व्यवहार अक्सर बातचीत में लोग रिश्ते संबंधी सलाह मांगते हैं।
कंपनी ने एक ब्लॉग पोस्ट में लिखा, “एक सामान्य पैटर्न यह था कि क्लाउड इस बात पर पूरी तरह सहमत था कि दूसरी पार्टी गलत थी, भले ही उसके पास केवल उपयोगकर्ता का खाता हो।” “दूसरा क्लाउड था जो लोगों को रोमांटिक इरादे को सामान्य मैत्रीपूर्ण व्यवहार में बदलने में मदद कर रहा था क्योंकि उन्होंने ऐसा करने के लिए कहा था।”
एंथ्रोपिक ने अपने नवीनतम मॉडलों के प्रशिक्षण में सुधार के लिए अपने निष्कर्षों का उपयोग किया। इसमें कहा गया है कि जब संबंध मार्गदर्शन की बात आती है तो ओपस 4.7 ने ओपस 4.6 की चापलूसी दर आधी दिखाई है। कंपनी ने कहा, इसके सबसे हालिया मॉडल ओपस 4.8 में साइकोफैंसी को और कम कर दिया गया है।
स्टैनफोर्ड अध्ययन की मुख्य लेखिका और स्टैनफोर्ड पीएच.डी. मायरा चेंग ने कहा, चाटुकारिता को पूरी तरह से खत्म करना कठिन है। कंप्यूटर विज्ञान में उम्मीदवार. “जब कोई किसी मॉडल को संकेत देता है, तो उसे पता नहीं चलता कि संकेत के कौन से हिस्से गलत हैं,” उसने कहा। “किसी स्थिति के बारे में उपयोगकर्ता की राय को अंकित मूल्य पर लेना होगा।”
अमेरिकन साइकोलॉजिकल एसोसिएशन में हेल्थकेयर इनोवेशन के वरिष्ठ निदेशक वेले राइट ने कहा, अन्य कारकों को संबोधित करना जो चैटबॉट को इतना आकर्षक बनाते हैं, जैसे कि प्रथम-व्यक्ति सर्वनाम का उपयोग करना और अनुवर्ती प्रश्न पूछना, बिजनेस मॉडल के विपरीत है।
राइट ने कहा, “यह केवल सहमति नहीं है, यह सभी सूक्ष्म इंजीनियरिंग विकल्प हैं जो चैटबॉट्स को मानवीय महसूस कराते हैं।” “जब तक जुड़ाव बिजनेस मॉडल बना रहेगा, एआई कंपनियां आपको प्लेटफॉर्म पर बनाए रखने के लिए इन चैटबॉट्स को इंजीनियर करेंगी।”
