स्वशासी एआई में विश्वास बनाना

भारत में एआई की वृद्धि के पांच साल बाद, नेताओं ने यह जान लिया है कि एआई को बढ़ाना कुछ भी नहीं बल्कि सरल है – नियंत्रण कमजोर होने पर यह जटिल, कठिन और अक्षम्य है। सफल मॉडलों की सुर्खियों के पीछे एक कड़वी सच्चाई छिपी है: सफलता एल्गोरिदम पर कम और शासन, विश्वास और परिचालन अनुशासन पर अधिक निर्भर करती है। हालाँकि ये प्रणालियाँ गति और स्केलेबिलिटी का वादा करती हैं, लेकिन वे नए जोखिम भी पेश करती हैं: अपारदर्शी निर्णय लेने की क्षमता, नैतिक अंधता और जवाबदेही अंतराल। सवाल यह नहीं है कि क्या व्यवसायों को एजेंटिक एआई को अपनाना चाहिए – सवाल यह है कि वे हर स्तर पर विश्वास कायम करते हुए जिम्मेदारी से ऐसा कैसे कर सकते हैं।

एक हालिया विश्लेषण में पाया गया कि जब वैश्विक एआई मॉडल का परीक्षण भारत-विशिष्ट संकेतों के साथ किया गया, तो वे कभी-कभी अनपेक्षित सांस्कृतिक या प्रासंगिक पूर्वाग्रहों को प्रतिबिंबित करते थे। इसी तरह, भारतीय-बीएचईडी डेटासेट का उपयोग करके मूल्यांकन से पता चला है कि बड़े भाषा मॉडल (एलएलएम) कभी-कभी ऐसी प्रतिक्रियाएं उत्पन्न कर सकते हैं जो स्थानीय डेटा में मौजूद सामान्य पैटर्न या मान्यताओं को दर्शाते हैं। ये दोनों उदाहरण यह सुनिश्चित करने के लिए कठोर स्थानीय ऑडिटिंग और अनुकूलन के महत्व को रेखांकित करते हैं कि एआई सिस्टम विविध वातावरणों में निष्पक्ष और सटीक रूप से काम करते हैं।

एजेंटिक एआई का तेजी से बढ़ना नए खतरों की भी शुरुआत कर रहा है जिन्हें व्यवसाय नजरअंदाज नहीं कर सकते हैं।

सबसे पहले, मॉडल-बहाव और अनपेक्षित व्यवहार अधिक आम होते जा रहे हैं क्योंकि स्वायत्त सिस्टम लाइव डेटा स्ट्रीम से खुद को अपडेट करते हैं। एक प्रमुख भारतीय भुगतान प्लेटफ़ॉर्म पर जून 2024 की घटना में इसके स्व-अनुकूलन धोखाधड़ी-पहचान इंजन ने छोटे व्यापारियों से वैध लेनदेन को चिह्नित करना शुरू कर दिया, जिससे अस्थायी रोक लग गई।₹2 बिलियन की बिक्री।

दूसरा, गोपनीयता-दर-डिज़ाइन का वास्तविक समय में परीक्षण किया जा रहा है। एक नए जेनरेटिव-एआई मॉडल के शुरुआती 2024 के सार्वजनिक बीटा के दौरान, सिस्टम ने अनजाने में उपयोगकर्ताओं के स्वास्थ्य संबंधी प्रश्नों के स्निपेट को कैश कर दिया, जिससे यूरोपीय डेटा प्रोटेक्शन बोर्ड द्वारा जांच की गई और एक स्वचालित “ऑडिट-लॉग” सुविधा का तेजी से रोलआउट हुआ।

तीसरा, भाषा से परे सभी क्षेत्रों में पूर्वाग्रह सामने आ रहा है। एक क्षेत्रीय बीमा-तकनीकी स्टार्टअप के 2024 के ऑडिट से पता चला कि इसके एआई-संचालित दावा-अनुमोदन वर्कफ़्लो ने टियर -2 और टियर -3 जिलों से ~ 68% नीतियों को खारिज कर दिया, प्रशिक्षण डेटा से पता चला एक पैटर्न जो शहरी हानि अनुपात का अधिक प्रतिनिधित्व करता है।

चौथा, उत्पादक उपकरणों का शस्त्रीकरण प्रायोगिक प्रयोगशालाओं से रोजमर्रा के हमलों की ओर बढ़ रहा है। 2024 की शुरुआत में, एक गहरे फर्जी घोटाले ने हांगकांग स्थित बहुराष्ट्रीय कंपनी को निशाना बनाया। संगठन को मोटे तौर पर नुकसान हुआ₹जालसाजों ने वरिष्ठ अधिकारियों का रूप धारण करने और कर्मचारियों को फंड ट्रांसफर करने के लिए एआई-जनरेटेड आवाज और वीडियो का इस्तेमाल करने के बाद 25.6 मिलियन की धोखाधड़ी की।

अंततः, नियामक दबाव सख्त हो रहा है। आरबीआई के डिजिटल ऋण निर्देशों के लिए अब किसी भी एआई-संचालित क्रेडिट निर्णय के लिए एक स्पष्ट मानव-इन-द-लूप चेकपॉइंट की आवश्यकता होती है, और यूएस एसईसी ने एआई-जनित खुलासों को चिह्नित करना शुरू कर दिया है जिनमें ट्रेसबिलिटी की कमी है।

साथ में, ये उदाहरण बताते हैं कि पारदर्शी रेलिंग के बिना स्वायत्तता जल्दी से परिचालन, प्रतिष्ठित और अनुपालन परिणामों में तब्दील हो सकती है – जिससे टिकाऊ विकास के लिए एआई शासन के लिए “ग्लास-बॉक्स” दृष्टिकोण आवश्यक हो जाता है।

भरोसेमंद, एजेंटिक एआई को डिजाइन करना तीन तीव्र सिद्धांतों पर निर्भर करता है जिन्हें अग्रणी कंपनियां पहले से ही अभ्यास में बदल रही हैं।

सबसे पहले, पारदर्शी, श्रव्य एआई एक निर्णय-दर-निर्णय लॉग से शुरू होता है जो इनपुट डेटा, मॉडल संस्करण और प्रत्येक अनुमान के लिए एक संक्षिप्त व्यावसायिक तर्क को कैप्चर करता है। मतिभ्रम – ऐसे उदाहरण जहां मॉडल आत्मविश्वास से गलत जानकारी उत्पन्न करता है – आकर्षक डेमो से भरोसेमंद कॉर्पोरेट टूल की ओर बढ़ने में सबसे बड़ी बाधा बनी हुई है। इसे दूर करने के लिए, इंजीनियर अब तीन-परत सुरक्षा का उपयोग करते हैं: पुनर्प्राप्ति-संवर्धित पीढ़ी के साथ मॉडल को ग्राउंड करना, संरचित संकेतों और तापमान नियंत्रण के माध्यम से इसके तर्क का मार्गदर्शन करना, और रेलिंग और समर्पित “आलोचक” एजेंटों के साथ आउटपुट को नियंत्रित करना।

* ग्राउंडिंग: पुनर्प्राप्ति-संवर्धित पीढ़ी (आरएजी): मतिभ्रम को रोकने का सबसे प्रभावी तरीका एआई को उसकी मेमोरी पर निर्भर होने से रोकना है। एआई को उसके प्रशिक्षण डेटा के आधार पर “अनुमान लगाने” देने के बजाय, आप उसे “बंद किताब” परीक्षा देते हैं। जब कोई उपयोगकर्ता कोई प्रश्न पूछता है, तो सिस्टम उत्तर के लिए सबसे पहले आपके निजी, सत्यापित दस्तावेज़ (पीडीएफ, विकी, डेटाबेस) खोजता है। यह एआई को कहानीकार के बजाय लाइब्रेरियन के रूप में कार्य करने के लिए मजबूर करता है।

* मार्गदर्शन: तर्क ढाँचे: कभी-कभी एआई मतिभ्रम करता है क्योंकि यह किसी उत्तर पर बहुत तेजी से पहुंचने की कोशिश करता है। आप इसे धीमा करने के लिए विशिष्ट संकेत तकनीकों का उपयोग कर सकते हैं, जैसे,

* विचार-श्रृंखला (सीओटी): आप अंतिम उत्तर देने से पहले एआई को चरण-दर-चरण तर्क समझाने के लिए बाध्य करते हैं। यदि तर्क त्रुटिपूर्ण है, तो त्रुटि का पता लगाना आसान है।

* तापमान नियंत्रण: तकनीकी सेटिंग्स में, आप “तापमान” को 0 पर सेट करते हैं। इससे AI कम “रचनात्मक” हो जाता है और हर बार समान तथ्यात्मक प्रतिक्रिया देने की अधिक संभावना होती है। ऐसा ही एक उदाहरण डेलॉइट का टैक्स प्रज्ञा है जिसने भारत के कर पेशेवरों के लिए अपने एआई-आधारित खोज और सारांश मंच को “ग्लास-बॉक्स” में बदल दिया है। इसे लगभग शून्य मतिभ्रम प्रदान करने के लिए 1.2 मिलियन से अधिक कर मामलों और 5,000 से अधिक डेलॉइट तकनीकी कागजात, समाधान और मालिकाना विशेषज्ञ अंतर्दृष्टि पर प्रशिक्षित किया गया है।

* गवर्निंग: रेलिंग और “अभिभावक एजेंट” – आधुनिक सिस्टम पहले वाले को “पुलिस” करने के लिए दूसरे AI का उपयोग करते हैं।

* निमो रेलिंग/लामा गार्ड: ये अलग, छोटे मॉडल हैं जो एआई और उपयोगकर्ता के बीच बैठते हैं। उपयोगकर्ता द्वारा पाठ देखने से पहले वे विषाक्त भाषा, नीति उल्लंघन, या “मतिभ्रम पैटर्न” के लिए एआई के आउटपुट को स्कैन करते हैं।

* “आलोचक” एजेंट: एजेंटिक वर्कफ़्लो में, आपके पास अक्सर दो एजेंट होते हैं, एक एआई प्रतिक्रिया (जनरेटर) उत्पन्न करता है, जबकि दूसरा विश्वसनीय डेटा स्रोतों के विरुद्ध तथ्य-जांच (आलोचक) करता है।

दूसरा, मानव-इन-द-लूप सुरक्षा उपाय उच्च जोखिम वाले निर्णयों के लिए एक महत्वपूर्ण सुरक्षा जाल के रूप में कार्य करते हैं। जब एआई का आत्मविश्वास स्कोर एक निर्धारित सीमा से नीचे चला जाता है, तो प्रक्रिया रुक जाती है और निर्णय को एक विशेषज्ञ के पास भेज दिया जाता है। उदाहरण के लिए, आरबीआई-अनुपालक फिनटेक वरिष्ठ ऋण अधिकारियों को कम-विश्वास वाले क्रेडिट स्कोर भेजते हैं, जबकि स्वास्थ्य तकनीकी उपकरणों को मरीजों तक महत्वपूर्ण इमेजिंग परिणाम पहुंचने से पहले रेडियोलॉजिस्ट के साइन-ऑफ की आवश्यकता होती है। प्रत्येक हस्तक्षेप को एआई आउटपुट के साथ लॉग किया जाता है, जिससे एक पूर्ण ऑडिट ट्रेल बनता है जो गति और स्केलेबिलिटी का त्याग किए बिना अनुपालन सुनिश्चित करता है।

सतत जोखिम निगरानी और बहाव नियंत्रण स्वायत्त AI के लिए प्रारंभिक चेतावनी प्रणाली के रूप में कार्य करें। रीयल-टाइम डैशबोर्ड स्वीकृत बेसलाइन के विरुद्ध प्रमुख मेट्रिक्स को ट्रैक करते हैं, जबकि थ्रेसहोल्ड का उल्लंघन होने पर स्वचालित अलर्ट और रोलबैक सक्रिय होते हैं – बड़े पैमाने पर त्रुटियों को रोकते हैं। प्रत्येक अलर्ट में मूल-कारण डेटा शामिल होता है, जो विश्लेषकों को सुविधा परिवर्तन या उपयोगकर्ता के व्यवहार में बदलाव जैसे मुद्दों की तुरंत पहचान करने और स्थिरता बहाल करने में मदद करता है।

एक ई-कॉमर्स दिग्गज के धोखाधड़ी-पहचान इंजन ने धोखाधड़ी के रूप में चिह्नित किए जा रहे वैध आदेशों में अचानक वृद्धि देखी, मिनटों के भीतर अलर्ट शुरू कर दिया और स्वचालित रूप से मॉडल को पिछले स्थिर संस्करण में वापस ला दिया। फिर विश्लेषकों ने एक गलत संरेखित सुविधा की पहचान की और उसे ठीक किया, सामान्य लेनदेन प्रवाह को बहाल किया और व्यापारियों की बिक्री की रक्षा की।

इन सभी सुरक्षा उपायों की देखरेख एक एआई एथिक्स बोर्ड करता है – एक बोर्ड जो हर स्वायत्त प्रणाली को शुरू करने से पहले उसकी समीक्षा करता है, स्पष्ट नीति मानक निर्धारित करता है, नियमित पूर्वाग्रह और जोखिम ऑडिट चलाता है, और मॉडल विकसित होने पर शासन ढांचे को अद्यतन करता है। पारदर्शी लॉगिंग, ह्यूमन-इन-द-लूप जांच और एक समर्पित नैतिकता समिति को जोड़कर, संगठन मजबूत निगरानी सुनिश्चित कर सकते हैं।

ऐसा ही एक अनुकरणीय मॉडल ऑस्ट्रेलियाई रक्षा बल का है, जहां एथिक्स बोर्ड सक्रिय रूप से तकनीकी और परिचालन टीमों के साथ सहयोग करता है, कठोर पूर्व-तैनाती समीक्षा करता है, और यह सुनिश्चित करने के लिए निरंतर निगरानी रखता है कि एआई सिस्टम पारदर्शी, जवाबदेह और संगठनात्मक मूल्यों के साथ संरेखित रहें।

एक चकाचौंध डेमो से स्वायत्त एआई को एक विश्वसनीय कॉर्पोरेट टूल में बदलने के लिए चतुर संकेतों या बड़े मॉडलों से कहीं अधिक की आवश्यकता होती है। यह एक अनुशासित, स्तरित रक्षा की मांग करता है: सत्यापित डेटा में ग्राउंडिंग आउटपुट, संरचित संकेतों के साथ तर्क का मार्गदर्शन करना, और रेलिंग और स्वतंत्र आलोचकों के माध्यम से व्यवहार को नियंत्रित करना। जब इन तकनीकी उपायों को व्यवसाय-केंद्रित प्रथाओं – ऑडिट-तैयार लॉग, मानव चौकियों और वास्तविक समय बहाव का पता लगाने के साथ जोड़ा जाता है – तो संगठन खुद को नैतिक, कानूनी या प्रतिष्ठित जोखिम में डाले बिना एजेंटिक एआई की दक्षता लाभ प्राप्त कर सकते हैं। नवाचार और विनियमन के चौराहे पर खड़े भारतीय उद्यमों के लिए, आगे का रास्ता स्पष्ट है: ग्लास-बॉक्स मानसिकता अपनाएं।

यह लेख डेलॉइट इंडिया के पार्टनर और मुख्य नवाचार अधिकारी सुदीप्ता वीरापनेनी द्वारा लिखा गया है।