सिंगापुर का आग्रह है कि मनुष्य ही प्रभारी बने रहें| व्यापार समाचार

जबकि कृत्रिम बुद्धिमत्ता (एआई) कंपनियां एआई एजेंटों के लाभों के बारे में जोशीली बातें करती रहती हैं, जो उद्यम वातावरण में कुछ वर्कफ़्लो को स्वचालित कर सकते हैं, सिंगापुर सरकार ने एजेंटिक एआई की तैनाती से उत्पन्न जोखिमों से बचाव के लिए और प्रौद्योगिकी के जिम्मेदार विकास को सुनिश्चित करने के लिए डिज़ाइन किया गया एक नया ढांचा जारी किया है। सिंगापुर के इन्फोकॉम मीडिया डेवलपमेंट अथॉरिटी (आईएमडीए) ने एजेंट एआई के लिए अपना मॉडल एआई गवर्नेंस फ्रेमवर्क जारी किया, जिसमें इस तकनीक के जोखिमों और कार्यस्थल में मनुष्यों पर इसके प्रभाव पर विशेष ध्यान दिया गया है।

इस महीने जारी किया गया नया ढांचा, सिंगापुर के 2019 मॉडल एआई गवर्नेंस फ्रेमवर्क पर आधारित है, जिसने उस समय पारदर्शिता, निष्पक्षता और मानव-केंद्रितता जैसे एआई सिद्धांतों पर ध्यान केंद्रित किया था। इस सप्ताह प्रकाशित एंथ्रोपिक सीईओ डारियो अमोदेई के नवीनतम निबंध में एआई, विशेष रूप से एजेंटिक एआई और कृत्रिम सामान्य बुद्धिमत्ता (एजीआई) की ओर बढ़ने के जोखिमों के बारे में बातचीत हुई है, जिसमें व्यापक सामाजिक और आर्थिक परिवर्तनों की संभावना पर भी ध्यान दिया गया है।

सिंगापुर सरकारी सेवाओं में एआई का उपयोग करने वाले देशों में से एक है, जिसने अपने सार्वजनिक क्षेत्र के लिए आभासी सहायकों को सफलतापूर्वक तैनात किया है, हालांकि एकमात्र नहीं। सरकार का ‘आस्क जेमी’ वर्चुअल असिस्टेंट 2014 से 80 सरकारी वेबसाइटों पर 15 मिलियन से अधिक प्रश्नों का उत्तर दे चुका है। आधिकारिक आंकड़ों से पता चलता है कि यह आधे प्रश्नों को हल करने में सफल रहा है, जिन्हें अन्यथा कॉल सेंटर में किसी व्यक्ति के पास पुनर्निर्देशित किया जाता।

परमिंदर सिंह, जो सलाहकार फर्म क्लेबॉक्सएआई के सह-संस्थापक और मुख्य एआई व्हिस्परर हैं, ने एक्स पर एक पोस्ट में कहा कि “यह कुछ अन्य सरकारों द्वारा जारी एआई गवर्नेंस फ्रेमवर्क से एक कदम आगे है। यह एजेंट एआई को डिजाइन करने और तैनात करने के लिए एक व्यावहारिक खाका है।”

यूके ने बॉबी नामक एक स्वायत्त एआई एजेंट को तैनात करने के लिए टेक कंपनी सेल्सफोर्स पर भरोसा किया है, जो टेम्स वैली, हैम्पशायर और आइल ऑफ वाइट और हंबरसाइड पुलिस बलों को अक्सर पूछे जाने वाले सवालों के चौबीसों घंटे जवाब देने और नागरिकों को मामले दर्ज करने में सहायता करने में मदद कर रहा है। उनका कहना है कि दिसंबर में तैनाती के पहले सप्ताह में, बॉबी ने बिना किसी मानव अधिकारी के 82% प्रश्नों का समाधान किया।

बार्सिलोना शहर ने भी सेल्सफोर्स द्वारा निर्मित एक केंद्रीकृत मंच को अपनाया है, जो सिविल सेवकों को नागरिकों के साथ उनकी बातचीत का पूरा दृश्य देता है, और उन्हें समाधान वितरण को ट्रैक करने और विभागों में जानकारी साझा करने की अनुमति देता है।

सेल्सफोर्स में गवर्नमेंट क्लाउड के अध्यक्ष और मुख्य कार्यकारी अधिकारी, केंडल कोलिन्स कहते हैं, “एआई एजेंटों में बदलाव अधिक पारदर्शिता का मार्ग भी प्रदान कर सकता है, जिससे प्रशासन ‘ब्लैक बॉक्स’ गवर्नेंस से ‘ग्लास बॉक्स’ गवर्नेंस की ओर बढ़ सकता है। लेकिन यह पारदर्शिता एक महत्वपूर्ण सिद्धांत पर निर्भर करती है: मानव को वास्तुकार बने रहना चाहिए।”

मानवीय निरीक्षण अनिवार्य है

सिंगापुर एजेंटिक एआई फ्रेमवर्क नोट करता है कि एजेंटिक एआई के साथ जोखिमों का प्रारंभिक बिंदु, बड़े भाषा मॉडल (एलएलएम) हैं जिन पर वे आधारित हैं। खतरा दोहरे स्तर का है, जिसमें मतिभ्रम, पूर्वाग्रह, डेटा लीक या प्रतिकूल त्वरित इंजेक्शन जैसी अंतर्निहित कमियां हैं, साथ ही एजेंट ढांचे में दुर्भावनापूर्ण कोड के संक्रमण जैसी सॉफ़्टवेयर कमजोरियां भी हैं।

सिंगापुर की रूपरेखा यह स्पष्ट करती है कि मानवीय निरीक्षण एक महत्वपूर्ण, अनिवार्य तत्व बना हुआ है। “जबकि एजेंट स्वायत्त रूप से कार्य कर सकते हैं, मानवीय जिम्मेदारी लागू होती रहती है। एक बार एजेंटिक एआई को तैनात करने के लिए ‘हरी बत्ती’ मिल जाने के बाद, एक संगठन को मनुष्यों को सार्थक रूप से जवाबदेह बनाने के लिए तत्काल कदम उठाना चाहिए। इसमें एजेंट जीवनचक्र में शामिल संगठन के भीतर और बाहर कई अभिनेताओं के बीच जिम्मेदारी को स्पष्ट रूप से परिभाषित करना शामिल है; और यह सुनिश्चित करने के लिए उपाय करना कि स्वचालन पूर्वाग्रह के बावजूद मानव-इन-द-लूप समय के साथ प्रभावी बना रहे, “फ्रेमवर्क नोट करता है।

एआई एजेंटों को तैनात करने वाले संगठन की यह भी जिम्मेदारी है कि एआई तैनाती की संपूर्णता के लिए तकनीकी प्रक्रियाएं और नियंत्रण रखें, जिसमें बेसलाइन सुरक्षा, रेलिंग के साथ-साथ निरंतर निगरानी के लिए परीक्षण भी शामिल है।

यह ढांचा संगठनों से एजेंट की तैनाती के लिए उपयुक्त उपयोग के मामलों को जोखिम के प्रभाव जैसे एजेंट-विशिष्ट कारकों पर ध्यान देने के साथ-साथ उपकरण और अनुमतियों तक एजेंट की पहुंच पर सीमाएं लागू करके जोखिमों को सीमित करने के लिए जानबूझकर डिजाइन विकल्पों पर विचार करने का भी आग्रह करता है।

रिसर्च फर्म मैकिन्से एंड कंपनी ने पिछले साल के अंत में एक शोध में अनुमान लगाया था कि एजेंटिक एआई सिस्टम, जो ग्राहक सेवा, सॉफ्टवेयर विकास, आपूर्ति श्रृंखला अनुकूलन और अनुपालन सहित 60 से अधिक जनरल एआई उपयोग मामलों में सालाना 2.6 ट्रिलियन डॉलर से 4.4 ट्रिलियन डॉलर मूल्य को अनलॉक करने में मदद करने का अनुमान है।

एआई एजेंटों का मूल्यांकन

एआई कंपनी एंथ्रोपिक ने इस महीने की शुरुआत में जारी अपनी मूल्यांकन पद्धति में तीन प्रकार के ग्रेडर की ओर इशारा किया है जो एक एजेंट को परिभाषित करते हैं। पहला, बाइनरी परीक्षण और ट्रांसक्रिप्ट विश्लेषण सहित मापदंडों पर कोड-आधारित परीक्षण, जबकि मॉडल-आधारित मूल्यांकन परीक्षण प्राकृतिक भाषा के दावे, संदर्भ आधारित मूल्यांकन और बहु-न्यायाधीश सर्वसम्मति पर आधारित होते हैं। मानव ग्रेडर पैरामीटर में क्राउडसोर्स्ड निर्णय और स्पॉट-चेक सैंपलिंग शामिल है।

कार्यस्थल में एआई एजेंटों को कृत्रिम बुद्धिमत्ता के एक विलक्षण रूप के रूप में भ्रमित करना आसान है, लेकिन यह एक बहुआयामी तकनीक है।

उदाहरण के लिए, ऐसे कोडिंग एजेंट हैं जो कोड लिख सकते हैं या उसका परीक्षण कर सकते हैं। संवादी एजेंट, जो समर्थन और कोचिंग जैसे डोमेन में उपयोगी हो सकते हैं, चल रही बातचीत के हिस्से के रूप में कार्रवाई करने की क्षमता रखते हैं। अनुसंधान एजेंट उत्तर या विस्तृत रिपोर्ट तैयार करने के इरादे से जानकारी एकत्र, संश्लेषण और विश्लेषण कर सकते हैं। कंप्यूटर उपयोग एजेंट भी हैं, जो मनुष्यों के समान इंटरफ़ेस के माध्यम से सॉफ़्टवेयर के साथ बातचीत कर सकते हैं, यानी स्क्रीनशॉट, माउस क्लिक, कीबोर्ड इनपुट और स्क्रॉलिंग।

“एआई एजेंट मूल्यांकन अभी भी एक नवजात, तेजी से विकसित होने वाला क्षेत्र है। जैसे-जैसे एजेंट लंबे कार्य करते हैं, मल्टी-एजेंट सिस्टम में सहयोग करते हैं, और तेजी से व्यक्तिपरक काम को संभालते हैं, हमें अपनी तकनीकों को अनुकूलित करने की आवश्यकता होगी,” एंथ्रोपिक ने अपने मार्गदर्शन में कहा, जिसका शीर्षक ‘एआई एजेंटों के लिए रहस्योद्घाटन मूल्यांकन’ है।

मैकिन्से एंड कंपनी के शोध में चेतावनी दी गई है, “एआई एजेंट न केवल संभावित हमलावरों के लिए नए बाहरी प्रवेश बिंदु प्रदान करते हैं, बल्कि क्योंकि वे मानव निरीक्षण के बिना निर्णय लेने में सक्षम होते हैं, इसलिए वे नए आंतरिक जोखिम भी पेश करते हैं।”

“खतरा मॉडलिंग उन विशिष्ट तरीकों की व्यवस्थित रूप से पहचान करके जोखिम मूल्यांकन को और अधिक कठोर बनाता है जिसमें एक हमलावर सिस्टम से समझौता कर सकता है। एजेंटिक सिस्टम के लिए सामान्य सुरक्षा खतरों में मेमोरी पॉइज़निंग, टूल का दुरुपयोग और विशेषाधिकार समझौता शामिल हैं,” नया ढांचा चेतावनी देता है।

खतरे की धारणा के आसपास काम करने का एक तरीका एक एजेंटिक एआई सिस्टम स्थापित करना है जिसमें चौकियां या कदम हैं जिनके लिए मानव अनुमोदन की आवश्यकता होती है। संवेदनशील वर्कफ़्लो के कुछ उदाहरणों में शामिल हैं जब एक एआई एजेंट स्वास्थ्य देखभाल में या कानूनी प्रश्न के लिए मार्गदर्शन तैयार कर रहा है।

एक एजेंट की शक्तियों को सीमित करना

अपने वर्कफ़्लो के भीतर एजेंटिक एआई को तैनात करने वाले संगठनों के लिए, सिंगापुर के दिशानिर्देश यह सुनिश्चित करना अनिवार्य बनाते हैं कि संभावित जोखिमों को संतुलित करने के मामले में एजेंट की शक्तियां सीमित हैं। ऐसी नीतियों को परिभाषित करना अनिवार्य है जो एजेंटों को अपने कार्यों को करने के लिए आवश्यक न्यूनतम आवश्यक टूल और डेटा तक पहुंच प्रदान करती हैं। उदाहरण के लिए, एक कोडिंग सहायक को वेब खोज तक पहुंच की आवश्यकता नहीं है, अगर उसे नवीनतम सॉफ़्टवेयर दस्तावेज़ीकरण तक पहुंच प्रदान की गई है। ऐसे प्रोटोकॉल की भी आवश्यकता है जो विभिन्न चरणों में एजेंट की स्वतंत्रता को सीमित करते हैं।

एआई एजेंटों को तैनात करने वाले संगठनों और व्यवसायों को एजेंटों को ऑफ़लाइन लेने और उनके खराब होने पर उनके प्रभाव के संभावित दायरे को सीमित करने के लिए तंत्र और प्रक्रियाओं को डिजाइन करने की आवश्यकता होगी।

एआई एजेंटों को भी पहचान की आवश्यकता होगी। “पहचान प्रबंधन और पहुंच नियंत्रण उन प्रमुख साधनों में से एक है जिसमें संगठन आज मनुष्यों के लिए ट्रेसबिलिटी और जवाबदेही को सक्षम करते हैं। जैसे-जैसे एजेंट अधिक स्वायत्त हो जाते हैं, पहचान प्रबंधन को एजेंटों तक भी बढ़ाया जाना चाहिए ताकि व्यक्तिगत एजेंट के व्यवहार को ट्रैक किया जा सके और यह स्थापित किया जा सके कि प्रत्येक एजेंट के लिए जवाबदेही कौन रखता है,” सिंगापुर फ्रेमवर्क नोट करता है।