कंप्यूटिंग के अधिकांश इतिहास में, हमने एक सरल और आश्वस्त करने वाले सिद्धांत पर भरोसा किया है: कंप्यूटर बिल्कुल वही करते हैं जो उन्हें बताया जाता है। एक प्रोग्राम लिखा जाता है, इनपुट निर्दिष्ट किए जाते हैं, और आउटपुट पूर्वानुमानित तरीके से आता है। यदि कुछ गलत होता है, तो इसका कारण आमतौर पर बग या दोषपूर्ण निर्देश में खोजा जा सकता है। इस पूर्वानुमेयता ने आधुनिक जीवन को चुपचाप आकार दे दिया है। यह हमारे बैंक लेनदेन, एयरलाइन बुकिंग, अस्पताल रिकॉर्ड और डिजिटल संचार का समर्थन करता है। हम कोड नहीं देख सकते हैं, लेकिन हम सिस्टम पर भरोसा करते हैं क्योंकि वे लगातार व्यवहार करते हैं।
वह निश्चितता बदलने लगी है.
आज के आर्टिफिशियल इंटेलिजेंस (एआई) सिस्टम अब निश्चित निर्देशों को निष्पादित करने तक ही सीमित नहीं हैं। तेजी से, हम उन्हें व्यापक लक्ष्य देते हैं और उन्हें पथ का पता लगाने की अनुमति देते हैं: नेविगेशन ऐप्स किसी पूर्व निर्धारित मार्ग का अनुसरण नहीं करते हैं, बल्कि वास्तविक समय के ट्रैफ़िक का विश्लेषण करते हैं, स्ट्रीमिंग प्लेटफ़ॉर्म प्राथमिकताएँ सीखते हैं, और एलएलएम एकल संग्रहीत उत्तर प्राप्त करने के बजाय ओपन-एंडेड प्रश्नों की व्याख्या करते हैं और प्रतिक्रियाएँ उत्पन्न करते हैं। ये प्रणालियाँ केवल स्क्रिप्ट का अनुसरण नहीं कर रही हैं। वे आशय की व्याख्या कर रहे हैं.
यह बदलाव वृद्धिशील प्रतीत हो सकता है, लेकिन यह प्रौद्योगिकी के साथ हमारे जीने के तरीके में एक गहरे बदलाव का प्रतिनिधित्व करता है। पारंपरिक सॉफ्टवेयर एक रेसिपी की तरह है। चरणों का पालन करें और परिणाम पूर्वानुमानित है। इंटेलिजेंट सिस्टम एक कनिष्ठ सहकर्मी के करीब होते हैं जिसे एक उद्देश्य दिया जाता है और उसे “इसे संभालने” के लिए कहा जाता है। वे डेटा का विश्लेषण करते हैं, संभावनाओं का मूल्यांकन करते हैं और ऐसा परिणाम देते हैं जो उन्होंने जो सीखा है उसे देखते हुए उचित लगता है। यह प्रक्रिया लचीली है, और अक्सर आश्चर्यजनक रूप से प्रभावी होती है।
यह लचीलापन बताता है कि एआई दैनिक जीवन में इतनी तेजी से क्यों फैल रहा है। यह बदलती परिस्थितियों के अनुकूल हो सकता है, सेवाओं को वैयक्तिकृत कर सकता है, और ऐसे सूक्ष्म पैटर्न का पता लगा सकता है जिन पर हमारा ध्यान नहीं जा सकता। स्वास्थ्य देखभाल में, यह स्कैन में विसंगतियों की पहचान करने में सहायता करता है। वित्त में, यह असामान्य लेनदेन को चिह्नित करता है। शिक्षा में, यह व्यक्तिगत छात्रों के लिए शिक्षण सामग्री तैयार करता है। लाभ परिवर्तनकारी हैं.
फिर भी लचीलेपन का अर्थ अप्रत्याशितता भी है।
मुख्य मुद्दा यह नहीं है कि बुद्धिमान प्रणालियाँ अचानक काम करना बंद कर देंगी। अधिक सूक्ष्म चिंता यह है कि वे बिल्कुल उसी तरह काम कर सकते हैं जैसा डिज़ाइन किया गया था, जबकि ऐसे परिणाम उत्पन्न करते हैं जिनकी हमने पूरी तरह से आशा नहीं की थी। जब हम किसी सिस्टम से जुड़ाव को अधिकतम करने के लिए कहते हैं, तो वह सनसनीखेज सामग्री को प्राथमिकता दे सकता है। जब हम इसे ऐतिहासिक डेटा पर प्रशिक्षित करते हैं, तो इसमें ऐतिहासिक पूर्वाग्रह विरासत में मिल सकते हैं।
हम पहले ही इस गतिशील क्रिया को दृश्यमान और परिणामी तरीकों से देख चुके हैं। 2023 में, अमेरिका में वकीलों ने कानूनी जानकारी तैयार करने के लिए ओपनएआई के चैटजीपीटी के आउटपुट पर भरोसा किया, लेकिन बाद में पता चला कि सिस्टम ने पूरी तरह से मनगढ़ंत केस उद्धरण तैयार किए थे। मॉडल पारंपरिक अर्थों में ख़राब नहीं था। यह वही कर रहा था जिसके लिए इसे प्रशिक्षित किया गया था: डेटा में पैटर्न के आधार पर प्रशंसनीय, सुव्यवस्थित पाठ तैयार करना।
एक अन्य उदाहरण में, जेमिनी की छवि निर्माण प्रणाली को विशिष्ट घटनाओं या समूहों के बारे में संकेतों के जवाब में ऐतिहासिक रूप से गलत या सामाजिक रूप से विषम छवियां बनाने के लिए सार्वजनिक आलोचना का सामना करना पड़ा। हानिकारक रूढ़िवादिता से बचने के लिए इन प्रणालियों को सावधानीपूर्वक तैयार किया गया था। फिर भी निष्पक्षता और सुरक्षा के लिए अनुकूलन करने के प्रयास में, उन्होंने अति कर दी। एक बार फिर, सिस्टम अपने डिज़ाइन मापदंडों के भीतर काम कर रहे थे, लेकिन परिणामों ने निर्णय, संतुलन और नियंत्रण के बारे में बहस शुरू कर दी।
रोजमर्रा की जिंदगी के करीब, प्रमुख सोशल मीडिया प्लेटफार्मों द्वारा उपयोग किए जाने वाले अनुशंसा एल्गोरिदम को बार-बार अत्यधिक या भावनात्मक रूप से चार्ज की गई सामग्री को बढ़ाने के लिए दिखाया गया है क्योंकि ऐसी सामग्री उच्च उपयोगकर्ता जुड़ाव को बढ़ाती है। प्रत्येक मामले में, सिस्टम डिज़ाइन के अनुसार संचालित होते हैं। कठिनाई संकीर्ण अनुकूलन लक्ष्यों और व्यापक मानवीय अपेक्षाओं के बीच के अंतर में है। जैसे-जैसे बुद्धिमान प्रणालियाँ शिक्षा, स्वास्थ्य देखभाल, वित्त और सार्वजनिक चर्चा में अधिक गहराई से अंतर्निहित हो जाती हैं, उस अंतर को पहचानना और प्रबंधित करना आवश्यक हो जाता है।
पहला नियम है दृश्यता. निर्णय कैसे लिए जाते हैं, इसके बारे में हमें पारदर्शिता की आवश्यकता है। इसका मतलब यह नहीं है कि प्रत्येक उपयोगकर्ता को जटिल एल्गोरिदम को समझना चाहिए, बल्कि इन प्रणालियों को तैनात करने वाले संस्थानों को उनके व्यवहार की व्याख्या, समीक्षा और ऑडिट करने में सक्षम होना चाहिए। जब नतीजे आजीविका, ऋण तक पहुंच या सार्वजनिक चर्चा को प्रभावित करते हैं, तो अपारदर्शिता भरोसे को कमजोर कर देती है।
दूसरा नियम है सीमाएं. इंटेलिजेंट सिस्टम को स्पष्ट रूप से परिभाषित सीमाओं के भीतर काम करना चाहिए। वे किस डेटा तक पहुंच सकते हैं, वे स्वायत्त रूप से क्या कार्रवाई कर सकते हैं, और कब मानव समीक्षा की आवश्यकता है, इस पर प्रतिबंध होना चाहिए। रेलिंग प्रगति में बाधक नहीं हैं। वे सुरक्षित प्रगति की स्थितियाँ हैं। जिस तरह यातायात नियम गतिशीलता को प्रतिबंधित करने के बजाय सक्षम बनाते हैं, उसी तरह अच्छी तरह से डिज़ाइन की गई बाधाएं अराजकता के बिना नवाचार की अनुमति देती हैं।
तीसरा नियम है पुनर्प्राप्ति. कोई भी बुद्धिमान प्रणाली दोषरहित नहीं होगी. जब गलतियाँ होती हैं, तो रोकने, सुधारने और, यदि आवश्यक हो, तो तुरंत निर्णय पलटने की व्यवस्था होनी चाहिए। ऐसी दुनिया में जहां गतिविधियां डिजिटल गति से होती हैं, हस्तक्षेप करने की क्षमता बहुत मायने रखती है।
अंततः, बुद्धिमान मशीनों के साथ रहने के लिए मानसिकता में बदलाव की आवश्यकता होती है। दशकों से, हमने विश्वसनीयता की तुलना सख्त पूर्वानुमान के साथ की है। अब हमें उन प्रणालियों के साथ सहज होना चाहिए जो जवाबदेही और निरीक्षण पर जोर देते हुए अनुकूलन करती हैं और सीखती हैं। नियंत्रण का मतलब हर कदम पर हुक्म चलाना नहीं है। इसका अर्थ है स्पष्ट उद्देश्य निर्धारित करना, व्यवहार की निगरानी करना और हस्तक्षेप करने का अधिकार बनाए रखना।
बुद्धिमान मशीनें रोजमर्रा की जिंदगी के ताने-बाने में बुनी जा रही हैं। वे हमें निर्णय लेने, संसाधन आवंटित करने और जटिलता से निपटने में मदद करेंगे। सवाल यह नहीं है कि हम उनका उपयोग करते हैं या नहीं, बल्कि सवाल यह है कि हम उन्हें कैसे नियंत्रित करते हैं। बुद्धिमान मशीनों के साथ रहने के नए नियम सिद्धांत रूप में सरल हैं लेकिन व्यवहार में मांग करने वाले हैं: पारदर्शिता पर जोर देना, सीमाओं को लागू करना और हमेशा नियंत्रण वापस लेने की क्षमता बनाए रखना।
यह लेख अशोका यूनिवर्सिटी, दिल्ली-एनसीआर में कंप्यूटर साइंस के सहायक प्रोफेसर आलोक ठक्कर द्वारा लिखा गया है।
(टैग्सटूट्रांसलेट)कंप्यूटर(टी)आर्टिफिशियल इंटेलिजेंस(टी)इंटेलिजेंट सिस्टम(टी)सिफारिश एल्गोरिदम(टी)पारदर्शिता
Discover more from Star News 24 Live
Subscribe to get the latest posts sent to your email.
