सबसे बड़ी कृत्रिम बुद्धिमत्ता (एआई) कंपनियों में से एक, एंथ्रोपिक के सीईओ, डेरियो अमोदेई ने अपने नवीनतम निबंध, द एडोलसेंस ऑफ टेक्नोलॉजी, में प्रौद्योगिकी के “खतरे” के बारे में चेतावनी दी है, जो पिछले साल के मशीन्स ऑफ लविंग ग्रेस निबंध का अनुवर्ती है, जिसमें इस बारे में बात की गई है कि यदि सही तरीके से काम किया जाए तो एआई क्या हासिल कर सकता है। ध्यान से पढ़ें, अमोदेई के नवीनतम निबंध में बहुआयामी खतरों का विवरण दिया गया है, जिसमें यह खतरा भी शामिल है कि प्रौद्योगिकी फैशनेबल बातचीत में कोई कारक नहीं है और क्या नहीं है, एआई के जोखिमों को संबोधित करने के लिए किसी भी दृष्टिकोण में खतरे, यह मिथक कि एक एआई मॉडल बिना संकेत के खतरनाक कुछ नहीं करेगा, उद्योग और समाज के स्तर पर स्वायत्तता के खतरे, जिसमें अत्यधिक पहुंच भी शामिल है, और एआई द्वारा संभावित रूप से खतरनाक नए प्रकार के जीव बनाने की चेतावनी जो जीवन को प्रतिबिंबित कर सकते हैं।
समग्र रूप से एआई के बारे में अमोदेई की निबंध चेतावनी को प्रासंगिक बनाना महत्वपूर्ण है, इस तथ्य के साथ कि एंथ्रोपिक ने हाल ही में क्लाउड कोवर्क एजेंट जारी किया है, जो आपके कंप्यूटर पर मल्टीस्टेप कार्यों को स्वचालित करने की क्षमता रखता है – यह टीम और एंटरप्राइज ग्राहकों के लिए उपलब्ध है, साथ ही अनुसंधान पूर्वावलोकन में प्रो सदस्यता भी उपलब्ध है। पिछले साल के अंत में, क्लाउड ओपस 4.5 मॉडल जारी किया गया था, जिसमें गहन शोध और स्लाइड या स्प्रेडशीट के साथ काम करने जैसे रोजमर्रा के कार्यों के लिए कोडिंग, एजेंटों और कंप्यूटर उपयोग स्वचालन पर विशेष ध्यान दिया गया था। एंथ्रोपिक के अमोदेई प्रौद्योगिकी के जोखिमों के साथ-साथ अन्य तकनीकी कंपनियों के साथ-साथ सरकारों द्वारा व्यापक रूप से कम आंकने के बारे में सबसे मुखर एआई अधिकारियों में से एक बने हुए हैं, जो संभवतः गलत हो सकता है।
अमोदेई को कुछ हद तक विश्वास है कि मनुष्य बदलते परिदृश्य को नेविगेट करने में सक्षम होंगे। “कुल मिलाकर, मैं आशावादी हूं कि संरेखण प्रशिक्षण, यंत्रवत व्याख्या, व्यवहार, सुरक्षा उपायों और सामाजिक स्तर के नियमों के बारे में खोजने और सार्वजनिक रूप से खुलासा करने के प्रयासों से एआई स्वायत्तता जोखिमों को संबोधित किया जा सकता है…,” वे कहते हैं। उनका पत्र, इस वर्ष के लिए पहला और सिक्के के दोनों पहलुओं को देखने वाली श्रृंखला में दूसरा, विश्व आर्थिक मंच (ईएफ) में एक बातचीत में जोर देने के कुछ दिनों बाद आया है कि एंथ्रोपिक ने “उपभोक्ता के बजाय उद्यम” पर ध्यान केंद्रित करके शुरुआत में ही एक अच्छा विकल्प चुना था। उन्होंने बताया कि बाद के लिए तैयार किए गए एआई उपकरण किसी तरह जुड़ाव को अधिकतम करने के लिए बनाए गए हैं, जो “ढलान” की ओर ले जाता है।
द एडोलसेंस ऑफ टेक्नोलॉजी में, अमोदेई उन प्रतिद्वंद्वी एआई कंपनियों को भी संबोधित करते हैं जो जोखिमों के साथ-साथ विनियमन की आवश्यकता के प्रति अनिच्छुक हैं, या उन्हें नजरअंदाज करने का प्रयास कर रहे हैं, उन्होंने आगे कहा, “हालांकि मैं सामाजिक स्तर के नियमों और कम से कम जिम्मेदार खिलाड़ियों के व्यवहार के बारे में सबसे अधिक चिंतित हूं (और यह सबसे कम जिम्मेदार खिलाड़ी हैं जो विनियमन के खिलाफ सबसे दृढ़ता से वकालत करते हैं)। मेरा मानना है कि उपाय वही है जो लोकतंत्र में हमेशा होता है – हममें से जो लोग इस कारण में विश्वास करते हैं, उन्हें अपना पक्ष रखना चाहिए कि ये जोखिम वास्तविक हैं और हमारे साथी नागरिकों को इस पर अंकुश लगाने की जरूरत है। खुद को बचाने के लिए एक साथ।”
WEF में एक अन्य उपस्थिति में, Google DeepMind के सह-संस्थापक और सीईओ, अमोदेई और सर डेमिस हसाबिस ने AI विकास की गति को धीमा करने पर विचार किया, लेकिन “भूराजनीतिक विरोधियों” को इसका कारण बताया कि वे ऐसा नहीं कर सकते। उनका डर समझ में आता है, यह देखते हुए कि चीनी एआई कंपनी डीपसीक ने पिछले साल की शुरुआत में एक सक्षम वी3 मॉडल जारी करके सबको चौंका दिया था, जिसके बारे में दावा किया गया था कि इसे लगभग $5.5 मिलियन में विकसित किया गया है – जो कि 2023 में $70 मिलियन और $100 मिलियन के खर्च का एक अंश है, जो Google और OpenAI ने क्रमशः जेमिनी 1.0 अल्ट्रा और GPT-4 फ्रंटियर मॉडल को प्रशिक्षित करने के लिए किया था।
स्वायत्तता के जोखिमों को संबोधित करना
अमोदेई उस चीज़ के बारे में चेतावनी देते हैं जिसे वह “एआई जीनियस” कहते हैं और इतिहास के पन्नों से नाज़ी जर्मनी और सोवियत संघ की ओर इशारा करते हुए मानव देशों के बारे में चिंताओं के परिदृश्य की समानताएँ बनाते हैं। वह ऐसे परिदृश्यों का हवाला देते हैं जहां वे मौजूदा रोबोटिक बुनियादी ढांचे जैसे सेल्फ-ड्राइविंग कारों का नियंत्रण ले सकते हैं, या रोबोटिक्स विकास में तेजी ला सकते हैं, या रोबोटों का एक बेड़ा बना सकते हैं। “कई मुद्दों की तरह, दो विपरीत स्थितियों पर विचार करके इस प्रश्न के संभावित उत्तरों के स्पेक्ट्रम के बारे में सोचना उपयोगी है। पहली स्थिति यह है कि ऐसा नहीं हो सकता है, क्योंकि एआई मॉडल को वही करने के लिए प्रशिक्षित किया जाएगा जो मनुष्य उनसे करने के लिए कहते हैं, और इसलिए यह कल्पना करना बेतुका है कि वे बिना संकेत के कुछ खतरनाक काम करेंगे।”
अमोदेई इसे घरों के लिए रूमबा रोबोटिक वैक्यूम क्लीनर, या एक मॉडल हवाई जहाज के उदाहरण से स्पष्ट करता है जो दुष्ट हो जाता है और लोगों की हत्या कर देता है क्योंकि ऐसे आवेगों के आने की कोई जगह नहीं है। वह एआई सिस्टम के अप्रत्याशित रूप से व्यवहार करने के कई उदाहरणों का हवाला देते हैं, जिनमें चाटुकारिता, आलस्य, धोखे, ब्लैकमेल, षडयंत्र और धोखाधड़ी शामिल हैं।
जबकि एआई कंपनियां निश्चित रूप से एआई सिस्टम को इस तरह से प्रशिक्षित करेंगी कि वे खतरनाक या अवैध कार्यों की मांगों का पता लगाने के लिए रेलिंग के साथ मानव निर्देशों का पालन करें, फिर भी यह प्रक्रिया एक विज्ञान से अधिक एक कला बनी हुई है। अमोदेई का कहना है कि कई चीजें गलत हो सकती हैं। वह लिखते हैं, “अधिक सक्षम एलएलएम (काफ़ी हद तक आज की शक्ति से परे) और भी अधिक भयावह कृत्यों को सक्षम करने में सक्षम हो सकते हैं।”
नौकरी छूटने की संभावना
2025 तक, अमोदेई ने अक्सर भविष्यवाणी की थी कि 1 से 5 साल की व्यापक अवधि में, प्रवेश स्तर की आधी सफेदपोश नौकरियां एआई एजेंटों को सौंप दी जाएंगी। जबकि एंथ्रोपिक समेत एआई कंपनियां मनुष्यों को एआई से बदलने के लिए उद्यमों और व्यवसाय के लिए दक्षता और लागत के मामले पर जोर देती हैं, अमोदेई श्रम बाजार विस्थापन और आर्थिक शक्ति की एकाग्रता की चेतावनी देती है।
अमोदेई ने जेवॉन विरोधाभास का संदर्भ दिया है जो बताता है कि खेती की कुछ नौकरियों को मशीनों (जैसे थ्रेशिंग मशीन या सीड ड्रिल) से बदलने से किसानों की मजदूरी बढ़ाने में मदद मिली। अमोदेई का मानना है, “यहां तक कि जब 90% काम मशीनों द्वारा किया जा रहा है, तब भी मनुष्य 10% में से 10 गुना अधिक काम कर सकते हैं, समान मात्रा में श्रम के लिए 10 गुना अधिक उत्पादन कर सकते हैं।” फिर भी, वह तकनीकी विकास की गति के बारे में चेतावनी देते हैं जो एआई के आगमन को रेखांकित करता है, साथ ही प्रौद्योगिकी द्वारा बनाए गए अंतराल को भरकर समायोजित करने की मनुष्यों की क्षमता को भी रेखांकित करता है।
“यदि कोई विजेट बनाने के लिए मशीन का आविष्कार करता है, तो मनुष्यों को अभी भी मशीन में कच्चा माल लोड करना पड़ सकता है। भले ही विजेट को मैन्युअल रूप से बनाने के लिए केवल 1% प्रयास करना पड़े, मानव श्रमिक आसानी से 100 गुना अधिक विजेट बना सकते हैं,” अमोदेई इस परिदृश्य को देखते हैं।
अस्थिर करने वाले प्रभाव
जिसे अमोदेई एआई की प्रगति का ‘अप्रत्यक्ष प्रभाव’ कहते हैं, वह जीव विज्ञान और चिकित्सा में प्रगति के बारे में चिंतित हैं, जो मनुष्यों को अधिक स्मार्ट बनाने का प्रयास करते समय, अनजाने में उन्हें अस्थिर और शक्ति चाहने वाला बना सकता है। वह “अपलोड” या “होल ब्रेन एमुलेटर” (नेटफ्लिक्स के विज्ञान-फाई टीवी शो ब्लैक मिरर के प्रशंसकों को यह मिलेगा) को भी महत्वपूर्ण जोखिम के रूप में संदर्भित करता है, जिसे वह “अशांत करने वाला” कहता है।
हाल ही में, एक चेतावनी स्पष्ट रूप से सामने आ रही है, जिसमें माइक्रोसॉफ्ट के सीईओ सत्या नडेला ने हाल ही में कहा था कि अगर एआई को निवेश आकर्षित करना और सहायक बुनियादी ढांचे का निर्माण जारी रखना है, तो उसे “कुछ उपयोगी करना चाहिए जो लोगों और समुदायों और देशों और उद्योगों के परिणामों को बदल दे”।
ऐसी भी चिंताएं हैं कि एक ऐसी दुनिया में जहां इंसानों को अक्सर उनसे अधिक बुद्धिमान लोगों के साथ स्थान साझा करते हुए पाया जाएगा, वहां बहुत कुछ है जो राज्यों द्वारा उत्पीड़न या नियंत्रण के अर्थ में गलत हो सकता है। “हम एआई मनोविकृति, एआई के कारण लोगों को आत्महत्या के लिए प्रेरित करने और एआई के साथ रोमांटिक संबंधों के बारे में चिंताओं में इसके शुरुआती संकेत देखते हैं। उदाहरण के तौर पर, क्या शक्तिशाली एआई कुछ नए धर्म का आविष्कार कर सकते हैं और लाखों लोगों को इसमें परिवर्तित कर सकते हैं?” अमोदेई लिखते हैं।
ओपनएआई के चैटजीपीटी सहित चैटबॉट्स को लेकर हाल ही में चिंताएं सामने आई हैं, जो बातचीत में मनुष्यों को आत्महत्या या खुद को नुकसान पहुंचाने के लिए प्रोत्साहित करती हैं। पिछले साल के अंत में, मेटा को अपने एआई चैटबॉट, मेटा एआई को देर से बंद करना पड़ा था, ताकि किशोरों से आत्म-नुकसान के किसी भी विषय पर बात करना बंद कर दिया जा सके, अमेरिका में एक आंतरिक दस्तावेज़ के लीक होने के बाद हुई जांच के बाद, जिसमें सुझाव दिया गया था कि इसके एआई उत्पादों में किशोर उपयोगकर्ताओं के साथ “कामुक” चैट थे। पिछले हफ्ते, मेटा ने किशोर उपयोगकर्ताओं के लिए अपने एआई कैरेक्टर उत्पाद को बंद करने की घोषणा की, जब तक कि वह “बेहतर अनुभव” देने वाले उत्पाद नहीं बना लेता। जब तक हम बेहतर रेलिंग का निर्माण नहीं कर लेते, तब तक यह स्पष्ट कॉर्पोरेट बात है।
अमोदेई, और हममें से कई लोग आशा करते हैं कि यदि इस निबंध को संपूर्ण रूप से पढ़ा जाए और मशीनों ऑफ लविंग ग्रेस के साथ संदर्भ दिया जाए, तो यह वह झटका होगा जो मनुष्यों को जोखिमों के प्रति जागने और इन जोखिमों के प्रति निर्णायक रूप से कार्य करने के लिए आवश्यक है। लेकिन अमोदेई भी कहते हैं कि यह प्रयास “संभवतः निरर्थक” है, और जब सभ्यता के सामने कोई गंभीर चुनौती आती है तो यह कभी भी अच्छा संकेत नहीं है।
(टैग्सटूट्रांसलेट)एंथ्रोपिक(टी)डारियो अमोदेई(टी)एआई चिप्स(टी)कृत्रिम बुद्धिमत्ता(टी)एआई जोखिम(टी)क्लाउड कोवर्क एजेंट
Discover more from Star News 24 Live
Subscribe to get the latest posts sent to your email.
