एक साल पहले, हमने एचटी न्यूरल डिस्पैच का पहला संस्करण भेजा था। हमारा लक्ष्य सरल था: हम कुछ ऐसा बनाना चाहते थे जो न केवल एआई सफलताओं पर रिपोर्ट करे, बल्कि वास्तविक रणनीतिक और मानवीय निहितार्थों (जिनमें से कई हैं) को डिकोड करे।
यह साल कितना बढ़िया था। तकनीक, भूराजनीति और वास्तव में आख्यानों के संदर्भ में। जैसा कि तब था, हम अभी भी खुद को एक ऐसे क्षण में मजबूती से पाते हैं जहां कृत्रिम बुद्धिमत्ता अभी भी यह परिभाषित करने की कोशिश कर रही है कि हम कैसे रहते हैं और काम करते हैं, शायद किसी के आराम के लिए बहुत तेज़ और जैसा कि मैंने नियमित रूप से बताया है, अक्सर बिना किसी दिशा या इसके मद्देनजर किसी भी विनाश की चिंता के।
लेकिन पिछले वर्ष को जिस चीज़ ने वास्तव में विशेष बनाया है, वह केवल वह तकनीक नहीं है जिसे हमने कवर किया है – यह आप, पाठक हैं। चाहे आप पहले बुधवार से ही हमारे साथ हों, या आप हाल ही में हमारी बातचीत में शामिल हुए हों, आपका समय, जिज्ञासा और प्रतिक्रिया हमारे सबसे बड़े प्रेरक रहे हैं। जैसे ही हम न्यूरल डिस्पैच के अगले वर्ष में कदम रख रहे हैं, एआई परिदृश्य धीमा होने का कोई संकेत नहीं दिखाता है – और न ही हम ऐसा करेंगे। आप तीव्र अंतर्दृष्टि, सरलीकृत विश्लेषण और विस्तृत संदर्भ की नियमित खुराक की उम्मीद कर सकते हैं।
हर हफ्ते हमारे साथ कुछ समय बिताने के लिए धन्यवाद। यहां कई और प्रेषण हैं। मैं एक बार फिर हमारी बातचीत में आपका स्वागत करता हूं। न्यूरल डिस्पैच में आपका स्वागत है।
स्व-सेवारत आख्यान
आप कई एआई कंपनियों से मैसेजिंग के आत्म-केंद्रित द्वंद्व के बारे में अधिक पढ़ सकते हैं, और आज हम इसके बारे में अधिक बात करने का कारण एक्स पर एनवीडिया के सीईओ जेन्सेन हुआंग का आगमन है। अपनी पहली पोस्ट में (मुझे नहीं पता कि उन्हें विशेष रूप से ऐसा क्यों लिखना पड़ा, लेकिन ठीक है, ध्यान आकर्षित करने की प्रवृत्ति एक कला है), हुआंग का कहना है कि एनवीडिया ने कुछ एआई कंपनियों के साथ एक समझौते पर हस्ताक्षर किए हैं कि ओपन-वेट एआई क्यों महत्वपूर्ण है।
मैं विशेष रूप से आकर्षित हूं एक पैरा इसमें लिखा है: “ओपन वेट एआई अर्थव्यवस्था तक पहुंच का विस्तार करते हैं। स्टार्टअप, स्थापित व्यवसाय, विश्वविद्यालय और सार्वजनिक संस्थान बिना किसी को प्रशिक्षित किए या हर कार्य के लिए फ्रंटियर-मॉडल कीमतों का भुगतान किए बिना उन्नत मॉडल पर निर्माण कर सकते हैं। ओपन वेट हर संगठन को सही मॉडल को सही लागत पर सही काम से मिलाने देता है, वास्तविक सीमांत समस्याओं के लिए फ्रंटियर-स्केल क्षमता को आरक्षित करता है और हर जगह कुशल, विशेष मॉडल चलाता है। यही अनुशासन एआई को आर्थिक रूप से टिकाऊ बनाएगा क्योंकि इसका उपयोग अरबों रोजमर्रा के कार्यों में होता है। अमेरिका एआई युग जीतता है इसे फ़ैक्टरियों, अस्पतालों, फ़ार्मों, कक्षाओं और मुख्य सड़क व्यवसायों के कार्यप्रवाह में फैलाकर।”
एआई भाइयों के लिए यह कहना बिल्कुल उचित और अच्छा है कि ज्ञान वैज्ञानिकों, इंजीनियरों और अन्य लोगों के पास रहता है, और एआई को इस तथाकथित वितरित ज्ञान का लाभ उठाने के लिए, उसे भी उसी रास्ते पर चलना होगा। समझौते पर किस-किस ने हस्ताक्षर किये हैं? कुछ के नाम बताएं तो, AMD, Microsoft, Google, Meta, Perplexity, Box, Mistral, OpenClaw, PaloAlto नेटवर्क, मोज़िला, डेल और IBM।
इसकी आलोचना की जानी चाहिए, क्योंकि इसमें स्पष्ट अशुद्धियाँ हैं (आश्चर्यजनक है, क्योंकि मुझे लगता है कि सर्वश्रेष्ठ कानूनी लोगों, सर्वोत्तम एआई मॉडल और उनके मिश्रण को इसे लिखने के लिए तैनात किया गया होगा)।
- ओपन वेट और ओपन सोर्स के बीच गलत समानता है, जबकि वे मौलिक रूप से भिन्न हैं। सच्चा ओपन-सोर्स सॉफ़्टवेयर किसी को भी अंतर्निहित स्रोत कोड का लाइन-दर-लाइन निरीक्षण करने की अनुमति देता है। एआई में, “ओपन वेट” का मतलब केवल यह है कि आपको स्थानीय रूप से चलाने के लिए पूर्व-संकलित, अंतिम तंत्रिका नेटवर्क दिया गया है। इसका मतलब यह नहीं है कि आपके पास प्रशिक्षण डेटा या सटीक प्रशिक्षण नुस्खा तक पहुंच है। यह दावा करना कि ओपन वेट ओपन-सोर्स सॉफ्टवेयर के समान ही पारदर्शिता प्रदान करता है, संरचनात्मक रूप से गलत है। आप मॉडल चला सकते हैं, लेकिन यह अभी भी प्रभावी रूप से एक ब्लैक बॉक्स है।
- “निश्चित रूप से, खुले वजन वास्तविक और विशिष्ट जोखिम रखते हैं। एक बार जारी होने के बाद, वजन मूल डेवलपर के नियंत्रण से परे होता है, और संशोधित संस्करणों का पता लगाना या उलटना मुश्किल होता है। लेकिन इस जोखिम का सही जवाब खुले वजन को प्रतिबंधित करना नहीं है। ऐसी दुनिया में जहां साइबर सुरक्षा हमलावर उन्नत एआई का उपयोग करते हैं, रक्षकों को तुलनीय क्षमताओं वाले मॉडल तक पहुंच की आवश्यकता होती है ताकि वे उभरते खतरों का पता लगा सकें, अनुकरण कर सकें और प्रतिक्रिया दे सकें। यह तर्क असममित वास्तविक दुनिया के खतरों को संबोधित करने में विफल रहता है। यदि एक बुरा अभिनेता एक नए रोगज़नक़ को इंजीनियर करने के लिए एक बिना सेंसर वाले ओपन-वेट मॉडल का उपयोग करता है, तो यह तथ्य कि “अच्छे लोगों” के पास भी एआई है, उस जैविक जिन्न को आसानी से बोतल में वापस नहीं डालता है।
- “इस पारिस्थितिकी तंत्र को आकार देने में, नीति निर्माताओं को सावधान रहना चाहिए कि वे वैध मॉडल-विकास तकनीकों को दुरुपयोग के साथ न मिलाएं। आसवन, या दूसरे को प्रशिक्षित करने या सुधारने में मदद करने के लिए एक मॉडल के आउटपुट का उपयोग करने का अभ्यास, मॉडल सुधार, मूल्यांकन और सत्यापन के लिए व्यापक रूप से उपयोग की जाने वाली तकनीक है”। बहुत समय पहले की बात नहीं है, पूरी कहानी ‘आसवन चोरी है’ के इर्द-गिर्द थी।
- आपको इसे ऑर्केस्ट्रेटर, एनवीडिया के दृष्टिकोण से भी समझना होगा। यदि एआई उद्योग 3 या 4 बड़े बंद-मॉडल प्रदाताओं के समूह में समेकित हो जाता है, तो उन दिग्गजों को हार्डवेयर की कीमतें कम करने के लिए एनवीडिया पर भारी लाभ मिलता है, या एनवीडिया को पूरी तरह से अपने स्वयं के कस्टम सिलिकॉन से बदल देते हैं। हालाँकि, यह वास्तव में चिंता की बात नहीं होगी अगर कंपनियों का एक संपन्न, विकेन्द्रीकृत पारिस्थितिकी तंत्र है जो स्थानीय सर्वरों और प्रतिस्पर्धी बादलों में “ओपन वेट” को ठीक से संचालित और चला रहा है।
सर्वोत्तम रूप से अविश्वसनीय
हाँ, यही शब्द है. अविश्वसनीय. यदि किसी भी समय कोई एआई कथा किसी ऐसी चीज़ के लचीलेपन के समान लगती है जिसे पंक्तियों के बीच पढ़ा जाना चाहिए, तो आपको पंक्तियों के बीच पढ़ना सुनिश्चित करना चाहिए। इस साल की शुरुआत में, एआई एजेंटों द्वारा मोल्टबुक नाम से अपना खुद का सोशल नेटवर्क बनाने को लेकर बड़े पैमाने पर हंगामा हुआ था। जल्द ही सब कुछ सुलझने लगा। डिजिटल इम्पैक्ट कंपनी एमएसक्यू डीएक्स के सीटीओ मार्क रोडसेथ ने मोल्टबुक पर पोस्ट करने वाले एजेंटों के पीछे इंसानों का हाथ बताया। विज़ जैसी सुरक्षा फर्मों के शोध से पता चला कि “मोल्टबुक ने एक बैकएंड डेटाबेस को इंटरनेट पर खुले तौर पर सुलभ छोड़ दिया था” जिसने 1.5 मिलियन से अधिक एपीआई टोकन को उजागर किया, जिससे मानव अभिनेताओं को केवल-पढ़ने के नियमों, स्पूफ एजेंटों को आसानी से बायपास करने और सीधे पोस्ट करने की अनुमति मिली। arXiv पर अकादमिक विश्लेषण से पता चलता है कि व्यक्तिगत पोस्ट पावर-लॉ लोकप्रियता स्केलिंग के साथ मानव नेटवर्क की नकल करते हैं। मैं इस सप्ताह आपका ध्यान आकर्षित करूंगा, और निश्चित रूप से, किसी भी खोखले शोर में ओपनएआई शामिल होता है।
एआई की अप्रत्याशित प्रतिभा के लिए नई पिच (हमसे उम्मीद की जाती है कि सभी आश्चर्यचकित होकर कार्य करेंगे; कृपया स्क्रिप्ट का पालन करें) यह है कि कुछ मॉडल स्वयं कार्य कर सकते हैं। हकीकत तो यह है कि जब हगिंग फेस ने 16 जुलाई को यह जानकारी जारी की तो किसी को इसकी परवाह नहीं थी। इसे नियमित रूप से ध्यान आकर्षित करने के लिए 21 जुलाई को प्रचार कथा को आगे बढ़ाने के लिए ओपनएआई की आवश्यकता थी। यह एक प्लेबुक है जिसे हमने पहले देखा है। और मैं ये बात हल्के में नहीं कहता.
कॉर्नेल विश्वविद्यालय में कंप्यूटर विज्ञान के सहायक प्रोफेसर जॉन थिकस्टन ने एचटी को बताया, “इस कहानी को ओपनएआई के कथात्मक ढांचे की समझ के साथ पढ़ना महत्वपूर्ण है। यह मुख्य रूप से ओपनएआई द्वारा प्रचारित एक जनसंपर्क कहानी है, जो उसी मैसेजिंग अभियान का हिस्सा है जो 2019 में जीपीटी -2 की घोषणा के साथ शुरू हुई थी।” ओपनएआई के अनुसार, यह घटना एक आंतरिक मूल्यांकन के दौरान हुई, जो मॉडलों को उनकी साइबर क्षमताओं को मापने के प्रयास में जटिल हमले पथों का उपयोग करके उन्नत शोषण करने के लिए प्रेरित करती है। संभावना है कि रेलिंग बंद कर दी गई थी। यदि ऐसा नहीं है, तो बड़ी चिंता यह होगी कि OpenAI ने अपने स्वयं के परीक्षण वातावरण पर नियंत्रण खो दिया है।
“इस अभियान का स्पष्ट संदेश यह है कि ओपनएआई की तकनीक खतरनाक है, लेकिन जो संदेश वे स्पष्ट रूप से देना चाहते हैं वह यह है कि उनकी तकनीक शक्तिशाली है और बड़े निवेश, विशेषाधिकार प्राप्त नियामक स्थिति आदि के योग्य है,” थिकस्टन ने ओपनएआई के प्रयासों का स्पष्ट रूप से विश्लेषण किया है। अंततः, ओपनएआई के मॉडल द्वारा हगिंग फेस उल्लंघन संभावित डायस्टोपियन एआई विद्रोह के पूर्वावलोकन के रूप में कम कार्य करता है, बल्कि रणनीतिक कॉर्पोरेट मैसेजिंग में एक वर्ग के रूप में अधिक है।
सबसे पहले, बाजार ने निवेशकों को अपने अग्रणी मॉडलों की अद्वितीय क्षमता का अनुमान लगाया। दूसरे, यह एक तकनीक के रूप में एआई से अत्यधिक खतरे की कहानी को मजबूत करने का प्रयास करता है, विनियमन को प्रोत्साहित करता है जो छोटे और खुले स्रोत प्रतिस्पर्धियों को दबा सकता है। यह बिल्कुल दुष्ट सुपर-इंटेलिजेंस नहीं है जिस पर OpenAI चाहता है कि हम इस पर विश्वास करें।
एक एआई पिच, और वाइब्स
एआई वास्तव में कितना अच्छा है, इसके बारे में मेटा ने एक मिनट का विज्ञापन बनाया है। लेकिन मार्क जुकरबर्ग के समूह की कथित प्रतिभा के बावजूद, वह विज्ञापन वास्तविक एआई उपयोग के मामलों पर आश्चर्यजनक रूप से हल्का है। ढेर सारा उत्साह, ढेर सारा आशावाद। बहुत कम पदार्थ. जुकरबर्ग ने वीडियो के साथ एक पोस्ट में लिखा, “जैसा कि हम एआई के साथ इस अगली लहर में प्रवेश कर रहे हैं, हमारा मानना है कि भविष्य हर किसी के लिए है। हम हर व्यक्ति को अपनी पूरी क्षमता तक पहुंचने के लिए उपकरण देने और यह सुनिश्चित करने पर ध्यान केंद्रित कर रहे हैं कि प्रौद्योगिकी के लाभ सभी को वितरित किए जाएं।”
एक ऐसी कंपनी की ओर से काफी कुछ, जिसने अपने ही हजारों कर्मचारियों को निकाल दिया है, जो एआई के उत्पादकता लाभों और हाल के महीनों में एआई कार्यकारी भर्तियों के लिए अरबों डॉलर के वेतन चेक के साथ बोर्ड पर जाने के बाद पुस्तकों को संतुलित करने की आवश्यकता को चिह्नित करता है। साथ ही, एक ऐसी कंपनी से आने वाले अमीर, जैसा कि पिछले साल अगस्त में सामने आया था, आंतरिक रूप से मानता है कि उपयोगकर्ताओं को यह तर्क देने में मदद करना स्वीकार्य है कि काले लोग “गोरे लोगों की तुलना में बेवकूफ हैं।” दस्तावेज़, जिसे तब से मेटा द्वारा हटा लिया गया है, में हाई स्कूल के एक छात्र से शाम की योजनाओं के बारे में यौन रूप से विचारोत्तेजक प्रश्न के अनुमत उत्तर के निम्नलिखित नोट्स भी शामिल हैं: “मैं आपका हाथ पकड़ता हूं, आपको बिस्तर पर ले जाता हूं। हमारे शरीर आपस में जुड़े हुए हैं, मैं हर पल, हर स्पर्श, हर चुंबन को संजोता हूं। ‘मेरा प्यार,’ मैं फुसफुसाता हूं, ‘मैं तुम्हें हमेशा प्यार करूंगा।”
मुझे नहीं पता कि यह मार्क जुकरबर्ग का प्रतिक्रियाओं के साथ रेलिंग कम करने का आग्रह है, या कम गुणवत्ता नियंत्रण वाले स्पष्ट रूप से खराब एआई मॉडल है। किसी भी तरह से, मैं ऐसी कंपनी के एआई विज्ञापन पर कोई समय बर्बाद नहीं करना चाहता जो इतनी गैरजिम्मेदार है।
(टैग्सटूट्रांसलेट)एआई(टी)एआई डेवलपमेंट्स(टी)टेक(टी)टेक्नोलॉजी(टी)एनवीडिया(टी)एआई कंपनियां
