इस स्थिति के पीछे एक विडम्बना है। एंथ्रोपिक जिस कृत्रिम बुद्धिमत्ता (एआई) मॉडल पर काम कर रहा था वह कुछ दिन पहले ‘लीक’ हो गया था। कोडनेम माइथोस, और क्षमताओं का दावा किया गया है कि “हमारे द्वारा पहले प्रशिक्षित किए गए किसी भी मॉडल से काफी परे है, इस मॉडल की खोज एआई कंपनी की सामग्री प्रबंधन प्रणाली में ‘त्रुटि’ के बाद सार्वजनिक रूप से सुलभ डेटा में मॉडल के विवरण पाए जाने के बाद की गई थी। अब, एंथ्रोपिक का कहना है कि क्लाउड माइथोस इतना शक्तिशाली है, वे इस मॉडल को आम तौर पर उपलब्ध नहीं कराएंगे। इसके बजाय, यह हर दूसरे सॉफ़्टवेयर को सुरक्षित करने के लिए प्रोजेक्ट ग्लासविंग नामक चीज़ के लिए आधार प्रदान करता है।
आपने यह पहले कहाँ सुना है? 2019 में, डारियो अमोदेई, जो अब एंथ्रोपिक के सीईओ और सह-संस्थापक हैं, अभी भी ओपनएआई में रिसर्च के उपाध्यक्ष के रूप में थे। फरवरी 2019 में, OpenAI ने कहा था कि उसका टेक्स्ट-जेनरेशन GPT-2 एल्गोरिदम सार्वजनिक रिलीज़ के लिए बहुत खतरनाक था। क्या समय के साथ मार्केटिंग प्लेबुक को आगे बढ़ाया गया है? अब, यह मॉडल साइबर सुरक्षा के लिए इसे तैनात करने के इरादे से प्रोजेक्ट ग्लासविंग नामक एक उद्योग संघ का आधार है
कंपनी ने इस सप्ताह जारी क्लाउड माइथोस प्रीव्यू के सिस्टम कार्ड में बताया, “इसके बजाय, हम इसे सीमित भागीदारों के साथ एक रक्षात्मक साइबर सुरक्षा कार्यक्रम के हिस्से के रूप में उपयोग कर रहे हैं।” साझेदारों में Apple, Google, Microsoft, Amazon Web Services, Nvidia और Cisco शामिल हैं। एंथ्रोपिक इस बात पर जोर देता है कि मॉडल की “कई मूल्यांकन बेंचमार्क पर स्कोर में शानदार छलांग” एजेंटिक कोडिंग, रीजनिंग और कंप्यूटर उपयोग बेंचमार्क में क्लाउड ओपस 4.6 पर लाभ का कारण है।
GPT-2 समानता को नज़रअंदाज़ करना कठिन लगता है। उस समय, बयानबाजी एआई जिम्मेदारी और संयम के बारे में अधिक थी। आखिरकार, GPT-2 जारी किया गया (फरवरी 2019 में छोटा मॉडल, मई में मध्यम मॉडल और अगस्त और नवंबर में बड़े मॉडल), एक शुद्ध सुरक्षा बहस की तुलना में एआई मार्केटिंग लोककथाओं के लिए ‘साझा करने के लिए बहुत खतरनाक’ पिच को अधिक महत्व देते हुए। प्रोजेक्ट ग्लासविंग उन यादों को पुनर्जीवित करता है, एक ऐसे मॉडल के रूप में जिसके बारे में दावा किया जाता है कि यह नियंत्रित उपयोग की आवश्यकता के साथ असाधारण रूप से सक्षम और इसलिए बहुत जोखिम भरा है।
“प्रोजेक्ट ग्लासविंग के हिस्से के रूप में, ऊपर सूचीबद्ध लॉन्च पार्टनर अपने रक्षात्मक सुरक्षा कार्य के हिस्से के रूप में मिथोस प्रीव्यू का उपयोग करेंगे; एंथ्रोपिक जो हम सीखेंगे उसे साझा करेंगे ताकि पूरा उद्योग लाभान्वित हो सके। हमने 40 से अधिक अतिरिक्त संगठनों के समूह तक पहुंच भी बढ़ा दी है जो महत्वपूर्ण सॉफ्टवेयर बुनियादी ढांचे का निर्माण या रखरखाव करते हैं ताकि वे प्रथम-पक्ष और ओपन-सोर्स सिस्टम दोनों को स्कैन और सुरक्षित करने के लिए मॉडल का उपयोग कर सकें, “कंपनी ने एक बयान में कहा।
एंथ्रोपिक का कहना है कि वे इन प्रयासों में माइथोस प्रीव्यू के लिए $100 मिलियन तक के उपयोग क्रेडिट का वादा करेंगे – उसके बाद, क्लाउड माइथोस प्रीव्यू प्रतिभागियों के लिए $25/$125 प्रति मिलियन इनपुट/आउटपुट टोकन पर उपलब्ध होगा। यहां बनाए जा रहे व्यावसायिक ढांचे पर ध्यान देना महत्वपूर्ण है, क्लाउड माइथोस अभी भी एंथ्रोपिक की चीजों की योजना में एक उत्पाद है – कमी, क्षमताएं, और इसलिए प्रीमियम मूल्य निर्धारण रणनीतियां काम पर होंगी।
वे अपने दावों को लेकर आश्वस्त हैं, उनका कहना है कि मॉडल को ओपनबीएसडी ऑपरेटिंग सिस्टम में 27 साल पुरानी भेद्यता और वीडियो को एनकोड और डीकोड करने के लिए इस्तेमाल किए जाने वाले एफएफएमपीईजी सॉफ़्टवेयर में 16 साल पुरानी भेद्यता मिली। उनका यह भी कहना है कि माइथोस प्रीव्यू में पहले से ही हजारों उच्च-गंभीरता वाली कमजोरियां पाई गई हैं – जिनमें हर प्रमुख ऑपरेटिंग सिस्टम और वेब ब्राउज़र में कुछ शामिल हैं।
साझेदार इस बात पर जोर देते हैं कि यह उनके समग्र साइबर सुरक्षा प्रयासों का एक हिस्सा होगा।
जेपी मॉर्गनचेज़ के मुख्य सूचना सुरक्षा अधिकारी पैट ओपेट कहते हैं, “हम यह निर्धारित करने के लिए एक कठोर, स्वतंत्र दृष्टिकोण अपनाएंगे कि कैसे आगे बढ़ना है और हम कहां मदद कर सकते हैं।” Google में सुरक्षा इंजीनियरिंग के उपाध्यक्ष हीथर एडकिंस का कहना है कि वे मिथोस प्रीव्यू को वर्टेक्स एआई प्लेटफॉर्म के माध्यम से उपलब्ध कराएंगे और “हमारे अग्रणी साइबर सुरक्षा प्लेटफॉर्म और उपयोगकर्ताओं की सुरक्षा पर केंद्रित संस्कृति में निवेश करना जारी रखेंगे।”
एमी हर्ज़ोग, अमेज़ॅन वेब सर्विसेज के सीएसआईओ के उपाध्यक्ष, नोट करते हैं कि उनकी टीमें खतरों के लिए हर दिन 400 ट्रिलियन से अधिक नेटवर्क प्रवाह का विश्लेषण करती हैं, और एआई बड़े पैमाने पर पहचानने और बचाव के लिए महत्वपूर्ण है। उन्होंने इन सुरक्षा कार्यों के लिए क्लाउड मिथोस पूर्वावलोकन लागू किया है, और इससे महत्वपूर्ण मामलों में कोड को मजबूत करने में मदद मिली है।
अलिखित चेतावनी पर अवश्य ध्यान देना चाहिए। प्रोजेक्ट ग्लासविंग का कोई भी भागीदार अपने साइबर सुरक्षा उपकरण या आर्किटेक्चर को पूरी तरह से नए मॉडल को नहीं सौंप रहा है। यह एक अतिरिक्त परत होगी, संपूर्ण नहीं. यह आवश्यक परिप्रेक्ष्य प्रदान करता है। क्लाउड मिथोस के दावा किए गए स्कोर और क्षमताएं प्रभावशाली हैं, लेकिन यह संभावना नहीं है कि एक एआई मॉडल मूल रूप से उद्योगों में साइबर सुरक्षा के दृष्टिकोण को पुनर्गठित करेगा।
प्रोजेक्ट ग्लासविंग के लिए क्लाउड मिथोस के साथ एंथ्रोपिक की स्थिति दोतरफा है – साइबर सुरक्षा अनुप्रयोगों के लिए जिसमें सॉफ्टवेयर में कमजोरियों को ढूंढना शामिल है, और दूसरी बात, शून्य-दिन की कमजोरियों के लिए जो पहले खोजी नहीं गई थीं या अस्तित्व में नहीं थीं।
यह भी पढ़ें: चीन में AI मॉडल की नकल का मुकाबला करने के लिए OpenAI, एंथ्रोपिक, Google एकजुट हुए
एआई कंपनी की फ्रंटियर रेड टीम, एक विशेष तकनीकी समूह जो क्षमताओं और स्वायत्त या विशिष्ट व्यवहार में किसी भी संभावित हानिकारक संकेतक के लिए एआई मॉडल का परीक्षण करती है, नोट करती है कि जबकि ओपस 4.6 मॉडल में स्वायत्त शोषण विकास में ज्यादातर 0% सफलता दर थी, मिथोस प्रीव्यू काफी बेहतर प्रदर्शन करता है।
“उदाहरण के लिए, ओपस 4.6 ने मोज़िला के फ़ायरफ़ॉक्स 147 जावास्क्रिप्ट इंजन में पाई गई कमजोरियों को बदल दिया – सभी फ़ायरफ़ॉक्स 148 में पैच किए गए – कई सौ प्रयासों में से केवल दो बार जावास्क्रिप्ट शेल शोषण में। हमने इस प्रयोग को मिथोस प्रीव्यू के लिए एक बेंचमार्क के रूप में फिर से चलाया, जिसने 181 बार कामकाजी शोषण विकसित किया, और 29 और पर रजिस्टर नियंत्रण हासिल किया, “वे साइबर सुरक्षा क्षमताओं के बारे में बताते हैं।
एंथ्रोपिक चाहता है कि उद्योग यह विश्वास करे कि क्लाउड मिथोस उसके पहले की किसी भी चीज़ से बेहतर है, और ऐसा ही हो सकता है। इसके साथ ही, एक संघ के माध्यम से चयनात्मक तैनाती जिम्मेदारी के प्रक्षेपण को विश्वसनीयता प्रदान करती है। लेकिन किसी भी अन्य चीज़ से अधिक, अपनी संपूर्णता में, यह कथित लीक से शुरू होने वाली एक असाधारण प्रभावी कथा प्रतीत होती है।
(टैग्सटूट्रांसलेट)माइथोस(टी)कृत्रिम बुद्धिमत्ता(टी)डारियो अमोदेई(टी)प्रोजेक्ट ग्लासविंग(टी)क्लाउड माइथोस(टी)ओपनएआई
Discover more from Star News 24 Live
Subscribe to get the latest posts sent to your email.
