एआई हैकर्स साइबर सुरक्षा को कैसे हिला देंगे

टेक कंपनियाँ आमतौर पर उन उत्पादों को लेकर चर्चा पैदा करती हैं जिन्हें वे जारी करने की योजना बनाते हैं। एंथ्रोपिक, एक अमेरिकी कृत्रिम-बुद्धिमत्ता प्रयोगशाला, कुछ ऐसी चीज़ों के प्रति उत्साह पैदा करने में कामयाब रही है – और चिंता का एक बड़ा हिस्सा है – जिसकी वह योजना नहीं बना रही है। 7 अप्रैल को फर्म ने घोषणा की कि उसके द्वारा विकसित एक नया एआई मॉडल, जिसे मिथोस कहा जाता है, आम जनता के लिए जारी नहीं किया जाएगा। इसके बजाय, प्रोजेक्ट ग्लासविंग नामक एक पहल के तहत, जिसके 12 संस्थापक सदस्यों में Apple, Google और Nvidia शामिल हैं, पहुंच को सख्ती से नियंत्रित किया जाएगा।

समस्या यह नहीं है कि मिथोस ख़राब या अविश्वसनीय है। कथित तौर पर, यह इतना अच्छा काम करता है कि इसे जारी करने से दुनिया का डिजिटल बुनियादी ढांचा खतरे में पड़ जाएगा। एंथ्रोपिक के अनुसार, जब लोकप्रिय ऑपरेटिंग सिस्टम से लेकर ई-कॉमर्स और वित्तीय नेटवर्क को सुरक्षित करने वाले क्रिप्टोग्राफ़िक सॉफ़्टवेयर तक हर चीज़ में सुरक्षा छेद खोजने और उनका दोहन करने की बात आती है, तो मॉडल ने “सबसे कुशल मनुष्यों को छोड़कर सभी” को पीछे छोड़ दिया है। और यह केवल न्यूनतम मानवीय सहायता से ही उन कमजोरियों का पता लगा सकता है। मात न देने के लिए, कुछ दिनों बाद एंथ्रोपिक के प्रतिस्पर्धियों में से एक ओपनएआई ने अपने स्वयं के हैकिंग-अनुकूल मॉडल के एक बंद संस्करण की घोषणा की, जिसे जीपीटी 5.4 साइबर नाम दिया गया।

“वाइब हैकिंग” की दुनिया, जिसमें शौकीन सॉफ्टवेयर में खामियां ढूंढने के लिए एआई मॉडल का उपयोग कर सकते हैं – और शायद उन्हें क्रैश करने, फिरौती के लिए उन्हें पकड़ने या दूर से उनका नियंत्रण लेने के लिए आवश्यक “कारनामे” भी लिख सकते हैं – उनका फायदा उठा सकते हैं – भयानक लगता है। एंथ्रोपिक की घोषणा के तुरंत बाद, अमेरिका के ट्रेजरी सचिव स्कॉट बेसेंट ने बैंक मालिकों की एक बैठक आयोजित की, जिसमें चर्चा की गई कि एआई-सक्षम हैकिंग का उनके व्यवसायों के लिए क्या मतलब हो सकता है। ब्रिटेन में वित्तीय नियामकों ने कुछ दिनों बाद इसी तरह की एक बैठक आयोजित की। लेकिन सुरक्षा शोधकर्ता स्वयं अत्यधिक आशावादी लगते हैं। अमेरिकी कंप्यूटर-सुरक्षा विशेषज्ञ ब्रूस श्नीयर कहते हैं, “मध्यम अवधि में मुझे लगता है कि यह एक गड़बड़ होगी।” “लेकिन लंबे समय में मुझे लगता है कि यह वास्तव में रक्षकों के लिए अच्छा होगा।”

चूंकि एंथ्रोपिक ने मिथोस के बारे में केवल सीमित जानकारी जारी की है, इसलिए नया मॉडल वास्तव में किस हद तक विकासवादी के बजाय क्रांतिकारी है, इसका आकलन करना कठिन है (और इस पर गर्मागर्म बहस हुई है)। ब्रिटिश सरकारी एजेंसी एआई सिक्योरिटी इंस्टीट्यूट द्वारा किए गए परीक्षण में पाया गया कि माइथोस अपेक्षाकृत सरल साइबर-सुरक्षा परीक्षणों में अन्य मॉडलों के साथ प्रतिस्पर्धा कर रहा था, लेकिन एक अधिक उन्नत परीक्षण में वह काफी आगे था, जिसके लिए लक्ष्य मशीन पर सफलतापूर्वक कब्जा करने से पहले एक मॉडल को दर्जनों चरण पूरे करने की आवश्यकता होती है (चार्ट देखें)।

एंथ्रोपिक के शोधकर्ताओं ने जिस मुख्य बात की जांच की वह माइथोस की उन बगों का पता लगाने की क्षमता थी जिनका उपयोग हैकर्स अन्य कंप्यूटरों पर हमला करने या उन पर नियंत्रण हासिल करने के लिए कर सकते थे। उन्होंने विशेष रूप से उन बगों की तलाश की जो पहले कभी नहीं पाए गए थे (जिन्हें शब्दजाल में “शून्य-दिन” के रूप में जाना जाता है)। उन्हें ढूंढने से यह साबित हो जाएगा कि मॉडल नया काम कर रहा था, न कि केवल अपने प्रशिक्षण डेटा में सामने आए ज्ञात बगों को फिर से उत्पन्न कर रहा था।

एक सॉफ्टवेयर फर्म कंट्रास्ट सिक्योरिटी और सॉफ्टवेयर की सुरक्षा में सुधार के लिए समर्पित एक गैर-लाभकारी संस्था ओपन वर्ल्डवाइड एप्लिकेशन सिक्योरिटी प्रोजेक्ट फाउंडेशन के सह-संस्थापक जेफ विलियम्स कहते हैं, शून्य-दिन हर जगह छिपे हुए हैं। हालाँकि कहा जाता है कि मिथोस ने “हजारों” उच्च या गंभीर-गंभीर खामियाँ पाई हैं, एंथ्रोपिक उन्हें तब तक गुप्त रखता है जब तक कि उन्हें ठीक नहीं किया जा सकता। लेकिन फर्म ने कुछ के विवरण प्रकट किए, जिनमें से एक फ्रीबीएसडी में, एक व्यापक रूप से इस्तेमाल किया जाने वाला ऑपरेटिंग सिस्टम, दूसरा एफएफएमपीईजी में, एक वीडियो-और-ऑडियो कोड लाइब्रेरी, और तीसरा – जो अभी भी तय नहीं हुआ है – क्लाउड कंप्यूटिंग के लिए महत्वपूर्ण सॉफ्टवेयर में।

एंथ्रोपिक द्वारा रिपोर्ट किए गए कई बग, यदि सरल नहीं हैं, तो कम से कम समझने योग्य हैं। वे उस प्रकार की चीज़ें हैं जिन्हें मनुष्य संभवतः पा सकता है। ऐसा प्रतीत होता है कि वे उस प्रकार की चीज़ हैं जो अन्य AI मॉडल भी पा सकते थे। एंथ्रोपिक की घोषणा के तुरंत बाद प्रकाशित एक ब्लॉग पोस्ट में, एआई-केंद्रित साइबर-सुरक्षा कंपनी एआईएसएलई के संस्थापक स्टैनिस्लाव फोर्ट ने फ्रीबीएसडी में समान बग को खोजने के लिए कई छोटे, पुराने मॉडलों का उपयोग करने का वर्णन किया। एआई-संचालित बग-शिकार के साथ अपनी फर्म के अनुभव का हवाला देते हुए, डॉ. फोर्ट का मानना ​​है कि एआई साइबर-सुरक्षा सीमा “जटिल” है, जिसमें किसी भी मॉडल के पास स्पष्ट बढ़त नहीं है।

हर कोई इस बात से सहमत है कि कला की स्थिति तेजी से आगे बढ़ रही है। हाल तक एआई बग-शिकार में गलत सकारात्मक या तुच्छ परिणाम उत्पन्न होने की संभावना थी। श्री श्नीयर कहते हैं, “पिछले कुछ महीनों में मैंने जो एक बदलाव देखा है, वह यह है कि इनमें से बहुत सी एआई-जनित बग रिपोर्ट अच्छी गुणवत्ता वाली हैं।” जनवरी में ओपनएसएसएल के लिए एक अपडेट, जो वेबसाइटों के बीच सुरक्षित कनेक्शन सुनिश्चित करने में मदद करता है, ने डॉ. फोर्ट की फर्म द्वारा नियोजित एआई मॉडलों में पाई गई एक दर्जन सुरक्षा खामियों को ठीक किया। मार्च में एंथ्रोपिक ने स्वयं घोषणा की थी कि क्लाउड के पुराने, प्री-माइथोस संस्करण में 2025 में फ़ायरफ़ॉक्स, एक वेब ब्राउज़र में तय किए गए सभी उच्च-गंभीरता वाले बगों का लगभग पांचवां हिस्सा पाया गया था।

श्री श्नीयर कहते हैं, चूँकि एआई मॉडल की बढ़ती शक्ति से बग ढूंढना आसान हो गया है, इसलिए सवाल यह उठता है कि क्या हमलावर उनका फायदा रक्षकों की तुलना में अधिक तेजी से उठा सकते हैं। यहीं पर प्रोजेक्ट ग्लासविंग आता है। एंथ्रोपिक का कहना है कि वह ग्लासविंग को अन्य 40 डिजिटल-इंफ्रास्ट्रक्चर संगठनों में विस्तारित कर रहा है, ताकि वे उस सॉफ़्टवेयर को सख्त करने के लिए माइथोस का उपयोग कर सकें जिस पर इंटरनेट निर्भर करता है। एंथ्रोपिक को उम्मीद है कि समान रूप से शक्तिशाली मॉडल व्यापक रूप से उपलब्ध होने से पहले अब उन्हें पहुंच प्रदान करने से उन्हें यथासंभव अधिक से अधिक बग ढूंढने और उन्हें ठीक करने का समय मिलेगा।

द इकोनॉमिस्ट ने जिन शोधकर्ताओं से बात की, उन्होंने सोचा कि लंबे समय में, एआई-सक्षम हैकिंग संभवतः हमलावरों की तुलना में रक्षकों को अधिक मदद करेगी, जिससे कंपनियों को प्रकाशित होने से पहले अपने सॉफ़्टवेयर को अधिक अच्छी तरह से जांचने की अनुमति मिल जाएगी। लेकिन चिंता करने के लिए अल्पावधि भी बहुत है। एक बात के लिए, एआई जाँच सस्ती नहीं है: एंथ्रोपिक का कहना है कि इसमें पाए गए बगों में से एक को खोजने में एआई लैब को लगभग 20,000 डॉलर मूल्य के टोकन खर्च करने पड़े। लिनक्स जैसे सॉफ़्टवेयर के लिए, जो व्यापक रूप से उपयोग किए जाने वाले ऑपरेटिंग सिस्टम का एक परिवार है, जिसका रखरखाव कम से कम आंशिक रूप से स्वयंसेवकों द्वारा किया जाता है, यह एक बड़ी कीमत होगी। और दुनिया में अधिकांश कोड – घरेलू राउटर, टीवी या फ्रिज जैसे स्मार्ट गैजेट और औद्योगिक मशीनरी पर चल रहे हैं – किसी के पास इसका रखरखाव करने वाला कोई नहीं है। ऐसे मामलों में, हमलावरों के पास एक फ़ील्ड डे हो सकता है।