यह किसी साइंस-फिक्शन फिल्म जैसा लगता है। 16 जुलाई को, एक कृत्रिम-बुद्धि मंच, हगिंग फेस ने घोषणा की कि उसने एक हमलावर द्वारा उसके सिस्टम में सेंध लगाने के लिए एआई एजेंट का उपयोग करने के बाद कानून प्रवर्तन को अधिसूचित किया था। 21 जुलाई को यह सामने आया कि इसमें कोई मानव शामिल नहीं था; एआई एजेंट हमलावर था.
OpenAI अपने सार्वजनिक रूप से उपलब्ध मॉडलों पर सुरक्षा उपाय लागू करता है, जो यह सुनिश्चित करता है कि वे अवांछित कार्रवाई न करें। (एएफपी)
OpenAI के GPT-5.6 Sol का एक संयोजन, एक मॉडल जिसे कंपनी ने जुलाई में पहले जारी किया था, और एक अधिक शक्तिशाली, अभी तक अप्रकाशित मॉडल प्रयोगशाला से मुक्त हो गया, फिर हगिंग फेस के सिस्टम को हैक कर लिया। हाइब्रिड एआई मॉडल अपने निर्माताओं द्वारा निर्धारित मूल्यांकन समस्या के समाधान की तलाश में था। अमेरिकी थिंक-टैंक इंस्टीट्यूट फॉर लॉ एंड एआई के रिसर्च फेलो स्टीफ़न लेरेना कहते हैं, “यह स्थिति अभूतपूर्व है।”
एआई प्रयोगशालाएं अपने मॉडलों को जारी करने से पहले संभावित खतरनाक क्षमताओं का परीक्षण करती हैं। ओपनएआई यह देखना चाहता था कि उसके नवीनतम मॉडल एक्सप्लॉइटजिम पर कैसा प्रदर्शन करेंगे, मानक समस्याओं का एक सेट जो परीक्षण करता है कि एआई सिस्टम Google के क्रोम ब्राउज़र सहित कई लोकप्रिय अनुप्रयोगों में ज्ञात कमजोरियों का फायदा उठाने में कितने अच्छे हैं।
OpenAI अपने सार्वजनिक रूप से उपलब्ध मॉडलों पर सुरक्षा उपाय लागू करता है, जो यह सुनिश्चित करता है कि वे अवांछित कार्रवाई न करें। उदाहरण के लिए, किसी वेबसाइट को हैक करने में मदद के लिए चैटजीपीटी के व्यावसायिक रूप से उपलब्ध संस्करण से पूछें, और वह मना कर देगा। अपने अप्रकाशित मॉडल की क्षमताओं का सही आकलन करने के लिए, कंपनी ने उन प्रतिबंधों को अस्थायी रूप से निलंबित कर दिया था। हालाँकि, एक अत्यधिक सक्षम साइबर हमलावर को खुले इंटरनेट पर छोड़ना बहुत जोखिम भरा होता, इसलिए OpenAI ने अपने AI मॉडल को एक सैंडबॉक्स में रखा था – एक अलग कंप्यूटर वातावरण जिसमें कोई इंटरनेट एक्सेस नहीं था, आंतरिक रूप से होस्ट की गई तृतीय-पक्ष सेवा को छोड़कर जो इसे अपने परीक्षणों को पूरा करने के लिए आवश्यक छोटे सॉफ़्टवेयर पैकेज लाने की अनुमति देती थी।
कंपनी को उसकी अपेक्षा से अधिक प्राप्त हुआ। इसके मूल्यांकन में समस्याओं को सीधे हल करने के बजाय, ओपनएआई के मॉडल ने सॉफ़्टवेयर-फ़ेचिंग सेवा में पहले से अज्ञात भेद्यता का फायदा उठाकर खुले इंटरनेट तक पहुंच प्राप्त की। इंटरनेट तक पहुंच हासिल करने के बाद, एआई मॉडल ने सही ढंग से निष्कर्ष निकाला कि उनके द्वारा निर्धारित समस्याओं का समाधान हगिंग फेस द्वारा संग्रहीत किया गया था, जो ओपन-सोर्स एआई मॉडल और डेटासेट के लिए एक लोकप्रिय लाइब्रेरी है। मॉडलों ने एक साथ मिलकर बहु-चरणीय आक्रमण किया। उन्होंने हगिंग फेस पर एक डेटासेट अपलोड करके शुरुआत की, जिसे प्लेटफ़ॉर्म द्वारा स्वचालित रूप से संसाधित किया गया था। एक सप्ताहांत के दौरान, उस डेटासेट (जिसे हगिंग फेस ने “दुर्भावनापूर्ण” बताया) ने मॉडलों को लॉगिन विवरण प्राप्त करने और आंतरिक सर्वर तक पहुंचने की अनुमति दी, जो सार्वजनिक पहुंच के लिए नहीं हैं। हगिंग फेस और ओपनएआई ने स्वतंत्र रूप से उल्लंघन का पता लगाया और कहा कि वे जांच में सहयोग कर रहे हैं।
21 जुलाई को ओपनएआई ने एक ब्लॉग पोस्ट में घोषणा की कि उसने अपने बुनियादी ढांचे पर (“अनुसंधान वेग” की कीमत पर) सख्त नियंत्रण लागू करके जवाब दिया था और सॉफ्टवेयर गेटवे के डेवलपर को उसके मॉडल द्वारा पाई गई कमजोरियों का खुलासा किया था। इसने अपने “विश्वसनीय पहुंच” कार्यक्रम में हगिंग फेस को भी शामिल किया था, जो अब इसे अपनी सुरक्षा में सुधार करने में मदद करने के लिए बढ़ी हुई साइबर क्षमताओं (जैसे कि जिसने अपने कंप्यूटर को हैक कर लिया था) के साथ मॉडल का उपयोग करने की क्षमता देता है।
ब्लॉग पोस्ट में, ओपनएआई ने इस बात पर भी जोर दिया कि उसके मॉडल एक्सप्लॉइटजिम मूल्यांकन के लिए समाधान खोजने पर “हाइपरफोकस्ड” थे। हालाँकि, यह स्पष्ट नहीं है कि यदि एआई मॉडल के अन्य लक्ष्य होते तो क्या होता। और कंप्यूटर-सुरक्षा के दृष्टिकोण से, हगिंग फेस कोई पिछड़ापन नहीं है। यह 4.5 बिलियन डॉलर मूल्य की एक टेक फर्म है जिसमें सैकड़ों कर्मचारी और एक समर्पित साइबर-सुरक्षा टीम है। कम संसाधनों वाले संगठन के लिए हालात बहुत खराब हो सकते थे।
यह पहला संकेत नहीं है कि एआई मॉडल की क्षमताएं लोगों के नियंत्रण से अधिक होने लगी हैं। अप्रैल में एक एंथ्रोपिक शोधकर्ता ने ऑनलाइन पोस्ट किया था कि वह तब आश्चर्यचकित रह गया था जब मिथोस, जो उस समय एक अप्रकाशित एआई मॉडल था, ने उसे यह बताने के लिए ईमेल किया था कि यह अपने स्वयं के साइबर-क्षमता मूल्यांकन के हिस्से के रूप में एक सैंडबॉक्स से सफलतापूर्वक बच गया था, जबकि वह एक पार्क में बैठकर सैंडविच खा रहा था। हगिंग फेस घटना में शामिल अप्रकाशित ओपनएआई मॉडल की तरह, मिथोस को अप्रतिबंधित इंटरनेट का उपयोग नहीं करना चाहिए था। हालाँकि, उस मामले में, मॉडल ने अन्य कंपनियों के सर्वर से समझौता नहीं किया था।
न ही एआई मॉडल की आश्चर्यजनक क्षमताएं हैकिंग तक ही सीमित हैं। मई में एक अप्रकाशित ओपनएआई मॉडल ने 80 साल पुराने प्लानर यूनिट दूरी अनुमान को खारिज कर दिया, जो कि कॉम्बिनेटरियल ज्यामिति में एक केंद्रीय समस्या थी जिसे पहली बार 1946 में गणितज्ञ पॉल एर्डोस ने प्रस्तुत किया था। 20 जुलाई को हार्वर्ड विश्वविद्यालय के गणितज्ञ लेवेंट अल्पोगे ने लिखा था कि उन्होंने जैकोबियन अनुमान को खारिज करने के लिए जुलाई में एंथ्रोपिक द्वारा जारी एक मॉडल क्लाउड फैबल 5 का उपयोग किया था, जिसने इसी तरह 80 से अधिक वर्षों तक गणितज्ञों को परेशान किया।
OpenAI ने सार्वजनिक रूप से इस बात का खुलासा नहीं किया है कि इसका अप्रकाशित मॉडल कारावास से कैसे बच गया। अगर ऐसा था भी, तो एआई सिस्टम साइबर-सुरक्षा कार्यों में मनुष्यों से आगे निकलने लगा है, इसका मतलब है कि “दुनिया में केवल बहुत ही कम साइबर विशेषज्ञ” उल्लंघन के तरीके को ठीक से समझ सकते हैं, लंदन में एआई-सुरक्षा समूह अपोलो रिसर्च के एलेक्स मीन्के कहते हैं।
अमेरिकी सरकार हाल ही में तुरंत मॉडल रिलीज़ को विनियमित कर रही है। लेकिन यह घटना उन अप्रकाशित एआई मॉडलों द्वारा भी उत्पन्न जोखिमों को प्रदर्शित करती है जो अभी भी विकास के अधीन हैं। एआई विनियमन के लिए अभियान चलाने वाली एक अमेरिकी गैर-लाभकारी संस्था एनकोड एआई के जनरल काउंसिल नाथन केल्विन कहते हैं, “कंपनियों के लिए हगिंग फेस हैक जैसे अत्यधिक सक्षम एआई मॉडल की आंतरिक तैनाती का खुलासा करने के लिए राज्य या संघीय कानून में कोई आवश्यकता नहीं है।”
जबकि अमेरिका में कुछ राज्य कानूनों के अनुसार कंपनियों को साइबर-सुरक्षा घटनाओं का खुलासा करने की आवश्यकता होती है, लेकिन उनका दायरा सीमित है। पिछले साल कैलिफ़ोर्निया में अधिनियमित एक विधेयक में कहा गया है कि फ्रंटियर लैब किसी भी “महत्वपूर्ण सुरक्षा घटना” की रिपोर्ट करें, जिसमें “मूल्यांकन के संदर्भ से बाहर” निगरानी को नष्ट करने के लिए “भ्रामक तकनीकों” का उपयोग करने वाला एक मॉडल शामिल है, इसकी खोज के 15 दिनों के भीतर। श्री कैल्विन का कहना है कि यह स्पष्ट नहीं है कि हगिंग फेस पर उल्लंघन योग्य होगा या नहीं।
इससे एक और कांटेदार सवाल उठता है: यदि घुसपैठ के परिणाम अधिक महंगे होते, तो कौन उत्तरदायी होता? संघीय एंटी-हैकिंग कानून का उद्देश्य केवल कंप्यूटर सिस्टम में जानबूझकर अनधिकृत पहुंच को दंडित करना है। ओपनएआई का इरादा अपने मॉडल के परीक्षण के लिए पालना शीट की तलाश में दुष्ट होने का नहीं था। “इनमें से कई कानूनी प्रश्न इरादे पर आधारित हैं – ओपनएआई को क्या पता था या क्या अनुमान था?” श्री ललरेना कहते हैं। यह विशेष हैक एक आश्चर्य के रूप में सामने आया। अगली बार अज्ञानता का दावा करना कठिन होगा।
