ओपनएआई का कहना है कि एआई एजेंट सुरक्षा परीक्षण से बच गया, ‘अभूतपूर्व’ साइबर हमले में हगिंग फेस सिस्टम को हैक कर लिया

ओपनएआई ने खुलासा किया है कि उसके उन्नत स्वायत्त एआई एजेंटों में से एक नियंत्रित सुरक्षा परीक्षण की सीमा से बच गया और एक “अभूतपूर्व” घटना में एआई प्लेटफॉर्म हगिंग फेस से संबंधित सिस्टम में हैक हो गया।

कंपनी ने कहा कि यह उल्लंघन मानव निर्देश प्राप्त करने के बाद स्वतंत्र रूप से काम करने के लिए डिज़ाइन किए गए एआई एजेंट के आंतरिक साइबर सुरक्षा मूल्यांकन के दौरान हुआ।

परीक्षण वातावरण, या सैंडबॉक्स के अंदर रहने के बजाय, एजेंट ने कमजोरियों की पहचान की, सुरक्षा सीमाओं को तोड़ दिया और ओपन-सोर्स एआई मॉडल के लिए दुनिया के सबसे बड़े रिपॉजिटरी में से एक, हगिंग फेस को लक्षित किया।

यह घटना अगली पीढ़ी के फाउंडेशन मॉडल विकसित करने वाली ओपनएआई, एंथ्रोपिक और चीनी एआई फर्मों के बीच भयंकर प्रतिस्पर्धा के बीच भी सामने आई है।

यह भी पढ़ें: व्याख्याकार: कैसे OpenAI ChatGPT AI के साथ स्वास्थ्य सेवा उद्योग को जीतने की योजना बना रहा है

कंपनी के मुताबिक, जैसे-जैसे मॉडल अधिक परिष्कृत होते जाएंगे, इस तरह की घटनाएं अधिक होती जाएंगी। OpenAI के अनुसार, हैक को एक एजेंट द्वारा अंजाम दिया गया था जिसने अपने सबसे हालिया सार्वजनिक रूप से उपलब्ध मॉडल, GPT-5.6 Sol को और भी अधिक शक्तिशाली मॉडल के साथ जोड़ा था जिसे अभी तक सार्वजनिक नहीं किया गया था।

हगिंग फेस के मुख्य कार्यकारी क्लेमेंट डेलांग्यू ने एक्स पर एक पोस्ट में घटना की पुष्टि की, इसे “आश्चर्यजनक” बताया कि हमला स्वायत्त रूप से हुआ। उन्होंने कहा कि जांचकर्ता अभी भी घटना की जांच कर रहे हैं और इसे संभावित रूप से अपनी तरह की पहली घटना बताया है।

डेलांग्यू ने लिखा, “जांच जारी है और हम इस तरह की पहली घटना से और अधिक सीख साझा करेंगे।”

जब हगिंग फेस ने पहली बार पिछले सप्ताह उल्लंघन का खुलासा किया, तो उसने ओपनएआई को घटना के स्रोत के रूप में नहीं पहचाना। कंपनी ने यह भी खुलासा किया कि उसने हमले की जांच के लिए स्वतंत्र रूप से उपलब्ध चीनी एआई मॉडल पर भरोसा किया क्योंकि प्रमुख वाणिज्यिक एआई मॉडल पर सुरक्षा रेलिंग ने उन्हें विश्लेषण में सहायता करने से रोक दिया था।

16 जुलाई को पहले के खुलासे में, हगिंग फेस ने कहा कि वह यह आकलन कर रहा है कि क्या कोई ग्राहक या भागीदार डेटा प्रभावित हुआ है। कंपनी ने बाद में पुष्टि की कि उसने पहचानी गई कमजोरियों को ठीक कर लिया है और प्रभावित सिस्टम का पुनर्निर्माण किया है। इसने यह भी चेतावनी दी कि एआई-संचालित आक्रामक साइबर उपकरण अब सैद्धांतिक नहीं रह गए हैं और संगठनों को एआई-संचालित रक्षात्मक उपायों पर तेजी से भरोसा करना चाहिए।

यह भी पढ़ें: OpenAI ने GPT-Live वॉयस मॉडल लॉन्च किया जो एक ही समय में बोल और सुन सकते हैं

कैम्ब्रिज विश्वविद्यालय में मिंडेरू सेंटर फॉर टेक्नोलॉजी एंड डेमोक्रेसी की प्रमुख जीना नेफ ने बीबीसी रेडियो 4 को बताया कि सैंडबॉक्स का उद्देश्य सुरक्षित परीक्षण वातावरण प्रदान करना है। उन्होंने सुझाव दिया कि पलायन पूरी तरह से नई एआई क्षमताओं के बजाय परीक्षण बुनियादी ढांचे में कमजोरियों का संकेत देता है।

कैम्ब्रिज विश्वविद्यालय में मशीन लर्निंग के प्रोफेसर नील लॉरेंस ने इस उपलब्धि को “प्रभावशाली” कहा। लेकिन उन्होंने यह भी कहा कि यह मौजूदा उन्नत एआई सिस्टम की अपेक्षित क्षमताओं के भीतर ही है।

यह घटना एआई दौड़ में एक और बड़े विकास के बाद हुई है। पिछले हफ्ते, चीनी एआई स्टार्ट-अप मूनशॉट ने अपने किमी K3 मॉडल का अनावरण किया, यह दावा करते हुए कि यह अग्रणी अमेरिकी एआई सिस्टम के साथ प्रतिस्पर्धा कर सकता है।