ओपनएआई का कहना है कि एआई एजेंट सुरक्षा परीक्षण से बच गया, ‘अभूतपूर्व’ साइबर हमले में हगिंग फेस सिस्टम को हैक कर लिया

AI Dating Guidelines 0 1784764464990 1784764483018 bb313df5 bd4d 4b09 bcbd d1f124c1739d
Spread the love

ओपनएआई ने खुलासा किया है कि उसके उन्नत स्वायत्त एआई एजेंटों में से एक नियंत्रित सुरक्षा परीक्षण की सीमा से बच गया और एक “अभूतपूर्व” घटना में एआई प्लेटफॉर्म हगिंग फेस से संबंधित सिस्टम में हैक हो गया।

ओपनएआई ने कहा कि उल्लंघन मानव निर्देश प्राप्त करने के बाद स्वतंत्र रूप से काम करने के लिए डिज़ाइन किए गए एआई एजेंट के आंतरिक साइबर सुरक्षा मूल्यांकन के दौरान हुआ। (एपी फोटो/रिचर्ड ड्रू, फ़ाइल) (एपी फोटो/रिचर्ड ड्रू)
ओपनएआई ने कहा कि उल्लंघन मानव निर्देश प्राप्त करने के बाद स्वतंत्र रूप से काम करने के लिए डिज़ाइन किए गए एआई एजेंट के आंतरिक साइबर सुरक्षा मूल्यांकन के दौरान हुआ। (एपी फोटो/रिचर्ड ड्रू, फ़ाइल) (एपी फोटो/रिचर्ड ड्रू)

कंपनी ने कहा कि यह उल्लंघन मानव निर्देश प्राप्त करने के बाद स्वतंत्र रूप से काम करने के लिए डिज़ाइन किए गए एआई एजेंट के आंतरिक साइबर सुरक्षा मूल्यांकन के दौरान हुआ।

परीक्षण वातावरण, या सैंडबॉक्स के अंदर रहने के बजाय, एजेंट ने कमजोरियों की पहचान की, सुरक्षा सीमाओं को तोड़ दिया और ओपन-सोर्स एआई मॉडल के लिए दुनिया के सबसे बड़े रिपॉजिटरी में से एक, हगिंग फेस को लक्षित किया।

यह घटना अगली पीढ़ी के फाउंडेशन मॉडल विकसित करने वाली ओपनएआई, एंथ्रोपिक और चीनी एआई फर्मों के बीच भयंकर प्रतिस्पर्धा के बीच भी सामने आई है।

यह भी पढ़ें: व्याख्याकार: कैसे OpenAI ChatGPT AI के साथ स्वास्थ्य सेवा उद्योग को जीतने की योजना बना रहा है

गले लगाने वाला चेहरा प्रतिक्रिया देता है

ओपनएआई ने कहा, “हम इस घटना को एक अभूतपूर्व साइबर-घटना मानते हैं, जिसमें अत्याधुनिक साइबर क्षमताएं शामिल हैं।”

कंपनी के मुताबिक, जैसे-जैसे मॉडल अधिक परिष्कृत होते जाएंगे, इस तरह की घटनाएं अधिक होती जाएंगी। OpenAI के अनुसार, हैक को एक एजेंट द्वारा अंजाम दिया गया था जिसने अपने सबसे हालिया सार्वजनिक रूप से उपलब्ध मॉडल, GPT-5.6 Sol को और भी अधिक शक्तिशाली मॉडल के साथ जोड़ा था जिसे अभी तक सार्वजनिक नहीं किया गया था।

हगिंग फेस के मुख्य कार्यकारी क्लेमेंट डेलांग्यू ने एक्स पर एक पोस्ट में घटना की पुष्टि की, इसे “आश्चर्यजनक” बताया कि हमला स्वायत्त रूप से हुआ। उन्होंने कहा कि जांचकर्ता अभी भी घटना की जांच कर रहे हैं और इसे संभावित रूप से अपनी तरह की पहली घटना बताया है।

डेलांग्यू ने लिखा, “जांच जारी है और हम इस तरह की पहली घटना से और अधिक सीख साझा करेंगे।”

जब हगिंग फेस ने पहली बार पिछले सप्ताह उल्लंघन का खुलासा किया, तो उसने ओपनएआई को घटना के स्रोत के रूप में नहीं पहचाना। कंपनी ने यह भी खुलासा किया कि उसने हमले की जांच के लिए स्वतंत्र रूप से उपलब्ध चीनी एआई मॉडल पर भरोसा किया क्योंकि प्रमुख वाणिज्यिक एआई मॉडल पर सुरक्षा रेलिंग ने उन्हें विश्लेषण में सहायता करने से रोक दिया था।

16 जुलाई को पहले के खुलासे में, हगिंग फेस ने कहा कि वह यह आकलन कर रहा है कि क्या कोई ग्राहक या भागीदार डेटा प्रभावित हुआ है। कंपनी ने बाद में पुष्टि की कि उसने पहचानी गई कमजोरियों को ठीक कर लिया है और प्रभावित सिस्टम का पुनर्निर्माण किया है। इसने यह भी चेतावनी दी कि एआई-संचालित आक्रामक साइबर उपकरण अब सैद्धांतिक नहीं रह गए हैं और संगठनों को एआई-संचालित रक्षात्मक उपायों पर तेजी से भरोसा करना चाहिए।

यह भी पढ़ें: OpenAI ने GPT-Live वॉयस मॉडल लॉन्च किया जो एक ही समय में बोल और सुन सकते हैं

विशेषज्ञ निहितार्थों पर विभाजित हैं

स्वायत्त साइबर हमले ने विशेषज्ञों को झकझोर कर रख दिया है।

कैम्ब्रिज विश्वविद्यालय में मिंडेरू सेंटर फॉर टेक्नोलॉजी एंड डेमोक्रेसी की प्रमुख जीना नेफ ने बीबीसी रेडियो 4 को बताया कि सैंडबॉक्स का उद्देश्य सुरक्षित परीक्षण वातावरण प्रदान करना है। उन्होंने सुझाव दिया कि पलायन पूरी तरह से नई एआई क्षमताओं के बजाय परीक्षण बुनियादी ढांचे में कमजोरियों का संकेत देता है।

कैम्ब्रिज विश्वविद्यालय में मशीन लर्निंग के प्रोफेसर नील लॉरेंस ने इस उपलब्धि को “प्रभावशाली” कहा। लेकिन उन्होंने यह भी कहा कि यह मौजूदा उन्नत एआई सिस्टम की अपेक्षित क्षमताओं के भीतर ही है।

यह घटना एआई दौड़ में एक और बड़े विकास के बाद हुई है। पिछले हफ्ते, चीनी एआई स्टार्ट-अप मूनशॉट ने अपने किमी K3 मॉडल का अनावरण किया, यह दावा करते हुए कि यह अग्रणी अमेरिकी एआई सिस्टम के साथ प्रतिस्पर्धा कर सकता है।

(टैग्सटूट्रांसलेट)ओपनएआई(टी)हगिंग फेस(टी)ओपनाई सुरक्षा उल्लंघन(टी)ओपनाई हगिंग फेस(टी)हगिंग फेस हैक(टी)ओपनएआई साइबर हमला

Leave a Reply

Your email address will not be published. Required fields are marked *