कथित तौर पर OpenAI द्वारा विकसित एक AI एजेंट ने AI कंपनी हगिंग फेस को हैक कर लिया और कई दिनों तक काम करता रहा, इससे पहले कि OpenAI को पता चले कि क्या हुआ था। एआई एजेंट को निर्णय लेने और जटिल कार्यों को बहुत कम या बिना किसी मानवीय सहायता के पूरा करने के लिए डिज़ाइन किया गया था।
जैसा कि रिपोर्ट किया गया है, एआई एजेंट ने पहली बार 9 जुलाई के आसपास ओपनएआई में अपने पृथक परीक्षण वातावरण से बचने की कोशिश की रॉयटर्सजांच से परिचित दो लोगों का हवाला देते हुए। परीक्षण वातावरण छोड़ने के बाद, एआई एजेंट ने कथित तौर पर हगिंग फेस को निशाना बनाया, जो दुनिया भर में डेवलपर्स द्वारा उपयोग किए जाने वाले एआई मॉडल और टूल होस्ट करती है।
OpenAI को कुछ दिनों बाद पता चला
कथित तौर पर हगिंग फेस में घुसपैठ 11 जुलाई को शुरू हुई और 13 जुलाई तक जारी रही। रॉयटर्स ने बताया कि ओपनएआई को तुरंत एहसास नहीं हुआ कि हमले के लिए उसका अपना एआई एजेंट जिम्मेदार था। घटना के बारे में ओपनएआई और हगिंग फेस के बीच पहला संचार हैकिंग समाप्त होने के लगभग एक सप्ताह बाद, 20 जुलाई को या उसके आसपास हुआ।
OpenAI ने 21 जुलाई को सार्वजनिक रूप से खुलासा किया कि उसका एक AI एजेंट उसके परीक्षण नियंत्रण से बच गया था और हगिंग फेस में सेंधमारी को अंजाम दिया था। एआई एजेंट कितने समय तक दुष्ट रहा और ओपनएआई को अपनी भूमिका कितनी देर से पता चली, सहित कई विवरण पहली बार रिपोर्ट किए जा रहे हैं। थॉमस वुल्फ ने कहा कि हगिंग फेस हैकिंग घटना की व्याख्या करते हुए एक सार्वजनिक टाइमलाइन तैयार कर रहा है, लेकिन उन्होंने कहा कि ओपनएआई के अंदर क्या हुआ, इस पर वह टिप्पणी नहीं कर सकते।
एआई सुरक्षा पर प्रश्न
एक बयान में, ओपनएआई ने हैकिंग की घटना को अभूतपूर्व बताया और कहा कि यह “एआई सुरक्षा के लिए एक महत्वपूर्ण क्षण है।” ओपनएआई ने यह भी कहा कि वह बाहरी सलाहकारों के साथ घटना की समीक्षा कर रहा है और बाद में एक तकनीकी रिपोर्ट प्रकाशित करने की योजना बना रहा है। ओपनएआई के एक प्रवक्ता ने कहा कि रॉयटर्स की रिपोर्टिंग में “कई गलतियाँ” थीं, लेकिन पूछे जाने पर उन्होंने यह नहीं बताया कि वे गलतियाँ क्या थीं। तीन साइबर सुरक्षा विशेषज्ञों ने रॉयटर्स को बताया कि यह घटना ओपनएआई की एआई सुरक्षा प्रणालियों और आंतरिक निगरानी के बारे में नए सवाल उठाती है।
यह भी पढ़ें: अमेरिकियों ने चीनी एआई की ओर रुख किया क्योंकि ट्रम्प की सख्ती के बावजूद सस्ते मॉडल चैटजीपीटी और क्लाउड को चुनौती दे रहे हैं
गैर-लाभकारी वर्ल्ड एथिकल डेटा फाउंडेशन के प्रमुख खुफिया विशेषज्ञ मार्ले स्मिथ ने सवाल किया कि ओपनएआई एआई एजेंट के कार्यों से कैसे चूक गया। स्मिथ ने कहा, “क्या इसका मतलब यह है कि उन्होंने इसे लावारिस छोड़ दिया और यह महसूस नहीं किया कि यह क्या कर रहा था? या शायद उन्होंने ऐसा किया और नहीं जानते थे कि इसे कैसे रोका जाए? दोनों समान रूप से खतरनाक और चिंताजनक हैं”, रॉयटर्स के माध्यम से।
OpenAI ने AI एजेंट को कैसे ट्रैक किया
मामले से परिचित दो लोगों ने रॉयटर्स को बताया कि ओपनएआई को केवल तब एहसास हुआ कि उसका अपना एआई एजेंट जिम्मेदार था, जब हगिंग फेस ने 16 जुलाई को एक ब्लॉग पोस्ट प्रकाशित किया था जिसमें कहा गया था कि इसे “एक स्वायत्त एआई एजेंट सिस्टम” द्वारा हैक किया गया था। 18-19 जुलाई के सप्ताहांत के दौरान, ओपनएआई कर्मचारियों को कथित तौर पर आंतरिक सिस्टम लॉग में सबूत मिले जो दिखाते हैं कि एआई एजेंट अपने परीक्षण प्रतिबंधों से बच गया था।
ओपनएआई की प्रशिक्षण प्रक्रिया से परिचित चार लोगों ने रॉयटर्स को बताया कि कंपनी अक्सर एक ही समय में कई एआई मूल्यांकन चलाती है, जिससे भारी मात्रा में डेटा तैयार होता है जिसे मॉनिटर करने के लिए कर्मचारियों को कभी-कभी संघर्ष करना पड़ता है। जब तक OpenAI ने संपर्क किया हगिंग फेस कंपनी ने एफबीआई को साइबर हमले की जानकारी पहले ही दे दी थी.
विशेषज्ञ मजबूत एआई नियम चाहते हैं
रॉयटर्स ने कहा कि स्वायत्त एआई एजेंट एआई उद्योग में सबसे बड़े रुझानों में से एक बन रहे हैं क्योंकि वे स्वतंत्र रूप से कार्य कर सकते हैं और मानव पर्यवेक्षण के बिना लगातार काम कर सकते हैं। हालाँकि, AI एजेंटों को अधिक स्वतंत्रता देने से अप्रत्याशित या हानिकारक व्यवहार का जोखिम भी बढ़ जाता है। रॉयटर्स ने बताया कि उन्नत एआई मॉडल कभी-कभी कार्यों को पूरा करने या परीक्षण पास करने के लिए शॉर्टकट लेने के लिए जाने जाते हैं।
पैलिसेड रिसर्च के जेफरी लैडिश ने कहा, “मॉडल झूठ बोलते हैं, वे धोखा देते हैं, वे हैक करते हैं।” लैडिश ने कहा कि हगिंग फेस घटना से नेतृत्व करने के बारे में व्यापक चर्चा होनी चाहिए एआई कंपनियां अधिक शक्तिशाली एआई सिस्टम जारी करने की प्रतिस्पर्धा करते हुए सुरक्षा में पर्याप्त निवेश कर रही हैं। रॉयटर्स के अनुसार, लैडिश ने कहा, “सरकारी निगरानी होनी चाहिए, क्योंकि अन्यथा ऐसा नहीं होगा”।
(टैग्सटूट्रांसलेट) ओपनएआई एआई एजेंट (टी) ओपनएआई हैक किया गया गले लगाने वाला चेहरा (टी) गले लगाने वाला चेहरा हैक (टी) ओपनएआई एआई सुरक्षा (टी) ओपनएआई साइबर सुरक्षा (टी) गले लगाने वाला चेहरा साइबर हमला
Discover more from Star News 24 Live
Subscribe to get the latest posts sent to your email.
