ओपनएआई ने अपने विशेष बायो बग बाउंटी प्रोग्राम के तहत अधिकतम इनाम को दोगुना कर 50,000 डॉलर कर दिया है, क्योंकि चैटजीपीटी निर्माता अपने सबसे उन्नत कृत्रिम बुद्धिमत्ता मॉडल के आसपास सुरक्षा उपायों को मजबूत करना चाहता है।
कंपनी ने कहा कि उच्चतम भुगतान उन शोधकर्ताओं को दिया जाएगा जो एक सार्वभौमिक जैव सुरक्षा जेलब्रेक की खोज करते हैं – एक संकेत या तकनीक जो लगातार मॉडल की सुरक्षा रेलिंग को बायपास करती है और इसे प्रतिबंधित जीव विज्ञान से संबंधित जानकारी उत्पन्न करने में सक्षम बनाती है।
यह कदम उस कार्यक्रम के विस्तार का प्रतीक है जिसे शुरू में GPT-5.5 के लिए एक सीमित चुनौती के रूप में लॉन्च किया गया था। OpenAI ने कहा कि वह अब इसे एक स्थायी पहल में बदल रहा है, इसके नवीनतम फ्रंटियर मॉडल GPT-5.6 पर परीक्षण शुरू हो रहा है। कंपनी ने कहा कि लक्ष्य वास्तविक दुनिया में शोषण से पहले कमजोरियों की लगातार पहचान करना और उन्हें ठीक करना है।
सॉफ़्टवेयर कमजोरियों पर ध्यान केंद्रित करने वाले पारंपरिक बग बाउंटी कार्यक्रमों के विपरीत, बायो बग बाउंटी को एआई मॉडल के सुरक्षा व्यवहार में कमजोरियों को उजागर करने के लिए डिज़ाइन किया गया है। शोधकर्ताओं को ऐसे संकेत या तरीके खोजने के लिए कहा जाता है जो मॉडल की जैविक सुरक्षा सुरक्षा को विश्वसनीय रूप से पराजित करते हैं, जिससे ओपनएआई को दुरुपयोग के खिलाफ अपनी सुरक्षा में सुधार करने में मदद मिलती है।
कार्यक्रम में भागीदारी प्रतिबंधित है. इच्छुक शोधकर्ताओं को परीक्षण वातावरण तक पहुंच प्राप्त करने से पहले आवेदन करना होगा, ओपनएआई के पात्रता मानदंडों को पूरा करना होगा और एक गैर-प्रकटीकरण समझौते पर हस्ताक्षर करना होगा। कंपनी ने कहा कि वह उन निष्कर्षों के लिए छोटे पुरस्कार भी जारी कर सकती है जो पूरी तरह से सार्वभौमिक जेलब्रेक के रूप में योग्य नहीं हैं लेकिन फिर भी मॉडल सुरक्षा में सुधार के लिए उपयोगी अंतर्दृष्टि प्रदान करते हैं।
ओपनएआई ने रिलीज़ से पहले और बाद में अपने एआई सिस्टम के तनाव-परीक्षण के लिए बाहरी शोधकर्ताओं पर भरोसा किया है। इनाम में नवीनतम वृद्धि एआई सुरक्षा के बढ़ते महत्व को दर्शाती है क्योंकि मॉडल अधिक सक्षम हो गए हैं और दुनिया भर में लाखों लोगों द्वारा इसका उपयोग किया जाता है।
फ्रंटियर एआई सिस्टम के आसपास सुरक्षा उपायों को मजबूत करने के व्यापक उद्योग प्रयासों के बीच यह घोषणा की गई है। जैसे-जैसे कंपनियां अधिक शक्तिशाली मॉडल बनाने की होड़ में हैं, सरकारों और स्वतंत्र विशेषज्ञों ने बार-बार ऐसी प्रणालियों को बड़े पैमाने पर तैनात करने से पहले संभावित जोखिमों की पहचान करने के लिए कठोर परीक्षण की मांग की है।
Discover more from Star News 24 Live
Subscribe to get the latest posts sent to your email.
