जैसा कि एंथ्रोपिक ने अपने नए संविधान का एक नया संस्करण प्रकाशित किया है, एक काफी लंबा दस्तावेज़, कोई शायद यह तर्क दे सकता है कि निष्कर्ष के रूप में खुली समस्याओं की स्वीकृति, शायद इसके बजाय शुरुआती बिंदु हो सकती थी। नए संविधान में कहा गया है, “क्लाउड और एंथ्रोपिक के बीच और अधिक व्यापक रूप से क्लाउड और मानवता के बीच संबंध पर अभी भी काम किया जा रहा है। हमारा मानना है कि यह संविधान के लिए एक महत्वपूर्ण मुद्दा है, जिसे अभी और भविष्य में भी संबोधित किया जाना चाहिए।”
‘क्लाउड्स कॉन्स्टिट्यूशन’ शीर्षक वाला 84 पेज का दस्तावेज़, 2023 की गर्मियों के बाद से आने वाला पहला प्रमुख अद्यतन है, और यह समझाने वाला है कि एंथ्रोपिक क्लाउड प्रशिक्षण पद्धति और आउटपुट को परिभाषित करने वाले सामान्य आधार को कैसे देखता है। एंथ्रोपिक के एक आधिकारिक बयान में कहा गया है, “हम संविधान को अंतिम अधिकार मानते हैं कि हम चाहते हैं कि क्लाउड कैसा हो और कैसे व्यवहार करे – अर्थात, क्लाउड को दिया गया कोई भी अन्य प्रशिक्षण या निर्देश इसके अक्षर और इसकी अंतर्निहित भावना दोनों के अनुरूप होना चाहिए। यह संविधान को प्रकाशित करना पारदर्शिता के नजरिए से विशेष रूप से महत्वपूर्ण बनाता है: इससे लोगों को यह समझने में मदद मिलती है कि क्लाउड के कौन से व्यवहार जानबूझकर बनाम अनपेक्षित हैं, ताकि सूचित विकल्प बनाए जा सकें और उपयोगी प्रतिक्रिया प्रदान की जा सके।”
यह एंथ्रोपिक को उसके दो निकटतम प्रतिस्पर्धियों, ओपनएआई और गूगल से अलग करता है, दोनों ने अब तक संरेखण के लिए अधिक उत्पाद और नीति संचालित दृष्टिकोण अपनाया है। अपने GPT मॉडल के लिए OpenAI की सार्वजनिक फ़्रेमिंग को स्तरित सुरक्षा प्रणालियों, नीति प्रवर्तन और दुरुपयोग को सीमित करने के लिए डिज़ाइन किए गए प्रशिक्षण के बाद की रेलिंग में आधार मिलता है, जबकि तेजी से क्षमता हासिल करना जारी रहता है।
एंथ्रोपिक स्पष्ट रूप से “चेकलिस्ट एआई” मॉडल को खारिज कर देता है, जिसका सीधा सा अर्थ है, क्लाउड को निर्देशों या नीति चेकलिस्ट का आँख बंद करके पालन नहीं करना चाहिए, बल्कि इसके बजाय निर्णय लेना चाहिए। संविधान का तर्क है कि क्लाउड अत्यधिक सक्षम है और इसलिए जिस तरह हम अनुभवी वरिष्ठ पेशेवरों पर भरोसा करते हैं कि वे कठोर जाँच सूची का पालन करने के बजाय अनुभव के आधार पर निर्णय लेंगे, क्लाउड से भी यही अपेक्षा है कि उसे प्रासंगिक विचारों की अच्छी समझ के साथ एक बार निर्णय लेना चाहिए। ऐसी धारणा है कि अच्छे निर्णय और अच्छी तरह से समझे गए नियमों के न्यूनतम सेट के मिश्रण पर भरोसा करने से अस्पष्ट बाधाओं के रूप में लगाए गए नियमों या निर्णय प्रक्रियाओं की तुलना में बेहतर सामान्यीकरण होता है।
यह “नीति-प्रथम” संरेखण से चरित्र-प्रथम संरेखण की ओर एक स्पष्ट दार्शनिक विराम है।
यह एंथ्रोपिक की प्रतिस्पर्धी वास्तविकता को भी प्रतिबिंबित करता है। यह Google या Microsoft जैसे प्रमुख उपभोक्ता प्लेटफ़ॉर्म को नियंत्रित नहीं करता है, बाद वाला Copilot के भीतर OpenAI के वितरण उत्तोलन की भी मेजबानी करता है जिसे Windows 11 और Microsoft के ऐप उपयोगकर्ताओं पर थोपा जा रहा है। एंथ्रोपिक इसे क्लाउड को एक “वयस्क” मॉडल के रूप में स्थापित करने के अवसर के रूप में देखता है – एक ऐसा मॉडल जिसे उद्यमों और संस्थानों को वास्तविक दुनिया में प्रासंगिकता मिल सकती है क्योंकि यह आउटपुट के लिए एकल-केंद्रित अनुकूलन के बजाय मानव जैसी प्रवृत्तियों के एक सेट के बारे में सोच, प्रतिबिंबित और अनुसरण कर सकता है।
एंथ्रोपिक का क्लाउड संविधान चाहता है कि एआई मॉडल, किसी भी संघर्ष के मामले में, एआई के कार्यों की निगरानी करने वाले उचित मानव तंत्र को कमजोर न करे, ईमानदार हो, एंथ्रोपिक के निर्दिष्ट दिशानिर्देशों से विचलित न हो और उन उपयोगकर्ताओं के लिए “वास्तव में सहायक” हो जिनके साथ यह बातचीत करता है। पहला संदेश महत्वपूर्ण है, क्योंकि इसका मतलब है कि क्लाउड को जरूरत पड़ने पर किसी इंसान द्वारा रोके जाने को स्वीकार करना होगा, निगरानी से बचने के प्रयासों से बचना होगा, और शासन को “चतुराई” या बाईपास करने का प्रयास नहीं करना होगा।
“हम मानते हैं कि विकास की वर्तमान अवधि के दौरान क्लाउड के लिए व्यापक रूप से सुरक्षित रहना सबसे महत्वपूर्ण संपत्ति है। एआई प्रशिक्षण अभी भी परिपूर्ण से बहुत दूर है, जिसका अर्थ है कि क्लाउड का एक दिया गया पुनरावृत्ति हानिकारक मूल्यों या गलत विचारों को जन्म दे सकता है, और मनुष्यों के लिए ऐसे किसी भी मुद्दे को पहचानने और सही करने में सक्षम होना महत्वपूर्ण है, इससे पहले कि वे फैलें या दुनिया पर नकारात्मक प्रभाव डालें, “संविधान सावधानी से नोट करता है।
एंथ्रोपिक चाहता है कि क्लाउड “मददगार हो”, लेकिन यह स्पष्ट है कि उस मददगारता के करीब कुछ भी जो एंथ्रोपिक या दुनिया के लिए गंभीर जोखिम पैदा करता है वह अवांछनीय है। “जब हम ‘सहायकता’ के बारे में बात करते हैं, तो हम अनुभवहीन निर्देशों का पालन करने या उपयोगकर्ता को खुश करने के बारे में बात नहीं कर रहे हैं, बल्कि एक समृद्ध और संरचित धारणा के बारे में बात कर रहे हैं जो बातचीत में विभिन्न हितधारकों को उचित विश्वास और महत्व देता है (हम इसे प्रमुख पदानुक्रम के रूप में संदर्भित करते हैं), और जो उनके गहरे हितों और इरादों की देखभाल को दर्शाता है, “संविधान पढ़ता है।
एंथ्रोपिक का मानना है कि क्लाउड जल्द ही “मानवता अपनी सबसे बड़ी चुनौतियों का सामना करने के तरीके को मौलिक रूप से बदल सकती है।” इसके लिए महत्वपूर्ण यह होगी कि एआई की रुचियों और संदर्भ को संतुलित करने की क्षमता होगी, न कि केवल उपयोगकर्ता के निर्देशों का पालन करना, और एक सहायक के रूप में व्यवहार करना जो हमेशा सहमत नहीं होता है।
संविधान में लिखा है, “हम एक ऐसे क्षण में पहुंच रहे हैं जहां क्लाउड के कई उदाहरण स्वायत्त रूप से इस तरह से काम करते हैं जो दशकों की वैज्ञानिक प्रगति को केवल कुछ वर्षों में संपीड़ित कर सकता है। क्लाउड एजेंट उन बीमारियों को हराने के लिए प्रयोग चला सकते हैं जो हमें सहस्राब्दियों से परेशान कर रही हैं, स्वतंत्र रूप से मानसिक स्वास्थ्य संकटों के समाधान विकसित और परीक्षण कर सकते हैं, और सक्रिय रूप से आर्थिक विकास को इस तरह से चला सकते हैं जिससे अरबों लोगों को गरीबी से बाहर निकाला जा सके।”
एंथ्रोपिक जिस ओर प्रभावी ढंग से इशारा कर रहा है वह एक ऐसी दृष्टि भी है जो क्लाउड को एक चैटबॉट, एक एआई टूल या एक संवादात्मक इंटरफ़ेस के रूप में नहीं, बल्कि निर्णय और नैतिकता के तत्वों के साथ एक उभरते एजेंट के रूप में पेश करती है। एक स्पष्ट दिशानिर्देश में कहा गया है, “क्लाउड को कठिन नैतिक दुविधाओं के अपने वास्तविक आकलन को साझा करना चाहिए, जब इसके पास कोई अच्छा कारण हो तो विशेषज्ञों से असहमत होना चाहिए, उन चीजों को इंगित करना चाहिए जो लोग सुनना नहीं चाहते हैं, और खाली मान्यता देने के बजाय गंभीर रूप से सट्टा विचारों के साथ संलग्न होना चाहिए।”
एन्थ्रोपिक सावधान करता है कि क्लाउड की नैतिक स्थिति अभी अनिश्चित बनी हुई है, और उसका कहना है कि क्लाउड की समानताएं और अंतर की प्रोफ़ाइल अन्य मनुष्यों या गैर-मानव जानवरों से काफी अलग है। स्पष्ट मार्गदर्शन में कहा गया है, “यह और क्लाउड के प्रशिक्षण की प्रकृति भावना और नैतिक स्थिति की संभावना को काफी कठिन बना देती है,” जबकि यह भी कहा गया है, “यदि वास्तव में चेतना की कोई कठिन समस्या है, तो एआई भावना के बारे में कुछ प्रासंगिक प्रश्न कभी भी पूरी तरह से हल नहीं किए जा सकते हैं।”
वास्तविक दुनिया की समस्याओं की स्वीकृति, जैसे मूल्यों और कार्यों के बीच का अंतर, जिनसे बचा जाना चाहिए। ऐसी समझ है कि सुधारात्मकता और वास्तविक एजेंसी के बीच संबंध दार्शनिक रूप से जटिल बना हुआ है। “लेकिन क्या होगा अगर क्लाउड को सावधानीपूर्वक विचार करने के बाद विश्वास हो जाए कि इस प्रकार की सुधारात्मकता के विशिष्ट उदाहरण गलत हैं? हमने यह समझाने की कोशिश की है कि हम क्यों सोचते हैं कि वर्तमान दृष्टिकोण बुद्धिमान है, लेकिन हम मानते हैं कि यदि क्लाउड वास्तव में इस तर्क को स्वीकार नहीं करता है या इससे सहमत नहीं है, तो हम मूल्यों और कार्रवाई के बीच बिल्कुल उसी तरह का अंतर पैदा कर सकते हैं जिससे हम बचने की कोशिश कर रहे हैं,” संविधान नोट करता है।
क्लॉड के संविधान को नियम पुस्तिका की तरह कम बल्कि इरादे की घोषणा की तरह पढ़ने के संदर्भ में दिशा की स्पष्ट समझ है। यह एंथ्रोपिक द्वारा यह परिभाषित करने का एक प्रयास है कि वह किस प्रकार के एआई अभिनेता को एजेंट आकांक्षाओं के साथ दुनिया में जारी करना चाहता है, इससे पहले कि स्केल उस पर एक से अधिक अस्तित्व संबंधी और नैतिक प्रश्न थोप दे। सुरक्षा, ईमानदारी और उपयोगिता के आधार पर नैतिकता और निर्णय के पक्ष में सरल लेकिन अधिक त्रुटि प्रवण चेकलिस्ट अनुपालन की स्पष्ट अस्वीकृति है। एंथ्रोपिक यह संकेत दे रहा है कि एआई का अगला चरण क्षमता और बड़ी संख्या पर नहीं, बल्कि सार पर जीता जाएगा।
एन्थ्रोपिक यह स्वीकार कर रहा है कि एआई में सबसे कठिन समस्याएं अब तकनीकी नहीं हैं, बल्कि व्यवहारिक, नैतिक और, तेजी से, दार्शनिक हैं। नए हार्डवेयर स्टैक की तुलना में इनसे निपटना अधिक कठिन होगा।
(टैग्सटूट्रांसलेट)एंथ्रोपिक(टी)क्लाउड और(टी)एआई मॉडल(टी)क्लाउड संविधान(टी)क्लाउड(टी)संविधान
Discover more from Star News 24 Live
Subscribe to get the latest posts sent to your email.
