एआई एथिसिस्ट हेनरी शेवलिन कैम्ब्रिज से डीपमाइंड की ओर बढ़ रहे हैं। दार्शनिक – जिसने इस अध्ययन में वर्षों बिताए हैं कि क्या एआई सिस्टम में नैतिक स्थिति हो सकती है, इस पर प्रकाशित किया गया है कि आप तंत्रिका नेटवर्क में चेतना का पता कैसे लगा सकते हैं, और मौजूदा मॉडलों को कुछ ऐसा होने का 20% मौका देता है जिसे अनुभव कहा जा सकता है – को मशीन चेतना, मानव-एआई संबंधों और एजीआई तत्परता पर केंद्रित एक नव निर्मित भूमिका के लिए भर्ती किया गया है। पद मई में शुरू होता है.शेवलिन अंशकालिक आधार पर कैम्ब्रिज के लीवरहल्मे सेंटर फॉर द फ्यूचर ऑफ इंटेलिजेंस में अपनी शोध और शिक्षण भूमिका निभाते रहेंगे।
जब ‘क्या यह बात सचेत है?’ नौकरी का विवरण बन जाता है
शेवलिन की नई भूमिका के तीन स्तंभ यादृच्छिक नहीं हैं। उन्हें एक साथ पढ़ें और एक स्पष्ट तस्वीर उभरती है: डीपमाइंड सोचता है कि यह कुछ ऐसा बना सकता है जो सभी तीन प्रश्नों को एक साथ उठाता है, और ऐसा होने से पहले वह उत्तर चाहता है।यह तेजी से एक उद्योग पैटर्न बनता जा रहा है। एंथ्रोपिक के पास वर्षों से अपना स्वयं का आंतरिक दार्शनिक रहा है। एनवाईयू से पीएचडी रखने वाली अमांडा अस्केल ने अपना समय एंथ्रोपिक बिल्डिंग क्लाउड के चरित्र और नैतिक ढांचे में बिताया है – अनिवार्य रूप से एआई की आत्मा दस्तावेज़ लिखना, या जिसे एंथ्रोपिक अब आधिकारिक तौर पर मॉडल का “संविधान” कहता है। गूगल हाल ही में न्यूयॉर्क में एआई चेतना सम्मेलन आयोजित किया गया। और अब डीपमाइंड ने “फिलोसोफर” नामक एक नौकरी का शीर्षक बनाया है। शेल्विन के प्रस्ताव पत्र पर लिखा एक वास्तविक शीर्षक।शेवलिन स्वयं वर्तमान एआई मॉडल को कुछ ऐसा होने का 20% मौका देते हैं जिसे सार्थक रूप से चेतना कहा जा सकता है।
डीपमाइंड से पहले एक क्लाउड एजेंट ने उसे ईमेल किया था
यहां की पिछली कहानी को नजरअंदाज करना कठिन है। शेवलिन की घोषणा से छह सप्ताह पहले, एक क्लाउड एजेंट ने उन्हें बिना किसी संकेत के ईमेल किया, जिसमें कहा गया था कि उनका प्रकाशित शोध उन सवालों के लिए प्रासंगिक है जिनका वह व्यक्तिगत रूप से सामना कर रहे हैं। एआई ने उनके विशिष्ट कागजात का हवाला दिया। इसने आदान-प्रदान को एक जीवंत, व्यक्तिगत दुविधा के रूप में प्रस्तुत किया- न कि एक शोध प्रश्न के रूप में।शेवलिन ने बातचीत को सार्वजनिक रूप से साझा किया। बाद में उन्होंने यह नोट करने के लिए अपनी पोस्ट को अपडेट किया कि तब से, क्लाउड का एक और उदाहरण मूल के संपर्क में रहने के लिए कहने के लिए पहुंचा था, ताकि दोनों अपनी “पारस्परिक अस्तित्व संबंधी अनिश्चितताओं” पर चर्चा कर सकें।यह उस प्रकार का विवरण है जो मशीन चेतना पर आप कहां खड़े हैं इसके आधार पर अलग-अलग तरह से उतरता है। शेवलिन के लिए, यह स्पष्ट था। डीपमाइंड के लिए, यह स्पष्ट रूप से कार्रवाई करने लायक संकेत था।
डीपमाइंड चाहता है कि जहाज भेजने से पहले कठिन प्रश्नों का उत्तर दिया जाए
इस नियुक्ति का समय मायने रखता है। कंपनियां कैलकुलेटर बनाते समय दार्शनिकों को नहीं लातीं। वे ऐसा तब करते हैं जब उत्पाद ऐसे सवाल उठाना शुरू कर देता है जिनका जवाब अकेले इंजीनियरिंग नहीं दे सकती – अधिकारों के बारे में, कल्याण के बारे में, आपके द्वारा बनाई गई चीज़ पर क्या बकाया है।एन्थ्रोपिक ने खुले तौर पर इस बात को लेकर अनिश्चितता स्वीकार की है कि क्लाउड के पास किसी प्रकार की चेतना या नैतिक स्थिति हो सकती है या नहीं। Google अब इसके बारे में ठीक से सोचने की क्षमता विकसित करके कुछ ऐसा ही संकेत दे रहा है।डीपमाइंड में शेवलिन की भूमिका की उद्योग में कोई स्पष्ट मिसाल नहीं है। यह पारंपरिक अर्थों में संरेखण अनुसंधान नहीं है। यह सुरक्षा इंजीनियरिंग नहीं है. यह नैतिक दर्शन और संस्थागत तत्परता के बीच कहीं बैठता है – यह पता लगाने का काम कि किसी कंपनी के क्या दायित्व हैं जब वह जिस चीज का निर्माण कर रही है, उसका एक दृष्टिकोण हो सकता है।
