सिंथेटिक सामग्री को नियंत्रित करना और विनियमन की सीमाएँ

कृत्रिम रूप से उत्पन्न जानकारी के तेजी से प्रसार ने दुनिया भर में सरकारों और नियामकों को एआई सिस्टम और आउटपुट के लिए शासन और जवाबदेही ढांचे का सामना करने और उनका आकलन करने के लिए मजबूर किया है। जैसे-जैसे वास्तविक और सिंथेटिक मीडिया के बीच की सीमाएं धुंधली होती जा रही हैं, नीतिगत उपायों को जवाबदेही, नवाचार, गोपनीयता और सार्वजनिक विश्वास की प्रतिस्पर्धी मांगों को संबोधित करना चाहिए।

सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 में भारत का हालिया संशोधन एक अत्यधिक सक्रिय नियामक कदम था। कृत्रिम रूप से उत्पन्न जानकारी की लेबलिंग को अनिवार्य करके, नियामक ढांचा पारदर्शिता बनाने और सिंथेटिक मीडिया द्वारा उत्पन्न जोखिमों को कम करने का प्रयास करता है। पहली नज़र में, तर्क सीधा प्रतीत होता है: यदि उपयोगकर्ताओं को उनके सामने आने वाली सामग्री की प्रकृति के बारे में सूचित किया जाता है, तो वे अधिक सूचित निर्णय ले सकते हैं। फिर भी, इस सीधे नियामक उद्देश्य के पीछे अस्पष्टताओं और व्यावहारिक बाधाओं का एक जटिल जाल है जो कार्यान्वयन को जटिल बनाता है।

केंद्रीय कठिनाइयों में से एक सिंथेटिक सामग्री के दायरे से उत्पन्न होती है। हालांकि नियामक ढांचा प्रौद्योगिकी-तटस्थ रहने का प्रयास करता है, लेकिन यह स्पष्ट रूप से चित्रित करने के लिए संघर्ष करता है कि नियमित या सद्भावना संपादन क्या होता है। ‘कृत्रिम रूप से उत्पन्न जानकारी’ की परिभाषा एक भौतिकता सीमा निर्धारित करती है लेकिन यह स्पष्ट नहीं करती है कि एसजीआई वर्गीकरण को ट्रिगर करने के लिए सामग्री कब महत्वपूर्ण रूप से संशोधित हो जाएगी। स्थायित्व के लिए कोई मानक निर्धारित नहीं हैं, और ‘तकनीकी व्यवहार्यता’ निर्धारित करने के लिए कोई कारक निर्धारित नहीं किए गए हैं।

यह बोझ विशेष रूप से महत्वपूर्ण सोशल मीडिया मध्यस्थों (एसएसएमआई) पर लगाए गए दायित्वों में स्पष्ट है, जिनसे बड़े पैमाने पर सिंथेटिक सामग्री का पता लगाने, लेबल करने और विनियमित करने की उम्मीद की जाती है। यह अपेक्षा कि एसएसएमआई ऐसी सामग्री की विश्वसनीय और सटीक पहचान कर सकते हैं, तकनीकी क्षमता का एक स्तर मानती है जो अभी तक मौजूद नहीं है। जांच प्रणालियां, सुधार के साथ-साथ संभाव्य बनी हुई हैं, जो निश्चितता के बजाय संभावना प्रदान करती हैं। ऐसे माहौल में जहां गैर-अनुपालन की लागत में कानूनी सुरक्षा का नुकसान शामिल हो सकता है, एसएसएमआई को सावधानी बरतने के लिए प्रोत्साहित किया जाता है। इसका परिणाम ओवर-लेबलिंग की प्रवृत्ति होगी, जहां मामूली रूप से परिवर्तित सामग्री को भी सिंथेटिक के रूप में चिह्नित किया जा सकता है, जिससे लेबल का महत्व ही कम हो जाएगा।

संशोधन अंतरसंचालनीयता और छेड़छाड़ के सवाल उठाते हैं। मौजूदा उपकरण प्रतिस्पर्धी उपकरणों का उपयोग करके बनाए गए एसजीआई को सत्यापित करने में सक्षम नहीं हो सकते हैं। जहां एसजीआई का उपयोग एआई सिस्टम में इनपुट के रूप में किया जाता है, वहां आउटपुट उद्गम श्रृंखला को संरक्षित नहीं कर सकता है। ‘ओवरट’ वॉटरमार्क के साथ आसानी से छेड़छाड़ की जा सकती है, और C2PA मेटाडेटा को स्क्रीनशॉट लेकर और EXIF ​​डेटा को हटाकर हटाया जा सकता है।

एसजीआई लेबलिंग की प्रभावशीलता के बारे में भी चिंताएं हैं और क्या यह उन नियामक उद्देश्यों को पूरा करेगा जिन्हें इसे हासिल करना बताया गया है। पहले से ही जानकारी से भरे डिजिटल पारिस्थितिकी तंत्र में, लेबल थकान की संभावना है और इस तरह के खुलासे पृष्ठभूमि शोर बनने का जोखिम उठाते हैं। सामग्री की निरंतर धाराओं को नेविगेट करने के आदी उपयोगकर्ता, आसानी से ऐसे लेबलों को अनदेखा करना सीख सकते हैं, जिससे वे कार्यात्मक रूप से निरर्थक हो जाते हैं। इससे भी बदतर, लेबल की अनुपस्थिति को प्रामाणिकता की गारंटी के रूप में गलत समझा जा सकता है, भले ही सामग्री पहचान से बच गई हो। इस तरह, विश्वास बढ़ाने के लिए बनाया गया तंत्र अनजाने में इसके क्षरण में योगदान दे सकता है।

प्रभावकारिता के सवालों से परे, पारदर्शिता और गोपनीयता के बीच भी महत्वपूर्ण तनाव हैं। मेटाडेटा या अन्य उद्गम मार्करों को एम्बेड करने की आवश्यकता डेटा संग्रह में वृद्धि की संभावना का परिचय देती है, जो डिजिटल पर्सनल डेटा प्रोटेक्शन एक्ट, 2023 में निहित डेटा न्यूनतमकरण के सिद्धांतों के साथ असहज रूप से बैठती है। यह एक नियामक विरोधाभास पैदा करता है जहां सामग्री को अधिक ट्रेस करने योग्य बनाने के प्रयास उपयोगकर्ता की गोपनीयता से समझौता कर सकते हैं।

वैश्विक संदर्भ में विचार करने पर चुनौतियाँ और भी बढ़ जाती हैं। सिंथेटिक सामग्री राष्ट्रीय सीमाओं को नहीं पहचानती है, और न्यायक्षेत्रों में इसका प्रसार खंडित नियामक दृष्टिकोण की सीमाओं को उजागर करता है। चीन के स्तरित लेबलिंग सिस्टम से लेकर अमेरिका के कुछ हिस्सों में नुकसान-आधारित मॉडल तक, विभिन्न देशों ने अलग-अलग रणनीतियों को अपनाया है या अपनाने की सोच रहे हैं। सामान्य नियामक मानकों के अभाव में, सामग्री प्लेटफ़ॉर्म और क्षेत्रों में चलते समय अपनी लेबलिंग खो सकती है, दोहराई जा सकती है या विकृत हो सकती है, जिससे स्थिरता और स्पष्टता का उद्देश्य कमजोर हो सकता है।

तकनीकी प्रणालियाँ तीव्र गति से विकसित हो रही हैं और कठोर ढाँचे थोपने के प्रयास तरल और तेजी से बदलती प्रौद्योगिकियों के लिए अनुपयुक्त हो सकते हैं। नियामक निरीक्षण के मामले को कम करने के लिए नहीं, बल्कि नियामक और नीतिगत उपाय लचीले, अनुकूलनीय और नियामकों और विनियमित संस्थाओं के बीच सहयोगात्मक जुड़ाव के अधीन होने चाहिए। शासन को नियामक और कानूनी नियंत्रण की सीमाओं को स्वीकार करना चाहिए, क्योंकि नियमों की कोई भी प्रणाली अनिश्चितता को पूरी तरह से समाप्त नहीं कर सकती है। स्वैच्छिक उद्योग मानकों को विकसित करना और स्पष्ट उपयोगकर्ता-स्तरीय कर्तव्यों की आवश्यकता शायद ऐसे विकल्प हैं जो अनुदेशात्मक अधिदेशों की तुलना में नवीन, प्रारंभिक उपायों के रूप में बेहतर अनुकूल हैं।

(व्यक्त विचार निजी हैं)

यह लेख एपी एंड पार्टनर्स के पार्टनर लैग्ना पांडाक्स द्वारा लिखा गया है।