सोशल मीडिया पर AI-जनित सामग्री का विनियमन

संदर्भ

सूचना प्रौद्योगिकी मंत्रालय ने 22 अक्टूबर, 2025 को सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया नैतिकता संहिता) नियम, 2021 में संशोधन का मसौदा जारी किया।

AI-जनित सामग्री क्या है

• AI-जनित सामग्री वह जानकारी है जो कृत्रिम बुद्धिमत्ता या एल्गोरिदम का उपयोग करके बनाई, संशोधित या बदली जाती है, और यह प्रामाणिक या सत्य प्रतीत होती है, लेकिन वास्तविकता में यह सत्य या असली (Real) नहीं होती है। 
• इसमें टेक्स्ट, वीडियो, ऑडियो और छवियां शामिल हैं, जो फोटो रियलिस्टिक या गैर-फोटोरियलिस्टिक हो सकती हैं। 
• उदाहरण के लिए, डीपफेक वीडियो, जहां किसी व्यक्ति का चेहरा या आवाज कृत्रिम रूप से बदली जाती है, AI-जनित सामग्री का एक रूप है।

संबंधित चिंताएं

AI-जनित सामग्री से कई सामाजिक और नैतिक समस्याएं उत्पन्न होती हैं:

• डीपफेक का दुरुपयोग: प्रमुख व्यक्तियों की छवियों या आवाज का उपयोग करके बनाए गए डीपफेक व्यक्तिगत गोपनीयता का उल्लंघन करते हैं और सामाजिक गलतफहमियां पैदा करते हैं।
• गलत सूचना: ऐसी सामग्री झूठी खबरें फैलाने, चुनावों में हेरफेर करने या सामाजिक तनाव बढ़ाने के लिए इस्तेमाल हो सकती है।
• विश्वास की कमी: उपयोगकर्ताओं के लिए असली और नकली सामग्री में अंतर करना मुश्किल हो जाता है, जिससे सूचना की विश्वसनीयता कम होती है।
• नैतिक मुद्दे: बिना सहमति के किसी की छवि या आवाज का उपयोग नैतिक रूप से गलत है।

सूचना प्रौद्योगिकी मंत्रालय का प्रस्ताव

मंत्रालय ने AI-जनित सामग्री को नियंत्रित करने के लिए IT नियमों में संशोधन का मसौदा प्रस्तावित किया है। यह प्रस्ताव डीपफेक और अन्य सिंथेटिक सामग्री से उत्पन्न खतरों को संबोधित करने के लिए है। यह प्रस्ताव सोशल मीडिया पर कृत्रिम बुद्धिमत्ता (AI) द्वारा निर्मित "सिंथेटिक" सामग्री की अनिवार्य घोषणा और लेबलिंग पर केंद्रित है।

प्रमुख प्रावधान

• उपयोगकर्ता द्वारा स्व-घोषणा: सोशल मीडिया प्लेटफॉर्म को उपयोगकर्ताओं को यह घोषित करने की सुविधा देनी होगी कि उनकी अपलोड की गई सामग्री AI-जनित है।
• प्लेटफॉर्म की जिम्मेदारी: यदि उपयोगकर्ता घोषणा करने में विफल रहते हैं, तो प्लेटफॉर्म को सक्रिय रूप से ऐसी सामग्री का पता लगाकर उसे लेबल करना होगा।
• लेबलिंग का तरीका: AI-जनित सामग्री पर कम से कम 10% क्षेत्र को कवर करने वाला एक प्रमुख लेबल, मेटाडेटा या पहचानकर्ता होना चाहिए, जो दृश्य या श्रव्य रूप में स्पष्ट हो।
• सामग्री का दायरा: यह नियम टेक्स्ट, वीडियो, ऑडियो और अन्य सभी प्रकार की सिंथेटिक सामग्री पर लागू होगा।

आवश्यकता क्यों

• सामाजिक नुकसान को रोकना: सूचना प्रौद्योगिकी मंत्री अश्विनी वैष्णव के अनुसार, डीपफेक समाज को नुकसान पहुंचा रहे हैं, व्यक्तिगत जीवन और गोपनीयता को प्रभावित कर रहे हैं। लेबलिंग से उपयोगकर्ताओं को असली और नकली सामग्री में अंतर करने में मदद मिलेगी।
• लोकतांत्रिक पारदर्शिता: उपयोगकर्ताओं को यह जानने का अधिकार है कि वे जो सामग्री देख रहे हैं, वह प्रामाणिक है या नहीं, ताकि वे सूचित निर्णय ले सकें।
• पहले की नीति में बदलाव: पहले मंत्रालय का मानना था कि प्रतिरूपण के खिलाफ मौजूदा दंड पर्याप्त हैं, लेकिन अब AI-जनित सामग्री की बढ़ती चुनौतियों के लिए विशिष्ट नियमों की आवश्यकता है।

चुनौतियां

• तकनीकी सीमाएं: सभी AI-जनित सामग्री का सटीक पता लगाना तकनीकी रूप से चुनौतीपूर्ण हो सकता है, खासकर गैर-फोटोरियलिस्टिक सामग्री के लिए।
• उपयोगकर्ता जागरूकता: कई उपयोगकर्ता अपनी सामग्री को AI-जनित घोषित करने के महत्व को नहीं समझ सकते।
• निजता और स्वतंत्रता: अत्यधिक निगरानी या लेबलिंग से उपयोगकर्ताओं की अभिव्यक्ति की स्वतंत्रता पर असर पड़ सकता है।
• वैश्विक समन्वय: विभिन्न देशों में अलग-अलग नियम होने से सोशल मीडिया प्लेटफॉर्म के लिए एकरूपता लागू करना मुश्किल हो सकता है।

आगे की राह

• तकनीकी विकास: प्लेटफॉर्म को उन्नत AI टूल्स विकसित करने होंगे जो सिंथेटिक सामग्री का सटीक और स्वचालित रूप से पता लगा सकें।
• जागरूकता अभियान: उपयोगकर्ताओं को AI-जनित सामग्री के प्रभाव और लेबलिंग के महत्व के बारे में शिक्षित करना होगा।
• वैश्विक सहयोग: भारत को अन्य देशों और अंतरराष्ट्रीय संगठनों के साथ मिलकर AI-जनित सामग्री के लिए वैश्विक मानक स्थापित करने चाहिए।
• नैतिक दिशानिर्देश: AI के उपयोग के लिए नैतिक दिशानिर्देश विकसित किए जाने चाहिए ताकि दुरुपयोग को रोका जा सके।

निष्कर्ष

AI-जनित सामग्री की अनिवार्य लेबलिंग का प्रस्ताव डिजिटल युग में सूचना की प्रामाणिकता सुनिश्चित करने की दिशा में एक महत्वपूर्ण कदम है। यह न केवल डीपफेक से होने वाले नुकसान को कम करेगा, बल्कि उपयोगकर्ताओं को सूचित निर्णय लेने में सक्षम बनाएगा। हालांकि, इसके कार्यान्वयन में तकनीकी और नीतिगत चुनौतियों का समाधान आवश्यक है।