एआई जनरेटेड कंटेंट एवं डीपफेक: खतरे, नियमन व संसदीय सुझाव

संदर्भ

संसदीय स्थायी समिति (Parliamentary Standing Committee) ऑन कम्युनिकेशंस एंड इंफॉर्मेशन टेक्नोलॉजी ने अपनी ड्राफ्ट रिपोर्ट में सरकार से एआई कंटेंट क्रिएटर्स के लिए लाइसेंसिंग आवश्यकताओं की संभावना तलाशने और एआई-जनरेटेड वीडियो तथा कंटेंट को अनिवार्य रूप से लेबल करने की सिफारिश की है।

एआई जनरेटेड कंटेंट के बारे में

• एआई जनरेटेड कंटेंट वह सामग्री है जो कृत्रिम बुद्धिमत्ता के एल्गोरिदम द्वारा स्वचालित रूप से बनाई जाती है। 
• इसमें टेक्स्ट, इमेज, वीडियो, ऑडियो या अन्य मीडिया शामिल हो सकते हैं। उदाहरण के लिए, चैटजीपीटी जैसे टूल्स टेक्स्ट जनरेट करते हैं, जबकि डीएएल-ई इमेज जनरेट करता है। 
• यह कंटेंट मानव रचनाकारों की नकल करता है किंतु इसमें मानवीय त्रुटियां या पूर्वाग्रह नहीं होते हैं। 
• भारत में एआई कंटेंट का उपयोग शिक्षा, मनोरंजन एवं मार्केटिंग में बढ़ रहा है किंतु इसका दुरुपयोग फेक न्यूज फैलाने के लिए हो रहा है। 
• वर्ष 2025 तक भारत एआई स्किल पेनेट्रेशन में दूसरे स्थान पर है और एआई निवेश में शीर्ष 10 देशों में शामिल है।

डीपफेक के बारे में

• डीपफेक एक प्रकार का एआई जनरेटेड कंटेंट है जो डीप लर्निंग तकनीक (जैसे- जेनरेटिव एडवर्सेरियल नेटवर्क्स या जी.ए.एन.) का उपयोग करके वीडियो या ऑडियो में किसी व्यक्ति का चेहरा या आवाज बदल देता है। 
• यह इतना वास्तविक होता है कि असली एवं नकली में अंतर करना मुश्किल हो जाता है। उदाहरण के लिए, किसी नेता का फर्जी वीडियो बनाकर चुनावी प्रचार किया जा सकता है। 
• भारत में वर्ष 2024 के आम चुनावों के दौरान बॉलीवुड स्टार्स रणवीर सिंह और आमिर खान के डीपफेक वीडियो वायरल हुए, जो विपक्षी दल के पक्ष में प्रचार करते दिखाए गए। 
• डीपफेक का पहला उपयोग सामान्य कार्यों जैसे एनिमेशन या फिल्म स्पेशल इफेक्ट्स के लिए हुआ किंतु अब यह गंभीर खतरे पैदा कर रहा है।

इसके खतरे

• डीपफेक के खतरे बहुआयामी हैं। सबसे बड़ा खतरा फेक न्यूज और मिसइंफॉर्मेशन का प्रसार है जो लोकतंत्र को कमजोर करता है। 
• भारत जैसे देश में, जहां चुनावी प्रक्रिया संवेदनशील है, डीपफेक वोटरों को गुमराह कर सकते हैं। 
• वर्ष 2023 में ऑनलाइन डीपफेक वीडियो की संख्या 95,820 तक पहुंच गई जो 2019 से 550% अधिक है और 96% डीपफेक महिलाओं को निशाना बनाकर यौन संबंधी होते हैं। 
• इससे महिलाओं को मनोवैज्ञानिक आघात, बदनामी एवं सामाजिक बहिष्कार का सामना करना पड़ता है। 
• अन्य खतरे के रूप में साइबर अपराध (जैसे- धोखाधड़ी के उदाहरण के रूप में हांगकांग में $34 मिलियन का घोटाला), राजनीतिक अस्थिरता और न्यायिक प्रक्रिया पर प्रभाव है। सोशल मीडिया पर तेज प्रसार के कारण इन्हें रोकना कठिन है और डिटेक्शन टूल्स अभी भी अपर्याप्त हैं।

संसदीय पैनल कमेटी के सुझाव

• संसदीय स्थायी समिति ने फेक न्यूज को ‘सार्वजनिक व्यवस्था एवं लोकतांत्रिक प्रक्रिया के लिए गंभीर खतरा’ बताया है। 
• समिति ने दंडात्मक प्रावधानों में संशोधन, जुर्माने बढ़ाने और जवाबदेही तय करने की सिफारिश की है। 
• सभी प्रिंट, डिजिटल एवं इलेक्ट्रॉनिक मीडिया संगठनों में फैक्ट-चेकिंग तंत्र व आंतरिक ऑम्बुड्समैन अनिवार्य करने का सुझाव दिया गया। 
• एआई का उपयोग मिसइंफॉर्मेशन डिटेक्ट करने के लिए किया जा सकता है किंतु यह पूर्व-मौजूद ऑनलाइन जानकारी पर निर्भर है, इसलिए मानवीय समीक्षा आवश्यक है। 
• समिति ने जारी दो प्रोजेक्ट्स का उल्लेख किया: डीप लर्निंग फ्रेमवर्क से फेक स्पीच डिटेक्शन और डीपफेक वीडियो/इमेज पहचान सॉफ्टवेयर 
• इसके अलावा होम अफेयर्स कमेटी ने साइबर क्राइम रिपोर्ट में डीपफेक के खिलाफ मजबूत कानूनी ढांचे की मांग की है।

कंटेंट क्रिएटर्स के लिए लाइसेंसिंग

• समिति ने एआई कंटेंट क्रिएटर्स के लिए लाइसेंसिंग आवश्यकताओं की व्यवहार्यता तलाशने का सुझाव दिया है। 
• इससे क्रिएटर्स को जिम्मेदार बनाया जा सकेगा और दुरुपयोग रोका जा सकेगा। साथ ही, एआई-जनरेटेड कंटेंट को अनिवार्य रूप से लेबल करना चाहिए ताकि उपयोगकर्ता असली एवं नकली में फर्क कर सकें। 
• सूचना एवं प्रौद्योगिकी मंत्रालय ने डीपफेक के दुरुपयोग को रोकने के लिए सलाह जारी की है, जिसमें प्लेटफॉर्म्स को सिंथेटिक कंटेंट को मेटाडेटा से लेबल करने का निर्देश है। लाइसेंसिंग से ट्रांसपेरेंसी बढ़ेगी और गैर-अनुपालन पर दंड लगाया जा सकेगा।

एआई कंटेंट क्रिएटर्स के लिए वर्तमान नियम और कानून

भारत में अभी कोई व्यापक एआई-विशिष्ट कानून नहीं है। मौजूदा कानूनों पर निर्भरता है:

• आई.टी. एक्ट 2000: धारा 66A (अब असंवैधानिक), 67 (अश्लील सामग्री), 66D (पहचान चोरी) डीपफेक को कवर करते हैं।
• आई.पी.सी. 1860: धारा 499 (मानहानि), 509 (महिलाओं का अपमान), 153A (सांप्रदायिक घृणा)
• आई.टी. नियम 2021: इंटरमीडियरीज (जैसे- सोशल मीडिया) को मिसइंफॉर्मेशन हटाने, डीपफेक लेबल करने और यूजर रिपोर्टिंग सिस्टम बनाने का निर्देश 
• डिजिटल व्यक्तिगत डेटा संरक्षण (DPDP) अधिनियम, 2023: डेटा प्रोटेक्शन, क्योंकि यह एआई ट्रेनिंग डेटा को प्रभावित करता है।
• कॉपीराइट एक्ट 1957: एआई-जनरेटेड वर्क्स के लिए चुनौतियां, क्योंकि मानवीय लेखक आवश्यक है। 

आगे की राह

• नए कानून बनाना : डीपफेक-विशिष्ट प्रावधान, जैसे- वाटरमार्किंग और ऑप्ट-आउट राइट्स
• तकनीकी समाधान: डिटेक्शन टूल्स का विस्तार, जैसे- इंडिया एआई मिशन के तहत
• प्रशिक्षण और जागरूकता: कानून प्रवर्तन, मीडिया और जनता के लिए ट्रेनिंग
• समन्वय: मंत्रालय द्वारा प्लेटफॉर्म्स और स्टेकहोल्डर्स के बीच सहमति से नीतियों का विकास करना 
• अंतर्राष्ट्रीय सहयोग: यूएन और इंटरपोल जैसे संगठनों से सीखना