सरकार कृत्रिम बुद्धिमत्ता (एआई) द्वारा संचालित डीपफेक, जिसमें सिंथेटिक ऑडियो, वीडियो और टेक्स्ट शामिल हैं, से उत्पन्न खतरों के प्रति सचेत है। ऐसी सामग्री किसी व्यक्ति की गरिमा, प्रतिष्ठा और निजता के अधिकार को गंभीर रूप से प्रभावित कर सकती है। यह सोशल मीडिया की विस्‍तारित भूमिका को लेकर भी चिंताएँ पैदा करती है।

उपयोगकर्ताओं के लिए एक खुला, सुरक्षित, विश्वसनीय और जवाबदेह साइबरस्पेस सुनिश्चित करने के उद्देश्य से, सरकार ने डीपफेक चुनौती के विभिन्न पहलुओं का समाधान करने वाले निम्नलिखित कानून बनाए हैं:

सूचना प्रौद्योगिकी कानून, 2000 (“आईटी कानून”)

पहचान की चोरी (धारा 66सी), छद्मवेश (धारा 66डी), गोपनीयता का उल्लंघन (धारा 66ई), अश्लील या यौन रूप से स्पष्ट सामग्री का प्रकाशन या प्रसारण (धारा 67, 67ए) जैसे अपराधों को शामिल करता है।

विशिष्ट जानकारी/लिंक तक पहुँच अवरुद्ध करने के लिए मध्यस्थों को अवरोधन आदेश जारी करने का प्रावधान (धारा 69ए)

गैरकानूनी कार्य करने के लिए उपयोग की जा रही जानकारी को हटाने के लिए मध्यस्थों को नोटिस जारी करने का प्रावधान (धारा 79)

सूचना प्रौद्योगिकी (मध्यवर्ती दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 (“आईटी नियम, 2021”) – प्लेटफ़ॉर्म जवाबदेही सुनिश्चित करना

● इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय ("एमईआईटीवाई") ने संबंधित हितधारकों के साथ व्यापक परामर्श के बाद, एआई सहित प्रौद्योगिकियों के दुरुपयोग से उभरते नुकसान को दूर करने के लिए आईटी नियम, 2021 (2022 और 2023 में संशोधित) को अधिसूचित किया।

● नियम मध्यस्थों को उचित सावधानी बरतने और स्वयं या उनके उपयोगकर्ताओं द्वारा गैरकानूनी सामग्री की मेजबानी या प्रसारण को रोकने का आदेश देते हैं

डिजिटल व्यक्तिगत डेटा संरक्षण कानून, 2023 ("डीपीडीपी कानून") - यह सुनिश्चित करता है कि व्यक्तिगत डेटा को डेटा फ़िड्यूशरीज़ (एआई कंपनियों सहित) द्वारा उपयोगकर्ता की सहमति और उचित सुरक्षा उपायों के साथ वैध रूप से संसाधित किया जाए। बिना सहमति के व्यक्तिगत डेटा का उपयोग करने वाले डीपफेक इस कानून के तहत दंडनीय हो सकते हैं।

भारतीय न्याय संहिता, 2023 ("बीएनएस") - धारा 353 का उद्देश्य झूठे या भ्रामक बयान, अफवाहें, या ऐसी रिपोर्टें देने पर दंड लगाकर गलत सूचना और भ्रामक सूचनाओं के प्रसार को रोकना है जो सार्वजनिक तौर पर शरारत या भय पैदा कर सकती हैं। डीपफेक सामग्री से जुड़े संगठित साइबर अपराधों पर भी धारा 111 के तहत मुकदमा चलाया जा सकता है।

ये कानून और उनके अंतर्गत नियम-निर्माण, जहाँ तक लागू हो, तकनीक-तटस्थ रहते हैं - क्योंकि प्रावधान इस बात पर ध्यान दिए बिना लागू होते हैं कि सामग्री एआई-जनित है या नहीं। इसलिए, एआई-आधारित नुकसान भी मौजूदा कानूनों के तहत कार्रवाई योग्य हैं।

सरकार एआई-जनित नुकसान से जुड़े मामलों सहित, मौजूदा कानूनों के सख्त कार्यान्वयन को सुनिश्चित करने के लिए हितधारकों और सोशल मीडिया प्लेटफॉर्म्स के साथ सक्रिय रूप से जुड़ती है।

● इस दिशा में, दिनांक 26.12.2023 और 15.03.2024 को परामर्श जारी किए गए, जिनके माध्यम से मध्यस्थों को आईटी नियम, 2021 के तहत उल्लिखित उनके उचित परिश्रम के दायित्वों की याद दिलाई गई और दुर्भावनापूर्ण 'सिंथेटिक मीडिया' और 'डीपफेक' सहित गैरकानूनी सामग्री का मुकाबला करने की सलाह दी गई।

इन परामर्शों में अन्य बातों के साथ-साथ निम्नलिखित निर्देश शामिल हैं:

● मध्यस्थों को गलत सूचना या किसी अन्य व्यक्ति का प्रतिरूपण करने वाली जानकारी की पहचान करनी चाहिए और उसे हटाना चाहिए, जिसमें डीपफेक का उपयोग करके बनाई गई जानकारी भी शामिल है।

● उपयोगकर्ताओं को यह भी अवगत कराया जाना चाहिए कि ऐसी सामग्री गलत या भ्रामक हो सकती है।

● मध्यस्थों को आदेश में उल्लिखित समय-सीमा के भीतर शिकायत अपीलीय समिति के आदेशों का पालन करना होगा और एक रिपोर्ट प्रकाशित करनी होगी।

● अविश्वसनीय या कम-परीक्षण किए गए एआई मॉडल या एल्गोरिदम, आदि को आउटपुट की संभावित अंतर्निहित अविश्वसनीयता को उचित रूप से लेबल करने के बाद ही भारत में उपयोग के लिए उपलब्ध होना चाहिए और उपयोगकर्ताओं को ऐसी अविश्वसनीयता के बारे में स्पष्ट रूप से सूचित किया जाना चाहिए।

आईटी नियमों, 2021 के तहत प्रमुख प्रावधान:

प्रावधान	विवरण
नियम 3(1)(बी) के तहत प्रतिबंधित जानकारी	अन्य बातों के अलावा, ऐसी जानकारी/सामग्री को प्रतिबंधित करता है, • अश्लील, नग्‍न दृश्‍य, गोपनीयता का हनन करने वाला, या घृणा या हिंसा को बढ़ावा देने वाला हो; • बच्चों को नुकसान पहुँचाता हो; • डीपफेक के माध्यम से गुमराह करने या धोखा देने वाला; • एआई के माध्यम से दूसरों का प्रतिरूपण करना; • राष्ट्रीय सुरक्षा या सार्वजनिक व्यवस्था को ख़तरा हो; • किसी भी लागू क़ानून का उल्लंघन हो।
उपयोगकर्ता जागरूकता दायित्व	मध्यस्थों को सेवा की शर्तों और उपयोगकर्ता समझौतों के माध्यम से उपयोगकर्ताओं को गैरकानूनी सामग्री साझा करने के परिणामों के बारे में स्पष्ट रूप से सूचित करना चाहिए, जिसमें सामग्री हटाना, खाता निलंबन या समाप्ति शामिल है।
सामग्री हटाने में जवाबदेही	मध्यस्थों को अदालती आदेश, सरकारी नोटिस या उपयोगकर्ता की शिकायतों पर निर्धारित समय-सीमा के भीतर गैरकानूनी सामग्री को हटाने के लिए शीघ्रता से कार्य करना चाहिए।
शिकायत निवारण	• मध्यस्थों को शिकायत अधिकारी नियुक्त करने होंगे • 72 घंटों के भीतर गैरकानूनी सामग्री को हटाकर शिकायतों का समाधान करना अनिवार्य है। • निजता का उल्लंघन करने वाली, किसी व्यक्ति का रूप धारण करने वाली या नग्नता दिखाने वाली सामग्री को ऐसी किसी भी शिकायत के विरुद्ध 24 घंटों के भीतर हटाना होगा।
शिकायत अपीलीय समितियां (जीएसी) तंत्र	यदि मध्यस्थों के शिकायत निवारण अधिकारी उनकी शिकायतों का समाधान नहीं करते हैं, तो उपयोगकर्ता www.gac.gov.in पर ऑनलाइन अपील कर सकते हैं। जीएसी सामग्री मॉडरेशन निर्णयों की जवाबदेही और पारदर्शिता सुनिश्चित करते हैं।
महत्वपूर्ण सोशल मीडिया मध्यस्थों (एसएसएमआई) के अतिरिक्त दायित्व (अर्थात, भारत में 50 लाख या उससे अधिक पंजीकृत उपयोगकर्ता आधार वाले सोशल मीडिया मध्यस्थ)	• संदेश सेवाएँ प्रदान करने वाली एसएसएमआई को गंभीर या संवेदनशील सामग्री के स्रोत का पता लगाने में कानून प्रवर्तन एजेंसियों की मदद करनी होगी। • एसएसएमआई को गैरकानूनी सामग्री का पता लगाने और उसके प्रसार को सीमित करने के लिए स्वचालित उपकरणों का उपयोग करना होगा। • एसएसएमआई को अनुपालन रिपोर्ट प्रकाशित करनी होंगी, स्थानीय अधिकारियों की नियुक्ति करनी होगी, और अनुपालन तथा कानून प्रवर्तन समन्वय के लिए भारत में स्थित सम्‍पत्ति की भौगोलिक स्थिति साझा करनी होगी। • एसएसएमआई को स्वतः संज्ञान लेते हुए कार्रवाई करने से पहले स्वैच्छिक उपयोगकर्ता सत्यापन, आंतरिक अपील और निष्पक्ष सुनवाई की सुविधा प्रदान करनी होगी।

भारत के बहुस्तरीय साइबर प्रतिक्रिया इकोसिस्‍टम में साइबर अपराधों, उपयोगकर्ता शिकायतों और डीपफेक सहित गैरकानूनी सामग्री के समाधान के लिए संस्थागत, नियामक, रिपोर्टिंग और सार्वजनिक जागरूकता तंत्र शामिल हैं:

● जीएसी - मध्यस्थों के निर्णयों को चुनौती देने के लिए केन्‍द्रीय स्तर पर एक अपीलीय मंच प्रदान करना।

● भारतीय साइबर अपराध समन्वय केन्‍द्र (I4सी) - राज्यों में साइबर अपराधों से संबंधित कार्यों का समन्वय करता है। यह एजेंसियों को आईटी कानून और आईटी नियम, 2021 के तहत डीपफेक सहित गैरकानूनी सामग्री को हटाने या उस तक पहुँच को अक्षम करने के लिए नोटिस जारी करने का अधिकार देता है।

● सहयोग पोर्टल (I4सी द्वारा प्रबंधित) - मध्यस्थों को स्वचालित, केन्‍द्रीकृत निष्कासन सूचनाएँ भेजने में सक्षम बनाता है। भारत भर की सभी अधिकृत एजेंसियाँ गैरकानूनी सामग्री को हटाने का अनुरोध करने के लिए इसका उपयोग करती हैं।

● राष्ट्रीय साइबर अपराध रिपोर्टिंग पोर्टल - नागरिक https://cybercrime.gov.in पर इस पोर्टल के माध्यम से घटनाओं की रिपोर्ट कर सकते हैं, जिसका विशेष ध्यान महिलाओं और बच्चों के खिलाफ साइबर अपराधों पर है। डीपफेक, वित्तीय धोखाधड़ी और सामग्री के दुरुपयोग की रिपोर्ट की जा सकती है। एक हेल्पलाइन नंबर 1930 भी उपलब्ध है।

● सीईआरटी-इन - भारतीय कंप्यूटर आपातकालीन प्रतिक्रिया दल (सीईआरटी-इन) नियमित रूप से डीपफेक सहित एआई से संबंधित खतरों और प्रति-उपायों पर दिशानिर्देश जारी करता है। सीईआरटी-इन ने नवम्‍बर 2024 में डीपफेक खतरों और डीपफेक से सुरक्षित रहने के लिए आवश्यक उपायों पर एक एडवाइजरी प्रकाशित की है।

● पुलिस - पुलिस अधिकारी साइबर अपराधों की जाँच करते हैं।

● जागरूकता अभियान - इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय प्रत्येक वर्ष अक्टूबर के दौरान साइबर सुरक्षा जागरूकता माह (एनसीएसएएम), प्रत्येक वर्ष फरवरी के दूसरे मंगलवार को सुरक्षित इंटरनेट दिवस, प्रत्येक वर्ष 1 से 15 फरवरी तक स्वच्छता पखवाड़ा और प्रत्येक माह के पहले बुधवार को साइबर जागरूकता दिवस (सीजेडी) मनाता है, जिसके तहत भारत में नागरिकों के साथ-साथ तकनीकी साइबर समुदाय के लिए विभिन्न कार्यक्रमों और गतिविधियों का आयोजन किया जाता है।

आईटी कानून, बीएनएस और जीएसी, सीईआरटी-इन और आई4सी जैसी संस्थाओं द्वारा समर्थित भारत का साइबर कानूनी ढांचा, उभरते ऑनलाइन खतरों और साइबर अपराधों से निपटने के लिए पूरी तरह से तैयार है।

यह जानकारी आज केन्‍द्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी राज्य मंत्री श्री जितिन प्रसाद ने राज्यसभा में दी।

******

पीके/एके/केसी/केपी/एसएस

(Release ID: 2154377)