सरकार कृत्रिम बुद्धिमत्ता (एआई) द्वारा संचालित डीपफेक से होने वाले  खतरों के प्रति सचेत है। इसमें कृत्रिम ऑडियो, वीडियो और लिखित सामग्री शामिल हैं। उपयोगकर्ताओं के लिए एक खुला, सुरक्षित, विश्वसनीय और जवाबदेह साइबरस्पेस सुनिश्चित करने के उद्देश्य से भारत सरकार ने डीपफेक की चुनौती के विभिन्न पहलुओं से निपटने के लिए निम्नलिखित कानून और नियम बनाए हैं:

सूचना प्रौद्योगिकी अधिनियम, 2000 (“आईटी अधिनियम”)

● धारा 43 में कंप्यूटर, कंप्यूटर सिस्टम आदि को हुए नुकसान के लिए दंड और मुआवजे का प्रावधान है।

● धारा 66 कंप्यूटर संबंधी अपराधों के लिए दंड निर्धारित करती है।

● इसमें पहचान की चोरी (धारा 66सी), प्रतिरूपण (धारा 66डी), निजता का उल्लंघन (धारा 66ई), अश्लील या यौन रूप से स्पष्ट सामग्री का प्रकाशन या प्रसारण (धारा 67, 67ए) जैसे अपराध शामिल हैं।

● विशिष्ट सूचना/लिंक तक पहुंच को अवरुद्ध करने के लिए मध्यस्थों को अवरोधन आदेश जारी करने का प्रावधान (धारा 69ए)

● गैरकानूनी कृत्य करने के लिए इस्तेमाल की जा रही जानकारी को हटाने के लिए मध्यस्थों को नोटिस जारी करने का प्रावधान (धारा 79)

● इसके अलावा अधिनियम पुलिस को अपराधों की जांच करने का अधिकार भी देता है (धारा 78 और 80)।

भारतीय न्याय संहिता,2023 ("बीएनएस")

● धारा 319 प्रतिरूपण द्वारा धोखाधड़ी के लिए दंड निर्धारित करती है;

● धारा 336 धोखाधड़ी के लिए दंड निर्धारित करती है (इसमें किसी भी पक्ष को धोखा देने या उसकी प्रतिष्ठा को नुकसान पहुंचाने के उद्देश्य से झूठे इलेक्ट्रॉनिक रिकॉर्ड बनाना शामिल है)।

● धारा 353 का उद्देश्य गलत या भ्रामक बयान, अफवाहें या रिपोर्ट बनाने के कृत्य को दंडित करके गलत सूचना और दुष्प्रचार के प्रसार पर अंकुश लगाना है। इससे सार्वजनिक उपद्रव या भय उत्पन्न हो सकता है।

● डीपफेक सामग्री से जुड़े संगठित साइबर अपराधों पर भी धारा 111 के अंतर्गत मुकदमा चलाया जा सकता है।

सूचना प्रौद्योगिकी (मध्यस्थ दिशानिर्देश और डिजिटल मीडिया आचार संहिता) नियम, 2021 (“आईटी नियम”)

आईटी नियमों के अंतर्गत मध्यस्थों पर अपने कर्तव्यों का निर्वहन करते समय उचित सावधानी बरतने का विशेष दायित्व है और उन्हें कंप्यूटर संसाधनों के उपयोगकर्ताओं को यह सूचित करना होगा कि वे ऐसी कोई भी जानकारी होस्ट, प्रदर्शित, अपलोड, संशोधित, प्रकाशित, प्रसारित, अपडेट या साझा न करें जो:

● यह किसी अन्य व्यक्ति से संबंधित है और इस पर उपयोगकर्ता का कोई अधिकार नहीं है।

● अश्लील, पोर्नोग्राफिक, निजता का उल्लंघन करने वाला या घृणा या हिंसा को बढ़ावा देने वाला।

● बच्चों को नुकसान पहुंचाता है

● किसी भी स्वामित्व अधिकार का उल्लंघन करता है।

● संदेश के स्रोत के बारे में प्राप्तकर्ता को गुमराह करता है या धोखा देता है।

● जानबूझकर और इरादे से कोई गलत सूचना देना। स्पष्ट रूप से झूठी और असत्य जानकारी या भ्रामक जानकारी देना।

● कृत्रिम बुद्धिमत्ता (एआई) के माध्यम से अन्य लोगों का रूप धारण करना।

● राष्ट्रीय सुरक्षा या सार्वजनिक व्यवस्था को खतरा पैदा करता है।

● लागू कानूनों का उल्लंघन करता है।

मध्यस्थों को सेवा की शर्तों और उपयोगकर्ता समझौतों के माध्यम से उपयोगकर्ताओं को गैरकानूनी सामग्री साझा करने के परिणामों के बारे में स्पष्ट रूप से सूचित करना चाहिए, जिसमें सामग्री को हटाना, खाते को निलंबित करना या समाप्त करना शामिल है।

भारत में 50 लाख या उससे अधिक पंजीकृत उपयोगकर्ता आधार वाले सोशल मीडिया मध्यस्थों (एसएसएमआई) को निम्नलिखित अतिरिक्त दायित्वों का पालन करना आवश्यक है:

● संदेश सेवाएँ प्रदान करने वाले सामाजिक-सामाजिक सामग्री निर्माताओं को कानून प्रवर्तन एजेंसियों को गंभीर या संवेदनशील सामग्री के मूल रचनाकारों का पता लगाने में मदद करनी चाहिए।

● गैरकानूनी सामग्री के प्रसार का पता लगाने और उसे सीमित करने के लिए स्वचालित उपकरणों का उपयोग करना।

● अनुपालन रिपोर्ट प्रकाशित करें, स्थानीय अधिकारियों की नियुक्ति करें और अनुपालन एवं कानून प्रवर्तन समन्वय के लिए भारत में स्थित भौतिक पते साझा करें।

● स्वैच्छिक उपयोगकर्ता सत्यापन, आंतरिक अपील और स्वतः संज्ञान लेने से पहले निष्पक्ष सुनवाई की पेशकश करें।

शिकायत निवारण तंत्र

मध्यस्थों को शिकायत अधिकारी नियुक्त करना और निर्धारित समय सीमा के भीतर शिकायतों का समाधान करना अनिवार्य है। यदि मध्यस्थों के शिकायत अधिकारियों द्वारा उनकी शिकायतों का समाधान नहीं किया जाता है तो उपयोगकर्ता https://www.gac.gov.in पर ऑनलाइन अपील कर सकते हैं । जीएसी सामग्री मॉडरेशन संबंधी निर्णयों में जवाबदेही और पारदर्शिता सुनिश्चित करते हैं।

पुलिस में दर्ज शिकायतों की जांच संबंधित कानून प्रवर्तन एजेंसियों (एलईए) द्वारा प्रासंगिक वैधानिक ढांचे के अंतर्गत की जाती है। भारत के संविधान की सातवीं अनुसूची के अनुसार, 'पुलिस' और 'सार्वजनिक व्यवस्था' राज्य के विषय हैं इसलिए साइबर अपराध सहित अपराधों की रोकथाम, पता लगाने, जांच और अभियोजन के लिए मुख्य रूप से राज्य तथा केंद्र शासित प्रदेश जिम्मेदार हैं।

हाल के संशोधन

10 फरवरी, 2026 को सरकार ने कृत्रिम रूप से उत्पन्न सूचना (एसजीआई) से होने वाले नुकसानों से निपटने के लिए आईटी नियम, 2021 में संशोधन करके नियामक ढांचे को मजबूत किया। इसमें डीपफेक और एआई-जनित सामग्री शामिल है।

संशोधन से संबंधित मुख्य बिंदु निम्नलिखित हैं: -

● मध्यस्थों को यह सुनिश्चित करना आवश्यक है कि  एआई-जनित सामग्री के लिए स्पष्ट लेबलिंग और पता लगाने योग्य मेटाडेटा उपलब्ध हो, ताकि उपयोगकर्ता कृत्रिम रूप से उत्पन्न सामग्री को आसानी से पहचान सकें और धोखाधड़ी या दुरुपयोग को रोक सकें।

● यह उपयोगकर्ता की जवाबदेही और प्लेटफ़ॉर्म की उचित सावधानी को और मजबूत करता है जिसमें गैर-कानूनी एआई-जनित सामग्री के कानूनी परिणामों के बारे में उपयोगकर्ताओं की अनिवार्य जागरूकता और सोशल मीडिया मध्यस्थों के लिए मजबूत अनुपालन दायित्व शामिल हैं।

● महत्वपूर्ण बात यह है कि दिशानिर्देशों में स्पष्ट रूप से बाल यौन शोषण सामग्री, बिना सहमति के अंतरंग चित्र, प्रतिरूपण और अन्य हानिकारक एआई-जनित सामग्री को शामिल किया गया है, जिसमें प्लेटफार्मों को ऐसी सामग्री को रोकने और पता चलने पर तुरंत कार्रवाई करने की आवश्यकता होती है।

● अनुपालन के लिए समयसीमा को सुदृढ़ करना, जिसमें सरकार या न्यायालय के आदेशों से वैध तर्कसंगत सूचना मिलने पर गैरकानूनी जानकारी को हटाने की समयसीमा को कम करना (समयसीमा 36 घंटे से घटाकर 3 घंटे कर दी गई है) और शिकायत निवारण (जिसमें नग्नता/पहचान छिपाना आदि जैसी विशेष श्रेणियां शामिल हैं) के लिए समयसीमा को कम करना (संवेदनशील मामलों के लिए समयसीमा क्रमशः 72 घंटे से घटाकर 36 घंटे और 24 घंटे से घटाकर 2 घंटे कर दी गई है)।

● मध्यस्थों का यह दायित्व है कि वे उचित और उपयुक्त तकनीकी उपाय अपनाएं जिनमें स्वचालित उपकरण या अन्य उपयुक्त तंत्र शामिल हैं, ताकि किसी भी उपयोगकर्ता को कृत्रिम रूप से उत्पन्न ऐसी कोई भी जानकारी बनाने, उत्पन्न करने, संशोधित करने, बदलने, प्रकाशित करने, प्रसारित करने, साझा करने या फैलाने से रोका जा सके जो उस समय लागू किसी भी कानून का उल्लंघन करती हो।

● आईटी नियमों के अनुसार, महत्वपूर्ण सोशल मीडिया मध्यस्थों (एसएसएमआई) को उचित तकनीकी उपाय, जिनमें स्वचालित उपकरण या अन्य उपयुक्त तंत्र शामिल हैं, तैनात करने के लिए उचित प्रयास करने होंगे, ताकि ऐसी जानकारी की पहचान की जा सके जो किसी भी रूप में बलात्कार, बाल यौन शोषण या आचरण को दर्शाती हो, चाहे वह स्पष्ट हो या अस्पष्ट, या ऐसी कोई भी जानकारी जो सामग्री में पहले से हटाई गई जानकारी के बिल्कुल समान हो।

सूचना प्रौद्योगिकी नियमों में दिए गए कानूनी दायित्वों का पालन न करने की स्थिति में मध्यस्थों को सूचना प्रौद्योगिकी अधिनियम की धारा 79 के अंतर्गत प्राप्त तृतीय पक्ष सूचना से छूट समाप्त हो जाती है। वे किसी भी मौजूदा कानून के तहत दंडात्मक कार्रवाई या अभियोजन के लिए उत्तरदायी होंगे।

एआई प्रशासन दिशानिर्देश:

सरकार ने एआई प्रशासन के लिए संतुलित और व्यावहारिक दृष्टिकोण अपनाया है। 5 नवंबर 2025 को जारी किए गए भारत एआई प्रशासन दिशानिर्देश , एआई के सुरक्षित, विश्वसनीय और जिम्मेदार विकास और तैनाती के लिए जोखिम-आधारित और आनुपातिक ढांचा प्रदान करते हैं।

भारत के एआई मिशन के अंतर्गत क्षमताओं को सुदृढ़ बनाना

इंडियाएआई मिशन का सुरक्षित और विश्वसनीय एआई स्तंभ स्वदेशी शासन ढांचे, मानकों, उपकरणों और मूल्यांकन तंत्रों के माध्यम से एआई के जिम्मेदार विकास, तैनाती और अपनाने को बढ़ावा देना चाहता है। देश भर के शैक्षणिक संस्थानों में 13 जिम्मेदार एआई परियोजनाओं को मंजूरी दी गई है, जिनमें डीपफेक का पता लगाना भी शामिल है।

डीपफेक का पता लगाने से संबंधित प्रमुख पहलों में निम्नलिखित शामिल हैं:

● साक्ष्य, आईआईटी  जोधपुर और आईआईटी मद्रास द्वारा विकसित एक मल्टी-एजेंट फ्रेमवर्क है जो डीप फेक डिटेक्शन के लिए बनाया गया है।

● ऑडियो-विजुअल जालसाजी पहचान प्रणाली में सुधार के लिए एआई विश्लेशक

● आईआईटी खड़गपुर की रियल-टाइम वॉयस डीपफेक डिटेक्शन सिस्टम पर परियोजना

सरकार द्वारा अपनाई गई समन्वय व्यवस्था और कार्यान्वयन उपाय

● जीएसी - मध्यस्थों के निर्णयों को चुनौती देने के लिए केंद्रीय स्तर पर एक अपीलीय मंच प्रदान करते हैं।

● सूचना हटाने का आदेश - सोशल मीडिया मध्यस्थों सहित मध्यस्थों को किसी भी प्रकार की गैरकानूनी जानकारी को अदालत के आदेश या संबंधित सरकार या उसकी एजेंसी द्वारा लिखित रूप में दिए गए तर्कसंगत सूचना के माध्यम से सूचित किए जाने पर तुरंत हटाना आवश्यक है। ऐसी गैरकानूनी जानकारी में भारत की संप्रभुता और अखंडता, राज्य की सुरक्षा, विदेशी राज्यों के साथ मैत्रीपूर्ण संबंध, सार्वजनिक व्यवस्था, शालीनता या नैतिकता, न्यायालय की अवमानना, मानहानि, उपरोक्त से संबंधित अपराध के लिए उकसाने या किसी भी कानून के तहत निषिद्ध जानकारी शामिल है। मध्यस्थ मंच पर ऐसी किसी भी जानकारी को हटाने के लिए सूचना संबंधित सरकारों या उनकी अधिकृत एजेंसियों द्वारा सीधे भेजी जाती है जहां संविधान की सातवीं अनुसूची के अनुसार संबंधित सरकार राज्य और केंद्र सरकार दोनों हो सकती है।

● भारतीय साइबर अपराध समन्वय केंद्र (I4C) – राज्यों में साइबर अपराधों से संबंधित कार्रवाइयों का समन्वय करता है। यह एजेंसियों को सूचना प्रौद्योगिकी अधिनियम और सूचना प्रौद्योगिकी नियम, 2021 के अंतर्गत डीपफेक सहित गैरकानूनी सामग्री को हटाने या उस तक पहुंच को अक्षम करने के लिए नोटिस जारी करने का अधिकार देता है।

● सहयोग पोर्टल (आई4सी द्वारा प्रबंधित) – यह मध्यस्थों को स्वचालित, केंद्रीकृत निष्कासन नोटिस भेजने में सक्षम बनाता है। भारत भर में संबंधित सरकारी निकाय और उनकी अधिकृत एजेंसियां ​​इसका उपयोग अवैध सामग्री को हटाने का अनुरोध करने के लिए करती हैं।

● राष्ट्रीय साइबर अपराध रिपोर्टिंग पोर्टल – नागरिक https://cybercrime.gov.in पर स्थित इस पोर्टल के माध्यम से घटनाओं की रिपोर्ट कर सकते हैं जो महिलाओं और बच्चों के खिलाफ साइबर अपराधों पर विशेष ध्यान देता है। डीपफेक, वित्तीय धोखाधड़ी और सामग्री का दुरुपयोग, सभी की रिपोर्ट की जा सकती है। एक हेल्पलाइन नंबर 1930 भी कार्यरत है।

● पुलिस – पुलिस अधिकारी साइबर अपराधों की जांच करते हैं।

● समन्वय प्लेटफॉर्म: समन्वय प्लेटफॉर्म, अपराधियों और अपराधों के बीच अंतरराज्यीय संबंधों का विश्लेषण करके साइबर धोखाधड़ी की जांच को मजबूत बनाता है। इसका 'प्रतिबिंब' मॉड्यूल अपराधियों और अपराध तंत्र के स्थानों का मानचित्रण करता है, जिससे अधिकारियों को कार्रवाई योग्य दृश्यता मिलती है। अब तक, इसके परिणामस्वरूप 12,987 आरोपियों की गिरफ्तारी , 1,51,984 आपराधिक संबंधों का पता चला है और 70,584 साइबर जांच सहायता अनुरोध प्राप्त हुए हैं, जिससे संगठित साइबर धोखाधड़ी नेटवर्क को कुशलतापूर्वक नष्ट करने में मदद मिली है।

सलाह और मानक संचालन प्रक्रिया (एसओपी):

सरकार ने सोशल मीडिया मध्यस्थों सहित सभी मध्यस्थों को कई सलाह जारी की हैं, जिनमें सूचना प्रौद्योगिकी अधिनियम और सूचना प्रौद्योगिकी नियमों के अंतर्गत उचित सावधानी बरतने के दायित्वों के पालन पर जोर दिया गया है। जारी की गई सलाहों और तैयार किए गए मानक संचालन प्रक्रियाओं (एसओपी) का विवरण इस प्रकार है:

● धार्मिक मामलों से संबंधित सूचनाओं के जिम्मेदार प्रबंधन के संबंध में मध्यस्थों को दिनांक 09.02.2026 को एक सलाह जारी की गई थी।

● दिनांक 16.03.2026 को मध्यस्थों को अपमानजनक, मानहानिकारक, आपत्तिजनक, निंदनीय और भ्रामक कृत्रिम रूप से उत्पन्न जानकारी के निर्माण, होस्टिंग, प्रकाशन, प्रसारण, साझाकरण या अपलोड करने के संबंध में एक सलाह जारी की गई थी।

● ऑनलाइन प्लेटफॉर्म पर गैर-सहमति से प्राप्त अंतरंग छवियों (एन सी आई आई ) के प्रसार को रोकने के लिए एक मानक संचालन प्रक्रिया  तैयार की गई है और इसे 11.11.2025 को जारी किया गया है। मानक संचालन प्रक्रिया पीड़ितों, मध्यस्थों और कानून प्रवर्तन एजेंसियों को विस्तृत मार्गदर्शन प्रदान करती है ताकि बिना सहमति के साझा की गई अंतरंग या रूपांतरित छवियों सहित एन सी आई आई सामग्री के ऑनलाइन प्रसार के खिलाफ त्वरित और एकसमान कार्रवाई सुनिश्चित की जा सके।

जागरूकता अभियान

भारत में नागरिकों और तकनीकी साइबर समुदाय के लिए विभिन्न कार्यक्रमों और गतिविधियों का आयोजन करके एमईआईटीवाई  हर साल अक्टूबर में साइबर सुरक्षा जागरूकता माह (एन सी एस ए एम ), हर साल फरवरी के दूसरे मंगलवार को सुरक्षित इंटरनेट दिवस, हर साल 1 से 15 फरवरी तक स्वच्छता पखवाड़ा और हर महीने के पहले बुधवार को साइबर जागरूकता दिवस (सी जे डी ) मनाता है।

सर्ट-इन

भारतीय कंप्यूटर आपातकालीन प्रतिक्रिया टीम (आईसीयू) नियमित रूप से एआई से संबंधित खतरों और उनसे बचाव के उपायों पर दिशानिर्देश जारी करती है जिनमें डीपफेक भी शामिल है। यह अपनी आधिकारिक वेबसाइटों और सोशल मीडिया हैंडल पर सुरक्षा संबंधी सुझाव, जागरूकता पोस्टर, इन्फोग्राफिक्स और वीडियो साझा करती है और इसका उद्देश्य इंटरनेट उपयोगकर्ताओं को साइबर सुरक्षा हमलों और धोखाधड़ी के बारे में जागरूक करना है, जिसमें बच्चों के लिए ऑनलाइन सुरक्षा उपाय भी शामिल हैं। इसने नवंबर 2024 में डीपफेक के खतरों और उनसे सुरक्षित रहने के लिए अपनाए जाने वाले उपायों पर एक सलाह जारी की थी।

यह जानकारी केंद्रीय इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी राज्य मंत्री श्री जितिन प्रसाद ने 05.08.2026 को लोकसभा में प्रस्तुत की थी।

****

पीके/केसी/एनकेएस/

(रिलीज़ आईडी: 2295607) आगंतुक पटल : 104