हालांकि सरकार डीप फेक और बिना सहमति वाली तस्वीरों के खिलाफ सुरक्षा उपाय ला रही है, लेकिन इन बदलावों से जवाब देने की टाइमलाइन भी कम हो गई है और एडमिनिस्ट्रेटिव टेकडाउन अथॉरिटी बढ़ गई है, जिससे सही प्रक्रिया और बोलने की आजादी पर सवाल उठ रहे हैं।
केंद्र सरकार ने इन्फॉर्मेशन टेक्नोलॉजी (इंटरमीडियरी गाइडलाइंस और डिजिटल मीडिया एथिक्स कोड) रूल्स, 2021 में बदलावों को नोटिफाई किया है, जिससे भारत में ऑनलाइन कंटेंट को कंट्रोल करने वाले रेगुलेटरी फ्रेमवर्क में काफी बदलाव आएगा। इन्फॉर्मेशन टेक्नोलॉजी एक्ट, 2000 के सेक्शन 87 के तहत जारी और 20 फरवरी, 2026 से लागू होने वाले इन बदलावों में “सिंथेटिकली जेनरेटेड इन्फॉर्मेशन” की एक फॉर्मल डेफिनिशन दी गई है, कुछ AI-जेनरेटेड कंटेंट के लिए जरूरी लेबलिंग और मेटाडेटा की जरूरतें लागू की गई हैं और इंटरमीडियरीज़ के लिए टेकडाउन टाइमलाइन को काफी कम कर दिया गया है।
डीप फेक और बिना सहमति वाली सिंथेटिक इमेजरी से निपटने के अलावा, यह नोटिफिकेशंस एग्जीक्यूटिव टेकडाउन अथॉरिटी को भी रीस्ट्रक्चर करता है और एक्टिव कम्प्लायंस पर सेफ हार्बर प्रोटेक्शन को स्पष्ट रूप से सक्रिय अनुपालन से जोड़ती है। कोर्ट ऑर्डर और ऑथराइज्ड सरकारी सूचनाओं के लिए तीन घंटे का रिमूवल विंडो पहले के 36 घंटे के फ्रेमवर्क से एक बड़ा बदलाव है। हालांकि ये बदलाव AI के गलत इस्तेमाल से होने वाले डॉक्यूमेंटेड नुकसानों पर ध्यान देते हैं, लेकिन ये एडमिनिस्ट्रेटिव समझ को भी बढ़ाते हैं और प्लेटफॉर्म पर कम्प्लायंस का दबाव भी बढ़ाते हैं जिससे प्रोपोर्शनैलिटी, ड्यू प्रोसेस और ज्यादा हटाने के रिस्क के बारे में जरूरी सवाल उठते हैं।
गजट को ध्यान से पढ़ने से पता चलता है कि इन बदलावों का असर न सिर्फ उनके बताए गए मकसद पर निर्भर करेगा, बल्कि इस बात पर भी निर्भर करेगा कि बेहतर टेकडाउन पावर और कम टाइमलाइन का असल में कैसे इस्तेमाल किया जाता है।
“सिंथेटिकली जेनरेटेड इन्फॉर्मेशन” की औपचारिक परिभाषा
पहली बार, नियम “सिंथेटिकली जेनरेटेड इन्फॉर्मेशन” को ऑडियो, विज़ुअल या ऑडियो-विज़ुअल कंटेंट के तौर पर बताते हैं, जिसे कंप्यूटर रिसोर्स का इस्तेमाल करके आर्टिफिशियली या एल्गोरिदमिकली बनाया जाता है, जेनरेट किया जाता है, मॉडिफाई किया जाता है या बदला जाता है, ताकि वह असली लगे और किसी ऐसे व्यक्ति या घटना को दिखाए जिसे असली माना जा सकता है।
यह परिभाषा धोखे और परसेप्चुअल रियलिज़्म पर फोकस्ड है। रूटीन एडिटिंग, एक्सेसिबिलिटी टूल्स, फॉर्मेटिंग, ट्रांसक्रिप्शन और नेकनीयती से किए गए टेक्निकल करेक्शन को इसमें शामिल नहीं किया गया है, बशर्ते वे कंटेंट के मतलब को असल में न बदलें।
अक्टूबर 2025 में जारी ड्राफ़्ट की तुलना में, अंतिम नियम दायरे को छोटा करते हैं। मिंट की रिपोर्ट के अनुसार, सरकार ने आम ऑनलाइन कंटेंट के 10% पर वॉटरमार्क लगाने का प्रस्ताव छोड़ दिया और लेबलिंग की जरूरतों को सिर्फ ऐसे कंटेंट तक सीमित कर दिया जो लोगों या घटनाओं को गलत तरीके से दिखाता है।
इस कमी से इंडस्ट्री की कुछ चिंताओं का समाधान होता है जो ज्यादा जानकारी देने से जुड़ी हैं। हालांकि, परिभाषा अभी भी सोच पर आधारित है और मतलब के आधार पर इसमें व्यंग, पैरोडी या राजनीतिक हेरफेर शामिल हो सकता है।
जरूरी लेबलिंग और मेटाडेटा की जरूरतें
जो बिचौलिए सिंथेटिक कंटेंट बनाने या फैलाने में मदद करते हैं, उन्हें ये करना होगा:
● ऐसे कंटेंट की स्पष्ट लेबलिंग पक्का करना;
● जहां लागू हो, ऑडियो डिस्क्लोज़र देना;
● परमानेंट मेटाडेटा या प्रोवेंस मार्कर एम्बेड करना;
● ऐसे मार्कर को हटाने या दबाने से रोकना।
इन जरूरतों को पारदर्शिता की जिम्मेदारियों के तौर पर बनाया गया है। इसका मकसद ट्रेसेबिलिटी और यूजर अवेयरनेस लगता है।
लेकिन, दो चिंताएं हैं:
1. टेक्निकल फिजिबिलिटी और क्रॉस-प्लेटफॉर्म इंटरऑपरेबिलिटी - सभी प्लेटफॉर्म प्रोवेनेंस मार्कर को एक जैसा एम्बेड और सुरक्षित नहीं रख सकते, खासकर तब जब कंटेंट अलग-अलग सर्विसेज़ में जाता है।
2. प्राइवेसी और सर्विलांस के असर - परमानेंट आइडेंटिफायर एम्बेड करने से तुरंत मॉडरेशन की जरूरतों के अलावा ट्रैकिंग की इजाजत मिल सकती है।
नियम कहते हैं कि मेटाडेटा को “जितना टेक्निकली संभव हो सके” एम्बेड किया जाना चाहिए, लेकिन कोई स्टैंडर्ड तय नहीं किए गए हैं। इससे कम्प्लायंस की व्याख्या एग्जीक्यूटिव के विवेक पर छोड़ दी जाती है।
रोक और ऑटोमेटेड सुरक्षा उपाय
नियमों के मुताबिक इंटरमीडियरीज को गैर-कानूनी सिंथेटिक कंटेंट को बनाने या फैलाने से रोकने के लिए सही और उचित टेक्निकल उपाय करने होंगे। ये गजट किसी विशेष तकनीकी समाधान को अनिवार्य नहीं करता है। बदलावों के मुताबिक इंटरमीडियरीज को सिंथेटिक कंटेंट को रोकने के लिए ऑटोमेटेड और तकनीकी सुरक्षा उपाय करने होंगे जिसमें शामिल हैं:
● बाल यौन शोषण सामग्री;
● बिना सहमति के निजी/अंतरंग तस्वीरें;
● झूठे इलेक्ट्रॉनिक अभिलेख;
● प्रतिरूपण (किसी और का रूप धारण करना);
● अश्लील सामग्री;
● विस्फोटक, हथियार या गोला-बारूद से संबंधित सामग्री;
● व्यक्तियों या घटनाओं का भ्रामक चित्रण।
बिना सहमति के डीप फेक पोर्नोग्राफ़ी को शामिल करना एक बड़ा डेवलपमेंट है, क्योंकि ऐसे मामलों में बढ़ोतरी देखी गई है।
हालांकि, ऑटोमेटेड सेफ़गार्ड को जरूरी बनाने से ऑपरेशनल और अधिकारों से जुड़ी चिंताएं बढ़ती हैं। ऑटोमेटेड डिटेक्शन सिस्टम में गलती, भेदभाव और ओवर ब्लॉकिंग का खतरा रहता है, खासकर राजनीतिक रूप से सेंसिटिव मामलों में। प्रक्रिया से जुड़े सेफ़गार्ड या अपील ट्रांसपेरेंसी की जरूरतों के बिना, गलत तरीके से हटाए गए कंटेंट को चुनौती देना मुश्किल हो सकता है।
यूजर की घोषणा और वेरिफ़िकेशन की जिम्मेदारियां
जरूरी सोशल मीडिया इंटरमीडियरीज़ (SSMIs) को ये करना होगा:
● यूजर्स से यह घोषणा लेनी होगी कि कंटेंट सिंथेटिक तरीके से बनाया गया है या नहीं;
● ऐसी घोषणाओं को वेरिफ़ाई करने के लिए टेक्निकल टूल्स का इस्तेमाल करना होगा;
● अगर कंटेंट सिंथेटिक होने की पुष्टि होती है तो साफ तौर पर बताना सुनिश्चित करना होगा।
अगर कार्रवाई नहीं की गई तो IT एक्ट के सेक्शन 79 के तहत ड्यू डिलिजेंस प्रोटेक्शन खत्म हो सकता है। यह जरूरत प्लेटफॉर्म को असरदार तरीके से रिएक्टिव मॉडरेशन से प्रोएक्टिव वेरिफ़िकेशन में बदल देती है। यूजर की घोषणाओं को वेरिफ़ाई करने की जिम्मेदारी के लिए AI-बेस्ड डिटेक्शन सिस्टम की जरूरत हो सकती है, जिससे ऑटोमेटेड मॉडरेशन पर निर्भरता बढ़ जाएगी।
तीन घंटे के टेकडाउन विंडो (जिसके बारे में नीचे बताया गया है) को देखते हुए, प्लेटफॉर्म कमजोर एनफोर्समेंट स्ट्रेटेजी चुन सकते हैं, जिससे ज्यादा हटाने की संभावना बढ़ जाती है।
टेकडाउन टाइमलाइन में कमी
ऑपरेशन के हिसाब से सबसे जरूरी बदलाव टेकडाउन टाइमलाइन में कमी है:
● सरकारी या कोर्ट के ऑर्डर: 36 घंटे → 3 घंटे
● बिना सहमति के इंटिमेट इमेजरी: 24 घंटे → 2 घंटे
● शिकायत का समाधान: 72 घंटे → 36 घंटे
● शिकायत की एक्नॉलेजमेंट: 15 दिन → 7 दिन
तीन घंटे की कम्प्लायंस विंडो खास तौर पर कोर्ट ऑर्डर या तय रैंक के किसी ऑथराइज़्ड सरकारी अधिकारी द्वारा जारी लिखित, तर्कपूर्ण सूचना मिलने पर हटाने या एक्सेस डिसेबल करने पर लागू होती है। यह सभी यूजर शिकायतों पर लागू नहीं होती है। 72 घंटे से 36 घंटे तक की कमी शिकायत निवारण प्रावधानों के तहत बताई गई गैर-कानूनी कंटेंट कैटेगरी पर लागू होती है। तीन घंटे की टाइमलाइन सिर्फ औपचारिक सरकारी या न्यायिक निर्देशों तक ही सीमित है। मिंट की रिपोर्ट के मुताबिक, सरकार ने तर्क दिया है कि प्लेटफॉर्म के पास कुछ ही मिनटों में कार्रवाई करने की तकनीकी क्षमता है और सरकारी रिक्वेस्ट कुल रिमूवल का एक छोटा हिस्सा होती हैं। हालांकि, पहले के केस के अनुभव से पता चलता है कि टेकडाउन पावर के गलत इस्तेमाल की चिंताएं मनगढ़ंत नहीं हैं।
कर्नाटक हाई कोर्ट में केस में, एक्स (पहले ट्विटर) ने तर्क दिया कि सरकारी नोटिस में सही वजह नहीं थी और वे प्रक्रिया के हिसाब से कम थे। हालांकि हाई कोर्ट ने एक्स की याचिका खारिज कर दी, लेकिन इस मामले में बार-बार आने वाले मुद्दे सामने आए:
● बिना वजह बताए टेकडाउन नोटिस;
● ट्रांसपेरेंसी की कमी;
● तय डेडलाइन के अंदर पालन करने का दबाव।
स्क्रॉल की रिपोर्ट के अनुसार, इंटरनेट फ्रीडम फाउंडेशन (IFF) ने चेतावनी दी है कि कम टाइमलाइन, बढ़ी हुई एग्जीक्यूटिव पावर के साथ मिलकर, ज्यादा रिमूवल बढ़ा सकती हैं और कानूनी बातों पर रोक लगा सकती हैं।
जब लायबिलिटी रिस्क ज्यादा होता है और समय कम होता है, तो प्लेटफॉर्म पहले कंटेंट हटाते हैं और बाद में रिव्यू करते हैं।
टेकडाउन नोटिस जारी करने के अधिकार वाले अधिकारियों के बारे में सफाई
संशोधनों में यह बताया गया है कि टेकडाउन के निर्देश जारी किए जा सकते हैं:
● सक्षम अधिकार क्षेत्र वाली कोर्ट द्वारा;
● जॉइंट सेक्रेटरी या डायरेक्टर के रैंक से नीचे का कोई सरकारी अधिकारी
● लिखकर, तर्क के साथ जानकारी देकर;
● डिप्टी इंस्पेक्टर जनरल रैंक से नीचे का कोई पुलिस अधिकारी।
नोटिस में कानूनी आधार, इस्तेमाल किया गया कानूनी प्रावधान और कंटेंट का सही URL या इलेक्ट्रॉनिक लोकेशन बताना होगा। जरूरत और अनुपात पक्का करने के लिए सेक्रेटरी लेवल के अधिकारी द्वारा हर महीने रिव्यू करना जरूरी है। हर महीने रिव्यू करने का तरीका एग्जीक्यूटिव के अंदर का है और यह कोई स्वतंत्र या न्यायिक निगरानी का ढांचा नहीं बनाता है। नियमों में रिव्यू के नतीजों को पब्लिश करने की जरूरत नहीं है।
कागज पर, यह पहले “उपयुक्त सरकार या उसकी एजेंसी” के संदर्भ की तुलना में अधिक औपचारिकता प्रस्तुत करता है।
हालांकि, दो संरचनात्मक चिंताएं बनी हुई हैं:
1. एग्जीक्यूटिव का दबदबा - कोर्ट के ऑर्डर जरूरी नहीं हैं; एग्जीक्यूटिव अधिकारियों के पास इंडिपेंडेंट टेकडाउन अथॉरिटी होती है।
2. लिमिटेड ट्रांसपेरेंसी - नियम में टेकडाउन स्टैटिस्टिक्स, एडिटेड ऑर्डर या इंडिपेंडेंट ओवरसाइट के पब्लिकेशन की जरूरत नहीं है।
स्क्रॉल के अनुसार, IFF ने इन बदलावों की आलोचना करते हुए कहा है कि ये ओपेसिटी को बढ़ाते हैं और प्रोसीजरल सेफगार्ड्स को कमजोर करते हैं, खासकर इसलिए क्योंकि इन्हें बिना नए पब्लिक कंसल्टेशन के नोटिफाई किया गया था।
सेफ हार्बर: ड्यू डिलिजेंस के जरिए कम किया गया
सेक्शन 79 के तहत सेफ हार्बर प्रोटेक्शन ड्यू डिलिजेंस ऑब्लिगेशन्स के कम्प्लायंस पर कंडीशनल है। नियम स्पष्ट करते हैं कि ऑटोमेटेड तरीकों से गैर-कानूनी या सिंथेटिक कंटेंट को हटाने से, अपने आप में इम्यूनिटी खतरे में नहीं पड़ेगी। हालांकि, इम्यूनिटी तब प्रभावित हो सकती है जब कोई इंटरमीडियरी जानबूझकर प्रोहिबिटेड कंटेंट पर एक्शन लेने की इजाजत देता है या उस पर एक्शन लेने में फेल रहता है।
इसका असर यह होता है कि इम्यूनिटी एक्टिव कम्प्लायंस पर और ज्यादा सख्त हो जाती है।
कम टाइमलाइन के साथ, यह प्लेटफॉर्म को बॉर्डरलाइन मामलों में हटाने की गलती करने के लिए बढ़ावा दे सकता है।
नीचे हाल ही में किए गए बदलावों के आधार पर एक टेबल दी गई है।
अपील तंत्र के अभाव में, दुरुपयोग को लेकर चिंताएं बनी रहती हैं।
संवैधानिक प्रभाव
अनुच्छेद 19(1)(a) के तहत, अभिव्यक्ति की स्वतंत्रता पर लगाया गया कोई भी प्रतिबंध युक्तिसंगत और अनुपातिक होना चाहिए।
ये संशोधन वैध उद्देश्यों -जैसे धोखे, शोषण और हानि से संरक्षण - को साधने का प्रयास करते हैं। किंतु अनुपातिकता का सिद्धांत यह अपेक्षा करता है कि प्रतिबंध संकीर्ण रूप से निर्धारित हों और उनके साथ पर्याप्त सुरक्षा उपाय भी हों।
भविष्य में संभावित वाद-विवाद में उठने वाले प्रमुख प्रश्नों में शामिल हो सकते हैं:
● क्या तीन घंटे की टेकडाउन समय-सीमा सभी प्रकार की अभिव्यक्ति के लिए अनुपातिक है;
● क्या कार्यपालिका द्वारा जारी टेकडाउन नोटिस पर्याप्त प्रक्रिया-सम्मत न्याय प्रदान करते हैं;
● क्या स्वचालित मॉडरेशन आवश्यकताएं व्यवस्थित रूप से हटाने (ओवर-रिमूवल) की ओर ले जाती हैं;
● क्या मेटाडेटा एम्बेडिंग गोपनीयता संबंधी चिंताएं पैदा करती है।
निष्कर्ष
संशोधित आईटी नियम कृत्रिम और एआई-निर्मित सामग्री पर नियामक निगरानी का एक महत्वपूर्ण विस्तार दर्शाते हैं। ये विशेष रूप से बिना सहमति के डीपफेक और प्रतिरूपण जैसी वास्तविक नुकसानों का प्रत्युत्तर देते हैं।
साथ ही, यह ढांचा कार्यपालिका के टेकडाउन अधिकारों को सशक्त बनाता है, अनुपालन समय-सीमा को घटाता है, और मध्यस्थों (इंटरमीडियरी) के सक्रिय हस्तक्षेप पर सुरक्षित आश्रय (सेफ हार्बर) संरक्षण को अधिक कठोरता से निर्भर करता है।
पूर्ण नियम यहां देखे जा सकते हैं।
केंद्र सरकार ने इन्फॉर्मेशन टेक्नोलॉजी (इंटरमीडियरी गाइडलाइंस और डिजिटल मीडिया एथिक्स कोड) रूल्स, 2021 में बदलावों को नोटिफाई किया है, जिससे भारत में ऑनलाइन कंटेंट को कंट्रोल करने वाले रेगुलेटरी फ्रेमवर्क में काफी बदलाव आएगा। इन्फॉर्मेशन टेक्नोलॉजी एक्ट, 2000 के सेक्शन 87 के तहत जारी और 20 फरवरी, 2026 से लागू होने वाले इन बदलावों में “सिंथेटिकली जेनरेटेड इन्फॉर्मेशन” की एक फॉर्मल डेफिनिशन दी गई है, कुछ AI-जेनरेटेड कंटेंट के लिए जरूरी लेबलिंग और मेटाडेटा की जरूरतें लागू की गई हैं और इंटरमीडियरीज़ के लिए टेकडाउन टाइमलाइन को काफी कम कर दिया गया है।
डीप फेक और बिना सहमति वाली सिंथेटिक इमेजरी से निपटने के अलावा, यह नोटिफिकेशंस एग्जीक्यूटिव टेकडाउन अथॉरिटी को भी रीस्ट्रक्चर करता है और एक्टिव कम्प्लायंस पर सेफ हार्बर प्रोटेक्शन को स्पष्ट रूप से सक्रिय अनुपालन से जोड़ती है। कोर्ट ऑर्डर और ऑथराइज्ड सरकारी सूचनाओं के लिए तीन घंटे का रिमूवल विंडो पहले के 36 घंटे के फ्रेमवर्क से एक बड़ा बदलाव है। हालांकि ये बदलाव AI के गलत इस्तेमाल से होने वाले डॉक्यूमेंटेड नुकसानों पर ध्यान देते हैं, लेकिन ये एडमिनिस्ट्रेटिव समझ को भी बढ़ाते हैं और प्लेटफॉर्म पर कम्प्लायंस का दबाव भी बढ़ाते हैं जिससे प्रोपोर्शनैलिटी, ड्यू प्रोसेस और ज्यादा हटाने के रिस्क के बारे में जरूरी सवाल उठते हैं।
गजट को ध्यान से पढ़ने से पता चलता है कि इन बदलावों का असर न सिर्फ उनके बताए गए मकसद पर निर्भर करेगा, बल्कि इस बात पर भी निर्भर करेगा कि बेहतर टेकडाउन पावर और कम टाइमलाइन का असल में कैसे इस्तेमाल किया जाता है।
“सिंथेटिकली जेनरेटेड इन्फॉर्मेशन” की औपचारिक परिभाषा
पहली बार, नियम “सिंथेटिकली जेनरेटेड इन्फॉर्मेशन” को ऑडियो, विज़ुअल या ऑडियो-विज़ुअल कंटेंट के तौर पर बताते हैं, जिसे कंप्यूटर रिसोर्स का इस्तेमाल करके आर्टिफिशियली या एल्गोरिदमिकली बनाया जाता है, जेनरेट किया जाता है, मॉडिफाई किया जाता है या बदला जाता है, ताकि वह असली लगे और किसी ऐसे व्यक्ति या घटना को दिखाए जिसे असली माना जा सकता है।
यह परिभाषा धोखे और परसेप्चुअल रियलिज़्म पर फोकस्ड है। रूटीन एडिटिंग, एक्सेसिबिलिटी टूल्स, फॉर्मेटिंग, ट्रांसक्रिप्शन और नेकनीयती से किए गए टेक्निकल करेक्शन को इसमें शामिल नहीं किया गया है, बशर्ते वे कंटेंट के मतलब को असल में न बदलें।
अक्टूबर 2025 में जारी ड्राफ़्ट की तुलना में, अंतिम नियम दायरे को छोटा करते हैं। मिंट की रिपोर्ट के अनुसार, सरकार ने आम ऑनलाइन कंटेंट के 10% पर वॉटरमार्क लगाने का प्रस्ताव छोड़ दिया और लेबलिंग की जरूरतों को सिर्फ ऐसे कंटेंट तक सीमित कर दिया जो लोगों या घटनाओं को गलत तरीके से दिखाता है।
इस कमी से इंडस्ट्री की कुछ चिंताओं का समाधान होता है जो ज्यादा जानकारी देने से जुड़ी हैं। हालांकि, परिभाषा अभी भी सोच पर आधारित है और मतलब के आधार पर इसमें व्यंग, पैरोडी या राजनीतिक हेरफेर शामिल हो सकता है।
जरूरी लेबलिंग और मेटाडेटा की जरूरतें
जो बिचौलिए सिंथेटिक कंटेंट बनाने या फैलाने में मदद करते हैं, उन्हें ये करना होगा:
● ऐसे कंटेंट की स्पष्ट लेबलिंग पक्का करना;
● जहां लागू हो, ऑडियो डिस्क्लोज़र देना;
● परमानेंट मेटाडेटा या प्रोवेंस मार्कर एम्बेड करना;
● ऐसे मार्कर को हटाने या दबाने से रोकना।
इन जरूरतों को पारदर्शिता की जिम्मेदारियों के तौर पर बनाया गया है। इसका मकसद ट्रेसेबिलिटी और यूजर अवेयरनेस लगता है।
लेकिन, दो चिंताएं हैं:
1. टेक्निकल फिजिबिलिटी और क्रॉस-प्लेटफॉर्म इंटरऑपरेबिलिटी - सभी प्लेटफॉर्म प्रोवेनेंस मार्कर को एक जैसा एम्बेड और सुरक्षित नहीं रख सकते, खासकर तब जब कंटेंट अलग-अलग सर्विसेज़ में जाता है।
2. प्राइवेसी और सर्विलांस के असर - परमानेंट आइडेंटिफायर एम्बेड करने से तुरंत मॉडरेशन की जरूरतों के अलावा ट्रैकिंग की इजाजत मिल सकती है।
नियम कहते हैं कि मेटाडेटा को “जितना टेक्निकली संभव हो सके” एम्बेड किया जाना चाहिए, लेकिन कोई स्टैंडर्ड तय नहीं किए गए हैं। इससे कम्प्लायंस की व्याख्या एग्जीक्यूटिव के विवेक पर छोड़ दी जाती है।
रोक और ऑटोमेटेड सुरक्षा उपाय
नियमों के मुताबिक इंटरमीडियरीज को गैर-कानूनी सिंथेटिक कंटेंट को बनाने या फैलाने से रोकने के लिए सही और उचित टेक्निकल उपाय करने होंगे। ये गजट किसी विशेष तकनीकी समाधान को अनिवार्य नहीं करता है। बदलावों के मुताबिक इंटरमीडियरीज को सिंथेटिक कंटेंट को रोकने के लिए ऑटोमेटेड और तकनीकी सुरक्षा उपाय करने होंगे जिसमें शामिल हैं:
● बाल यौन शोषण सामग्री;
● बिना सहमति के निजी/अंतरंग तस्वीरें;
● झूठे इलेक्ट्रॉनिक अभिलेख;
● प्रतिरूपण (किसी और का रूप धारण करना);
● अश्लील सामग्री;
● विस्फोटक, हथियार या गोला-बारूद से संबंधित सामग्री;
● व्यक्तियों या घटनाओं का भ्रामक चित्रण।
बिना सहमति के डीप फेक पोर्नोग्राफ़ी को शामिल करना एक बड़ा डेवलपमेंट है, क्योंकि ऐसे मामलों में बढ़ोतरी देखी गई है।
हालांकि, ऑटोमेटेड सेफ़गार्ड को जरूरी बनाने से ऑपरेशनल और अधिकारों से जुड़ी चिंताएं बढ़ती हैं। ऑटोमेटेड डिटेक्शन सिस्टम में गलती, भेदभाव और ओवर ब्लॉकिंग का खतरा रहता है, खासकर राजनीतिक रूप से सेंसिटिव मामलों में। प्रक्रिया से जुड़े सेफ़गार्ड या अपील ट्रांसपेरेंसी की जरूरतों के बिना, गलत तरीके से हटाए गए कंटेंट को चुनौती देना मुश्किल हो सकता है।
यूजर की घोषणा और वेरिफ़िकेशन की जिम्मेदारियां
जरूरी सोशल मीडिया इंटरमीडियरीज़ (SSMIs) को ये करना होगा:
● यूजर्स से यह घोषणा लेनी होगी कि कंटेंट सिंथेटिक तरीके से बनाया गया है या नहीं;
● ऐसी घोषणाओं को वेरिफ़ाई करने के लिए टेक्निकल टूल्स का इस्तेमाल करना होगा;
● अगर कंटेंट सिंथेटिक होने की पुष्टि होती है तो साफ तौर पर बताना सुनिश्चित करना होगा।
अगर कार्रवाई नहीं की गई तो IT एक्ट के सेक्शन 79 के तहत ड्यू डिलिजेंस प्रोटेक्शन खत्म हो सकता है। यह जरूरत प्लेटफॉर्म को असरदार तरीके से रिएक्टिव मॉडरेशन से प्रोएक्टिव वेरिफ़िकेशन में बदल देती है। यूजर की घोषणाओं को वेरिफ़ाई करने की जिम्मेदारी के लिए AI-बेस्ड डिटेक्शन सिस्टम की जरूरत हो सकती है, जिससे ऑटोमेटेड मॉडरेशन पर निर्भरता बढ़ जाएगी।
तीन घंटे के टेकडाउन विंडो (जिसके बारे में नीचे बताया गया है) को देखते हुए, प्लेटफॉर्म कमजोर एनफोर्समेंट स्ट्रेटेजी चुन सकते हैं, जिससे ज्यादा हटाने की संभावना बढ़ जाती है।
टेकडाउन टाइमलाइन में कमी
ऑपरेशन के हिसाब से सबसे जरूरी बदलाव टेकडाउन टाइमलाइन में कमी है:
● सरकारी या कोर्ट के ऑर्डर: 36 घंटे → 3 घंटे
● बिना सहमति के इंटिमेट इमेजरी: 24 घंटे → 2 घंटे
● शिकायत का समाधान: 72 घंटे → 36 घंटे
● शिकायत की एक्नॉलेजमेंट: 15 दिन → 7 दिन
तीन घंटे की कम्प्लायंस विंडो खास तौर पर कोर्ट ऑर्डर या तय रैंक के किसी ऑथराइज़्ड सरकारी अधिकारी द्वारा जारी लिखित, तर्कपूर्ण सूचना मिलने पर हटाने या एक्सेस डिसेबल करने पर लागू होती है। यह सभी यूजर शिकायतों पर लागू नहीं होती है। 72 घंटे से 36 घंटे तक की कमी शिकायत निवारण प्रावधानों के तहत बताई गई गैर-कानूनी कंटेंट कैटेगरी पर लागू होती है। तीन घंटे की टाइमलाइन सिर्फ औपचारिक सरकारी या न्यायिक निर्देशों तक ही सीमित है। मिंट की रिपोर्ट के मुताबिक, सरकार ने तर्क दिया है कि प्लेटफॉर्म के पास कुछ ही मिनटों में कार्रवाई करने की तकनीकी क्षमता है और सरकारी रिक्वेस्ट कुल रिमूवल का एक छोटा हिस्सा होती हैं। हालांकि, पहले के केस के अनुभव से पता चलता है कि टेकडाउन पावर के गलत इस्तेमाल की चिंताएं मनगढ़ंत नहीं हैं।
कर्नाटक हाई कोर्ट में केस में, एक्स (पहले ट्विटर) ने तर्क दिया कि सरकारी नोटिस में सही वजह नहीं थी और वे प्रक्रिया के हिसाब से कम थे। हालांकि हाई कोर्ट ने एक्स की याचिका खारिज कर दी, लेकिन इस मामले में बार-बार आने वाले मुद्दे सामने आए:
● बिना वजह बताए टेकडाउन नोटिस;
● ट्रांसपेरेंसी की कमी;
● तय डेडलाइन के अंदर पालन करने का दबाव।
स्क्रॉल की रिपोर्ट के अनुसार, इंटरनेट फ्रीडम फाउंडेशन (IFF) ने चेतावनी दी है कि कम टाइमलाइन, बढ़ी हुई एग्जीक्यूटिव पावर के साथ मिलकर, ज्यादा रिमूवल बढ़ा सकती हैं और कानूनी बातों पर रोक लगा सकती हैं।
जब लायबिलिटी रिस्क ज्यादा होता है और समय कम होता है, तो प्लेटफॉर्म पहले कंटेंट हटाते हैं और बाद में रिव्यू करते हैं।
टेकडाउन नोटिस जारी करने के अधिकार वाले अधिकारियों के बारे में सफाई
संशोधनों में यह बताया गया है कि टेकडाउन के निर्देश जारी किए जा सकते हैं:
● सक्षम अधिकार क्षेत्र वाली कोर्ट द्वारा;
● जॉइंट सेक्रेटरी या डायरेक्टर के रैंक से नीचे का कोई सरकारी अधिकारी
● लिखकर, तर्क के साथ जानकारी देकर;
● डिप्टी इंस्पेक्टर जनरल रैंक से नीचे का कोई पुलिस अधिकारी।
नोटिस में कानूनी आधार, इस्तेमाल किया गया कानूनी प्रावधान और कंटेंट का सही URL या इलेक्ट्रॉनिक लोकेशन बताना होगा। जरूरत और अनुपात पक्का करने के लिए सेक्रेटरी लेवल के अधिकारी द्वारा हर महीने रिव्यू करना जरूरी है। हर महीने रिव्यू करने का तरीका एग्जीक्यूटिव के अंदर का है और यह कोई स्वतंत्र या न्यायिक निगरानी का ढांचा नहीं बनाता है। नियमों में रिव्यू के नतीजों को पब्लिश करने की जरूरत नहीं है।
कागज पर, यह पहले “उपयुक्त सरकार या उसकी एजेंसी” के संदर्भ की तुलना में अधिक औपचारिकता प्रस्तुत करता है।
हालांकि, दो संरचनात्मक चिंताएं बनी हुई हैं:
1. एग्जीक्यूटिव का दबदबा - कोर्ट के ऑर्डर जरूरी नहीं हैं; एग्जीक्यूटिव अधिकारियों के पास इंडिपेंडेंट टेकडाउन अथॉरिटी होती है।
2. लिमिटेड ट्रांसपेरेंसी - नियम में टेकडाउन स्टैटिस्टिक्स, एडिटेड ऑर्डर या इंडिपेंडेंट ओवरसाइट के पब्लिकेशन की जरूरत नहीं है।
स्क्रॉल के अनुसार, IFF ने इन बदलावों की आलोचना करते हुए कहा है कि ये ओपेसिटी को बढ़ाते हैं और प्रोसीजरल सेफगार्ड्स को कमजोर करते हैं, खासकर इसलिए क्योंकि इन्हें बिना नए पब्लिक कंसल्टेशन के नोटिफाई किया गया था।
सेफ हार्बर: ड्यू डिलिजेंस के जरिए कम किया गया
सेक्शन 79 के तहत सेफ हार्बर प्रोटेक्शन ड्यू डिलिजेंस ऑब्लिगेशन्स के कम्प्लायंस पर कंडीशनल है। नियम स्पष्ट करते हैं कि ऑटोमेटेड तरीकों से गैर-कानूनी या सिंथेटिक कंटेंट को हटाने से, अपने आप में इम्यूनिटी खतरे में नहीं पड़ेगी। हालांकि, इम्यूनिटी तब प्रभावित हो सकती है जब कोई इंटरमीडियरी जानबूझकर प्रोहिबिटेड कंटेंट पर एक्शन लेने की इजाजत देता है या उस पर एक्शन लेने में फेल रहता है।
इसका असर यह होता है कि इम्यूनिटी एक्टिव कम्प्लायंस पर और ज्यादा सख्त हो जाती है।
कम टाइमलाइन के साथ, यह प्लेटफॉर्म को बॉर्डरलाइन मामलों में हटाने की गलती करने के लिए बढ़ावा दे सकता है।
नीचे हाल ही में किए गए बदलावों के आधार पर एक टेबल दी गई है।
अपील तंत्र के अभाव में, दुरुपयोग को लेकर चिंताएं बनी रहती हैं।
संवैधानिक प्रभाव
अनुच्छेद 19(1)(a) के तहत, अभिव्यक्ति की स्वतंत्रता पर लगाया गया कोई भी प्रतिबंध युक्तिसंगत और अनुपातिक होना चाहिए।
ये संशोधन वैध उद्देश्यों -जैसे धोखे, शोषण और हानि से संरक्षण - को साधने का प्रयास करते हैं। किंतु अनुपातिकता का सिद्धांत यह अपेक्षा करता है कि प्रतिबंध संकीर्ण रूप से निर्धारित हों और उनके साथ पर्याप्त सुरक्षा उपाय भी हों।
भविष्य में संभावित वाद-विवाद में उठने वाले प्रमुख प्रश्नों में शामिल हो सकते हैं:
● क्या तीन घंटे की टेकडाउन समय-सीमा सभी प्रकार की अभिव्यक्ति के लिए अनुपातिक है;
● क्या कार्यपालिका द्वारा जारी टेकडाउन नोटिस पर्याप्त प्रक्रिया-सम्मत न्याय प्रदान करते हैं;
● क्या स्वचालित मॉडरेशन आवश्यकताएं व्यवस्थित रूप से हटाने (ओवर-रिमूवल) की ओर ले जाती हैं;
● क्या मेटाडेटा एम्बेडिंग गोपनीयता संबंधी चिंताएं पैदा करती है।
निष्कर्ष
संशोधित आईटी नियम कृत्रिम और एआई-निर्मित सामग्री पर नियामक निगरानी का एक महत्वपूर्ण विस्तार दर्शाते हैं। ये विशेष रूप से बिना सहमति के डीपफेक और प्रतिरूपण जैसी वास्तविक नुकसानों का प्रत्युत्तर देते हैं।
साथ ही, यह ढांचा कार्यपालिका के टेकडाउन अधिकारों को सशक्त बनाता है, अनुपालन समय-सीमा को घटाता है, और मध्यस्थों (इंटरमीडियरी) के सक्रिय हस्तक्षेप पर सुरक्षित आश्रय (सेफ हार्बर) संरक्षण को अधिक कठोरता से निर्भर करता है।
पूर्ण नियम यहां देखे जा सकते हैं।