Deepfake पर सरकार सख्त, Meta को Algorithm बदलने और Compliance Roadmap देने का निर्देश

 8 अगस्त 2026: भारत सरकार ने सोशल मीडिया प्लेटफॉर्म्स पर तेजी से फैल रहे AI-generated deepfakes, manipulated content, propaganda और अन्य गैरकानूनी सामग्री को लेकर Meta पर दबाव बढ़ा दिया है। इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने Meta से अपने content moderation algorithms में जरूरी बदलाव करने और डिजिटल प्लेटफॉर्म पर हानिकारक तथा अवैध सामग्री के प्रसार को रोकने के लिए एक स्पष्ट और विस्तृत compliance roadmap प्रस्तुत करने को कहा है।

सरकारी सूत्रों के अनुसार, मंत्रालय की चिंता केवल deepfake videos तक सीमित नहीं है। Facebook, Instagram और WhatsApp जैसे Meta के प्लेटफॉर्म पर manipulated information, propaganda, illegal material और अन्य harmful content के तेजी से प्रसार को भी गंभीरता से लिया जा रहा है। सरकार चाहती है कि प्लेटफॉर्म की तकनीकी प्रणालियां ऐसे कंटेंट को पहचानने, उसकी visibility कम करने और आवश्यक होने पर उसे तेजी से हटाने में अधिक प्रभावी हों।

Algorithm में बदलाव की मांग

MeitY की ओर से Meta को दिए गए निर्देशों का एक प्रमुख हिस्सा उसके algorithms से जुड़ा है। सोशल मीडिया platforms पर users को कौन-सा content दिखाई देता है, इसमें recommendation और ranking algorithms की महत्वपूर्ण भूमिका होती है।

सरकार का मानना है कि यदि manipulated या misleading content तेजी से लोगों तक पहुंच रहा है, तो केवल बाद में उसे हटाना पर्याप्त नहीं होगा। Platforms को अपने systems में ऐसे technical mechanisms मजबूत करने होंगे जो harmful content की पहचान और उसके distribution को शुरुआती चरण में ही सीमित कर सकें।

इसी वजह से Meta से algorithmic changes और moderation systems को मजबूत करने के साथ-साथ इस दिशा में उठाए जाने वाले कदमों का विस्तृत roadmap मांगा गया है।

Deepfake सबसे बड़ी चुनौती

Artificial intelligence की मदद से बनाए जाने वाले deepfakes ने misinformation की चुनौती को और जटिल बना दिया है। किसी व्यक्ति के चेहरे, आवाज या वीडियो को इस तरह बदला जा सकता है कि देखने वाले को वह वास्तविक घटना जैसा दिखाई दे।

इस तकनीक का गलत इस्तेमाल किसी व्यक्ति की छवि खराब करने, धोखाधड़ी, impersonation, misinformation और सार्वजनिक भ्रम पैदा करने के लिए किया जा सकता है। सरकार ने पहले भी synthetic media और deepfakes के संभावित दुरुपयोग को लेकर platforms को चेतावनी दी है।

मार्च 2026 में सरकार ने कहा था कि generative AI और synthetically generated information के बढ़ते इस्तेमाल से misinformation, election manipulation, impersonation और अन्य नुकसान का खतरा पैदा हो सकता है।

भारत में पहले ही मजबूत किए जा चुके हैं IT Rules

Deepfake और AI-generated content से निपटने के लिए भारत सरकार ने 2026 में IT Rules के regulatory framework में बदलाव किए हैं। संशोधित नियम 20 फरवरी 2026 से प्रभावी हुए।

इन बदलावों में synthetically generated information, deepfakes, non-consensual intimate imagery और identity या events की गलत प्रस्तुति जैसे मामलों को लेकर platforms की जिम्मेदारियों को मजबूत किया गया है।

सरकार ने कुछ श्रेणियों की शिकायतों पर content removal की समयसीमा भी कम की है। उदाहरण के लिए, निजी या intimate material तथा electronic impersonation जैसे मामलों में शिकायत मिलने के बाद intermediary को निर्धारित परिस्थितियों में दो घंटे के भीतर content हटाने या access disable करने के लिए reasonable and practicable measures लेने होते हैं।

सिर्फ Content Removal नहीं, Prevention पर जोर

सरकार की मौजूदा मांग का महत्व इस बात में है कि अब focus केवल content को हटाने तक सीमित नहीं दिखाई देता। Algorithmic recommendation और distribution systems पर भी ध्यान दिया जा रहा है।

किसी fake video को हटाने के बाद भी यदि वह कुछ घंटों में लाखों users तक पहुंच चुका है, तो नुकसान पहले ही हो सकता है। इसलिए सरकार चाहती है कि platforms detection, moderation और distribution control के स्तर पर preventive mechanisms को मजबूत करें।

इसका मतलब deepfake detection technology, human moderation, automated systems, user reporting और government-authorised requests के बीच बेहतर coordination की आवश्यकता हो सकती है।

Government takedown requests पर भी तेजी

रिपोर्टों के अनुसार, Meta को authorised government agencies द्वारा flagged content पर action तेज करने के लिए भी कहा गया है। सरकार चाहती है कि कानून के तहत आने वाले मामलों में platforms की response mechanism अधिक प्रभावी हो।

यह मांग ऐसे समय में सामने आई है जब भारत में misinformation और fake content को लेकर सरकारी agencies भी अपनी monitoring और fact-checking capabilities बढ़ा रही हैं।

Press Information Bureau की Fact Check Unit ने अप्रैल 2026 तक 2,900 से अधिक fact-checks जारी किए थे। सरकार के अनुसार इनमें AI-generated और misleading videos, fake notifications, letters तथा websites से जुड़े दावों की भी जांच शामिल रही है।

सोशल मीडिया कंपनियों की जवाबदेही बढ़ेगी

Meta दुनिया की सबसे बड़ी technology और social-media companies में से एक है। उसके platforms की विशाल user base के कारण content moderation में किसी भी कमी का असर बड़े स्तर पर हो सकता है।

भारत सरकार का ताजा कदम यह संकेत देता है कि social-media companies को केवल technology providers के रूप में नहीं, बल्कि digital information ecosystem के महत्वपूर्ण stakeholders के रूप में देखा जा रहा है।

यदि algorithms किसी misleading या manipulated content को बार-बार users तक पहुंचाते हैं, तो regulators के सामने यह सवाल उठ सकता है कि platform ने harmful content के distribution को रोकने के लिए पर्याप्त कदम उठाए या नहीं।

Freedom of Speech और Regulation के बीच संतुलन

हालांकि, deepfake और misinformation पर कार्रवाई के साथ freedom of speech को लेकर भी महत्वपूर्ण सवाल उठते हैं। इंटरनेट पर हर गलत या विवादित जानकारी को illegal content मानना उचित नहीं होगा।

सरकार और platforms के सामने चुनौती यह है कि illegal manipulation, impersonation और deliberately deceptive content को प्रभावी ढंग से रोका जाए, लेकिन legitimate criticism, satire, journalism और सामान्य user expression पर अनावश्यक restrictions न लगें।

इसलिए content moderation algorithms में transparency, clear definitions और effective appeal mechanisms महत्वपूर्ण हो सकते हैं।

AI के बढ़ते इस्तेमाल ने बढ़ाई चुनौती

Generative AI technology के तेजी से विकास ने fake content बनाना आसान और सस्ता कर दिया है। पहले high-quality manipulated videos तैयार करने के लिए specialized skills और resources की जरूरत होती थी। अब कई AI tools की मदद से relatively realistic images, videos और audio तैयार किए जा सकते हैं।

इस बदलाव ने regulators और social-media companies दोनों के सामने नई चुनौती खड़ी कर दी है। Detection systems को लगातार विकसित करना पड़ता है क्योंकि deepfake बनाने वाली technologies भी तेजी से बदल रही हैं।

यही कारण है कि सरकार का Meta से algorithmic overhaul और detailed roadmap मांगना केवल वर्तमान समस्या का समाधान नहीं, बल्कि आने वाले समय के लिए platform preparedness पर भी जोर माना जा रहा है।

Meta के लिए अगला चरण महत्वपूर्ण

अब Meta को यह स्पष्ट करना होगा कि वह deepfakes, manipulated media, propaganda और illegal content की पहचान और रोकथाम के लिए कौन-कौन से technical और operational measures लागू करेगा।

Compliance roadmap में detection systems, moderation capacity, response mechanisms और government requests पर action जैसे कई पहलू महत्वपूर्ण हो सकते हैं।

सरकार की निगरानी इस बात पर भी रहेगी कि घोषित policies वास्तविक platform operations में कितनी प्रभावी साबित होती हैं।

भारत में AI Content Regulation का नया दौर

भारत में deepfake regulation अब केवल policy discussion नहीं रह गया है। 2026 में IT Rules में किए गए बदलावों के बाद synthetic media से जुड़े मामलों पर platforms की कानूनी और operational responsibilities अधिक स्पष्ट हुई हैं।

Meta को algorithmic changes और compliance roadmap देने का निर्देश इसी broader regulatory approach का हिस्सा दिखाई देता है।

आने वाले समय में अन्य बड़े social-media platforms भी regulatory scrutiny के दायरे में आ सकते हैं। यदि सरकार को लगता है कि किसी platform की moderation व्यवस्था पर्याप्त नहीं है, तो उससे भी similar compliance measures मांगे जा सकते हैं।

निष्कर्ष

AI-generated deepfakes और fake news ने डिजिटल दुनिया में भरोसे की समस्या को गंभीर बना दिया है। भारत सरकार का Meta को algorithmic overhaul और detailed compliance roadmap के लिए कहना इस बात का संकेत है कि अब केवल content हटाने की नीति पर्याप्त नहीं मानी जा रही।

सरकार चाहती है कि social-media platforms अपनी technology, moderation systems और response mechanisms को इस तरह मजबूत करें कि manipulated और illegal content बड़े पैमाने पर फैलने से पहले ही नियंत्रित किया जा सके।

अब इस पूरे मामले में Meta की अगली कार्रवाई महत्वपूर्ण होगी। कंपनी किस तरह का roadmap पेश करती है और उसके algorithms में वास्तव में क्या बदलाव किए जाते हैं, यह तय करेगा कि भारत में deepfake और misinformation के खिलाफ regulatory push कितना प्रभावी साबित होता है।