मेटा के कंटेंट मॉडरेशन पर सरकार सख्त, भारतीय कानूनों के अनुरूप सिस्टम पर जोर

सरकार ने साफ किया है कि भारत में मेटा के प्लेटफॉर्म को भारतीय कानूनों और स्थानीय परिस्थितियों के अनुसार काम करना होगा। बातचीत का मुख्य उद्देश्य कंपनी के पूरे एल्गोरिदम में बदलाव करना नहीं, बल्कि कंटेंट मॉडरेशन, CSAM, डीपफेक और सिंथेटिक कंटेंट से जुड़े मौजूदा सिस्टम को अधिक प्रभावी और जवाबदेह बनाना है। सरकार ने खास तौर पर स्थानीय भाषाओं और सांस्कृतिक संदर्भों की बेहतर समझ, संवेदनशील मामलों में मानव समीक्षा और हटाए गए हानिकारक कंटेंट को दोबारा रिकमेंड होने से रोकने पर जोर दिया है। मेटा और MeitY के बीच तकनीकी स्तर पर बातचीत आगे भी जारी रहेगी और अगले सप्ताह फिर बैठक होने की संभावना है। हालांकि कुछ चिंताएं अभी भी बनी हुई हैं, अधिकारियों का कहना है कि हालिया बातचीत का मुख्य मकसद यह सुनिश्चित करना है कि मेटा की गाइडलाइंस और कंटेंट पॉलिसी पूरी तरह भारतीय कानूनों के अनुरूप हों।

क्या मेटा को कंटेंट मॉडरेशन मजबूत करना होगा?

सूत्रों के अनुसार, भारत के बाहर काम करने वाली मेटा की टीमें कई बार देश के सांस्कृतिक संदर्भों और स्थानीय संवेदनशीलताओं को पूरी तरह समझ नहीं पाती हैं। ऐसे में कंटेंट की बेहतर मॉडरेशन के लिए कंपनी को स्थानीय स्तर पर अधिक इनपुट की आवश्यकता है। इसमें भारतीय भाषाओं के साथ-साथ अलग-अलग सांस्कृतिक पहलुओं और सामाजिक संदर्भों की बेहतर समझ भी शामिल है।

CSAM के मामले में सरकार ने जीरो टॉलरेंस पर क्या कहा?

बच्चों के यौन शोषण से जुड़े कंटेंट (CSAM) को लेकर सरकारी सूत्रों ने स्पष्ट रुख अपनाया है। उन्होंने कहा कि ऐसे कंटेंट के मामले में जीरो टॉलरेंस रहेगा और किसी भी तरह के समझौते की गुंजाइश नहीं है। अधिकारियों के मुताबिक, किसी प्लेटफॉर्म पर इस तरह के कंटेंट का मौजूद रहना गंभीर नियम उल्लंघन है। उन्होंने कहा कि मेटा को ऐसे मामलों से निपटने के लिए ज्यादा मजबूत और सक्रिय कदम उठाने होंगे। केवल आश्वासन देना पर्याप्त नहीं होगा, बल्कि कंपनी को अपनी कार्रवाई से यह साबित करना होगा कि वह इस तरह के कंटेंट को रोकने के लिए प्रभावी कदम उठा रही है।

सेलिब्रिटी डीपफेक की पहचान में ह्यूमन-इन-द-लूप क्यों जरूरी है?

मशहूर हस्तियों से जुड़े डीपफेक मामलों को लेकर सूत्रों ने कहा कि किसी अधिकृत या वेरिफाइड हैंडल से पोस्ट किए गए कंटेंट को गलती से डीपफेक नहीं माना जाना चाहिए। अधिकारियों के अनुसार, ऐसे संवेदनशील मामलों को पूरी तरह ऑटोमेटेड डिटेक्शन सिस्टम के भरोसे नहीं छोड़ा जा सकता। किसी कंटेंट को हटाने से पहले उसकी सही समीक्षा के लिए “ह्यूमन-इन-द-लूप” सिस्टम जरूरी है। यानी ऑटोमेटेड सिस्टम द्वारा पहचान किए जाने के बाद मानव विशेषज्ञों को भी कंटेंट की समीक्षा करनी चाहिए, जिससे गलत पहचान और अनावश्यक कार्रवाई से बचा जा सके।

हटाए गए डीपफेक कंटेंट के बार-बार लौटने पर क्या है सरकार की चिंता?

सिंथेटिक कंटेंट को लेकर अधिकारियों ने उन पोस्ट और कंटेंट के बार-बार सामने आने पर चिंता जताई, जिन्हें पहले डीपफेक के तौर पर पहचाना जा चुका है और प्लेटफॉर्म से हटाया भी जा चुका है। मेटा से यह स्पष्ट करने को कहा गया है कि किसी कंटेंट को हटाने के बाद उसे दोबारा सामने आने से रोकने के लिए कंपनी कौन से ठोस कदम उठा रही है। अधिकारियों का सवाल है कि पहचान और हटाने की कार्रवाई के बावजूद वही या उससे मिलता-जुलता कंटेंट दोबारा यूजर्स तक कैसे पहुंच रहा है।

यूजर्स की पसंद से अलग कंटेंट क्यों दिखा रहा है मेटा का रिकमेंडेशन सिस्टम?

सरकार ने मेटा के रिकमेंडेशन और वायरल होने वाले एल्गोरिदम को लेकर भी स्पष्टीकरण मांगा है। अधिकारियों ने सवाल किया कि यूजर्स को कई बार उनकी बताई गई पसंद से अलग कंटेंट क्यों दिखाई देता है। सूत्रों के मुताबिक, यह स्थिति रिकमेंडेशन सिस्टम में संभावित कमियों की ओर संकेत करती है। इन कमियों को समझने और दूर करने की जरूरत है, ताकि यूजर्स तक पहुंचने वाले कंटेंट को लेकर सिस्टम अधिक प्रभावी और जवाबदेह बनाया जा सके।

सिंथेटिक कंटेंट को एल्गोरिदम के जरिए बढ़ावा क्यों मिल रहा है?

मेटा से विशेष रूप से पूछा गया कि सिंथेटिक तरीके से तैयार किए गए कंटेंट को उसके एल्गोरिदम के जरिए क्यों बढ़ावा मिल रहा है। अधिकारियों ने स्पष्ट किया कि एक बार किसी कंटेंट को फ्लैग किए जाने के बाद उसे आगे रिकमेंड नहीं किया जाना चाहिए। सरकार का जोर इस बात पर भी है कि ऐसे कंटेंट को बार-बार यूजर्स के सामने आने से रोका जाए। अधिकारियों के अनुसार, केवल कंटेंट हटाना पर्याप्त नहीं है। प्लेटफॉर्म के रिकमेंडेशन सिस्टम को भी यह सुनिश्चित करना होगा कि पहले से फ्लैग या हटाया जा चुका कंटेंट दोबारा वायरल न हो और एल्गोरिदम के जरिए उसकी पहुंच न बढ़े।

मेटा और MeitY के बीच बैठक में क्या हुआ?

ये स्पष्टीकरण शुक्रवार को मेटा की टेक्निकल टीम और इलेक्ट्रॉनिक्स एवं सूचना प्रौद्योगिकी मंत्रालय (MeitY) के अधिकारियों के बीच हुई बैठक के बाद सामने आए हैं। बैठक के दौरान कंपनी के प्रतिनिधियों ने ऑनलाइन हानिकारक कंटेंट से निपटने के लिए मौजूदा सिस्टम और प्रक्रियाओं की जानकारी दी। दोनों पक्षों के बीच इस मुद्दे पर तकनीकी स्तर की बातचीत जारी है और आगे भी संवाद बनाए रखने पर सहमति बनी है। सूत्रों के मुताबिक, अगले सप्ताह बैठकों का एक और दौर होने की संभावना है।