Deepfake Advisory: सोशल मीडिया पर तेजी से बढ़ते डीपफेक वीडियोज और सच-झूठ के बीच खत्म होते फासले पर सरकार चिंतित है। अब केंद्र सरकार ने सोशल मीडिया प्लेटफॉर्म्स के लिए एडवाइजरी जारी कर डीपफेक पर रोक लगाने को कहा है। आईटी मंत्रालय ने प्लेटफार्मों को बताया कि आईटी नियमों के तहत अनुमति नहीं दी गई कंटेंट को यूजर्स को स्पष्ट रूप से सूचित किया करना होगा।
सरकार ने एडवाइजरी में कहा
सरकार ने औपचारिक रूप से सभी इंटरमीडिएरिज व सोशल मीडिया प्लेटफॉर्म से यह आश्वस्त करने के लिए कहा कि उनके प्लेटफार्म पर आईटी कानून की परिधि में आने वाले कंटेंट का ही प्रसारण हो। अगर इसका उल्लंघन होता है तो उनके खिलाफ कार्रवाई होगी। सरकार ने फेसबुक, इंस्टाग्राम और X (पहले Twitter) जैसे सोशल मीडिया प्लेट फॉर्म्स के लिए एक एडवाइजरी जारी की है और कहा है कि मौजूदा IT नियमों के तहत उन्हें डीपफेक वीडियोज के खिलाफ कार्रवाई करनी चाहिए। इस एडवाइजरी में कहा गया है कि अगर प्लेट फॉर्म्स ऐसे फेक वीडियोज को समय रहते नहीं रोकते और हटाते तो उनके खिलाफ कड़ी कानूनी कार्रवाई की जाएगी।
सोशल मीडिया प्लेटफॉर्मों को स्पष्ट निर्देश
मंत्रालय ने कहा है कि IT रूल्स का नियम 3(1)(b) ऐसे किसी भी कंटेंट को रोकने के निर्देश देना है, जो किसी के अधिकारों का हनन करे। इसमें प्राइवेट, अभद्र या पॉर्नकंटेंट रोकने को भी कहा गया है। इसके अलावा ऐसा कंटेंट भी रोका जाना चाहिए, जो यूजर्स को भ्रमित करता है और किसी व्यक्ति की पहचान इस्तेमाल करते हुए झूठ को तथ्य की तरह पेश करता है। रश्मिका मंदाना का फेक वीडियो देख डरेबिग-बी, इस टेक्नोलॉजी ने बढ़ाई टेंशन। यूजर्स को गलत वीडियो, मैसेज या कंटेंट डालने से रोकने का काम सोशल मीडिया प्लेटफॉर्म का है ताकि इससे अन्य यूजर्स को नुकसान नहीं हो।
प्लेटफॉर्म यूजर्स को यह भी बताएगा कि आईटी कानून के नियम का पालन नहीं करने पर उनके खिलाफ भारतीय दंड संहिता के तहत कार्रवाई की जा सकती है। आईटी नियम के तहत अगर प्लेटफॉर्म पर कोई गलत या भ्रामक सूचना का प्रसारण हो रहा है तो उस कंटेंट को तुरंत हटाने की जिम्मेदारी इंटरमीडिएरिज या प्लेटफॉर्म की है। इंटरमीडिएरिज को ऐसे उपाए भी करने होंगे ताकि यूजर्स गलत कंटेंट प्लेटफार्म पर नहीं डाल सके और डालता है तो तुरंत उसकी जानकारी मिल जाए।
अगले सप्ताह होगी जांच
इलेक्ट्रॉनिक्स व आईटी राज्य मंत्री राजीव चंद्रशेखर ने कहा कि अगले सप्ताह से सरकार की तरफ से जारी सलाह पर अमल की जांच की जाएगी और जरूरत पड़ने पर आईटी नियम में भी बदलाव भी किया जा सकता है। उन्होंने कहा कि गलत सूचना और एआई की मदद से बनाए जाने वाले डीपफेक वीडियो डिजिटल नागरिक की सुरक्षा के लिए खतरनाक है। प्रधानमंत्री नरेन्द्र मोदी ने गत माह एक कार्यक्रम के दौरान डीपफेक वीडियो को लेकर चिंता जाहिर की थी।
इसलिए चर्चा में आए डीप फेक वीडियो
पिछले महीने बॉलीवुड के महानायक अमिताभ बच्चन ने अभिनेत्री रश्मिका मंदाना का एक डीपफेक वीडियो शेयर करते हुए इस पर चिंता जताई थी। केंद्रीय मंत्री अश्विनी वैष्णव ने उस वक्त कहा था कि सोशल मीडिया प्लेट फॉर्म्सको ऐसे वीडियोज पर कार्रवाई करते हुए इन्हें प्लेटफॉर्म से हटाना चाहिए। यह चर्चा तेज इसलिए भी हुई है क्योंकि डीपफेक वीडियोज के जरिए ब्लैकमेलिंग और फ्रॉड के मामले भी सामने आने लगे हैं।
आखिर क्या होते हैं डीपफेक वीडियोज?
डीपफेक वीडियोज में खास टेक्नोलॉजी की मदद से वीडियो में दिख रहे शख्स का चेहरा किसी और के चेहरे से बदल दिया जाता है। इस तरह किसी सिलेब्रिटी या लोकप्रिय चेहरे को ऐसा करते हुए दिखाया जा सकता है, जो उसने कभी किया ही नहीं। डीपफेक टेक्नोलॉजी आपको किसी वीडियो में मारपीट या चोरी करते हुए भी दिखा सकती है। किसी घटना का साक्ष्य समझे जाने वाले वीडियोज की विश्वसनीयता पर डीपफेक की वजह से सवाल खड़े हो रहे हैं।
