डीपफेक कंटेंट क्यों और कैसे है खतरनाक? जानें।

डीपफेक को लेकर पिछले दिनों एक चौंकाने वाला सर्वे सामने आया है। इस सर्वे के मुताबिक, भारत में हर 4 में से 1 शख्स डीपफेक कंटेंट का सामना कर रहा है। इससे आप अंदाजा लगा सकते हैं कि डीपफेक किस तरह से अपना पैर पसार रहा है? हाल ही में कई सेलिब्रिटी और पॉलिटिकल लीडर डीपफेक कंटेंट का शिकार हुए हैं। 

केन्द्र सरकार पिछले साल से ही डीपफेक या AI जेनरेटेड कंटेंट को लेकर सख्त रूख अपनाया है। भारत में डीपफेक कंटेंट का प्रचार-प्रसार करने पर भारी जुर्माने का भी प्रावधान है। यही नहीं, कई मामलों में आपको जेल भी जाना पड़ सकता है।

सर्वे में चौंकाने वाले आंकड़े

भारत में डीपफेक कंटेंट का ज्यादातर इस्तेमाल साइबर फ्रॉड और अफवाह फैलाने के लिए किया जाता है। AI जेनरेटेड कंटेंट को यूजर सच मान लेते हैं और फिर उसके शिकार हो जाते हैं। McAfee द्वारा हाल में किए गए सर्वे के मुताबिक, 2023 के मुकाबले 80 प्रतिशत से ज्यादा लोग अब डीपफेक की वजह से चिंतित हैं। 

वहीं, करीब 64 प्रतिशत लोगों का कहना है कि AI द्वारा होने वाले साइबर फ्रॉड में असली और नकली की पहचान बेहद मुश्किल है। हालांकि, इस सर्वे में भाग लेने वाले 30 प्रतिशत लोगों का कहना है कि वो AI जेनरेटेड कंटेंट की पहचान करने में सक्षम हैं। साइबर सिक्योरिटी फर्म के इस सर्वे में दुनियाभर के 7,000 लोगों ने भाग लिया था।

डीपफेक  को लेकर क्या है कानून?

भारत में डीपफेक को लेकर कड़े कानून हैं। IT Act 66E और IT Act 67 में इस तरह के कंटेंट को ऑनलाइन शेयर करने पर जुर्माने के साथ-साथ जेल जाने का भी प्रावधान किया गया है। IT Act 66E के मुताबिक, अगर किसी शख्स का फोटो या वीडियो बिना उसकी अनुमति के सोशल और ऑनलाइन प्लेटफॉर्म पर पब्लिश किया जाता है, तो 3 साल तक की जेल और 2 लाख रुपये तक का जुर्माना लगाया जा सकता है।

IT Act 67 कहता है कि किसी भी शख्स की अश्लील फोटो बनाए जाने या फिर शेयर करने पर 3 साल की जेल और 5 लाख रुपये तक का जुर्माना देना होगा। वहीं, बार-बार वही गलती करने पर 5 साल तक की जेल और 10 लाख रुपये तक का जुर्माना देना पड़ सकता है।

पिछले साल 7 नवंबर 2023 को केन्द्र सरकार ने सोशल मीडिया इंटरमीडियरिज (SMI) को डीपफेक और AI जेनरेटेड कंटेंट को लेकर एडवाइजरी जारी किया था। अपने एडवाइजरी में सरकार ने SMI से कहा था कि वो डीपफेक कंटेंट की पहचान करें और उनपर ऐक्शन लें। किसी भी डीपफेक कंटेंट के रिपोर्ट होने पर उसे सोशल और ऑनलाइन प्लेटफॉर्म से रिपोर्ट के 36 घंटे के अंदर हटाया जाना चाहिए, नहीं तो प्लेटफॉर्म पर भारतीय दंड संहिता के तहत कार्रवाई की जा सकती है। 

सरकार को डीपफेक की पहचान के लिए एक तंत्र विकसित करने, जनता को हेरफेर का पता लगाने के बारे में शिक्षित करने के लिए गूगल, मेटा और एक्स जैसे तकनीकी दिग्गजों के साथ मिलकर काम करने की आवश्यकता है। जनता को असली और नकली या चालाकी से बदली हुई मीडिया के बारे में सिखाना होगा ताकि लोग इसको लेकर जागरूक हो सकें।

डीपफेक कंटेंट की कैसे करें पहचान?

डीपफेक और AI जेनरेटेड कंटेंट की पहचान करना एक आम यूजर के लिए बेहद मुश्किल है। हालांकि, अगर यूजर सतर्क रहे तो डीपफेक कंटेंट से पार पाया जा सकता है।

1. सोशल मीडिया पर शेयर किया गया कोई भी कंटेंट अगर अजीब लगे या फिर कोई जान-पहचान का शख्स आपसे फोन कॉल पर अजीब डिमांड करें तो यह फर्जी हो सकता है।
2. इस तरह के सोशल पोस्ट को भावनाओं में बहकर शेयर न करें और न ही किसी परिचित की आवाज सुनकर मदद करने की कोशिश करें।
3. किसी भी AI जेनरेटेड डीपफेक वीडियो की पहचान वीडियो में दिखाए जा रहे शख्स के चेहरे, उंगलियों और आवाज पर केंद्रित करने पर की जा सकती है।

इनके अलावा AI जेनरेटेड डीपफेक की पहचान के लिए रिवर्स मशीन लर्निंग AI भी तैयार किया जा रहा है, जिससे डीपफेक की जांच करना और आसान हो जाएगा। साथ ही, डीपफेक कंटेंट शेयर करने वाले अपराधियों के लोकेशन को भी ट्रैक करने में सुविधा होगी।

और पढ़ें:- क्या है कॉलेजियम प्रणाली? जिसे खत्म करने वाली याचिकाओं पर विचार भी नहीं करना चाहता सुप्रीम कोर्ट।