प्रधानमंत्री नरेन्द्र मोदी के बयान ने इसकी गंभीरता को और भी बढ़ा दिया है। मोदी ने कहा कि उनका गरबा खेलते हुए वीडियो वायरल हुआ है जबकि उन्होंने कभी गरबा किया ही नहीं। एआई द्वारा तैयार किए जाने वाले डीपफेक को लेकर सरकार सोशल मीडिया कंपनियों के साथ बैठक की योजना बना रही है। इलेक्ट्रॉनिक्स एवं आईटी मंत्री अिनी वैष्णव ने कहा कि प्लेटफॉर्म पर्याप्त कदम नहीं उठाते हैं, तो सेफ हॉर्बर इम्युनिटी क्लॉज लागू नहीं होगा। इसमें मेटा और गूगल को भी आमंत्रित किया गया है।

आईटी अधिनियम के तहत इन सभी प्लेटफार्मो को सेफ हॉर्बर इम्युनिटी क्लॉज की सुविधा प्राप्त है। मंदाना के मामले के बाद एडवायजरी जारी की जा चुकी है। इस कृत्य के लिए तीन साल की सजा और एक लाख रुपए का जुर्माना लगाया जा सकता है। डीपफेक सिंथेटिक मीडियम है, जिसका प्रयोग फोटो, वीडियो, ऑडियो को आर्टिफिशियल इंटेलीजेंस की मदद से क्रिएट किया जाता है, जो देखने में एकदम असली नजर आता है।

पोनरेग्राफी में इसका खतरनाक स्तर तक प्रयोग बढ़ रहा है जिसमें से 99 फीसद चेहरे नामी महिला सितारों के पाए गए हैं। इसमें आवाज को क्लोन किया जाना भी चालू हो गया है। इन्हें बनाने वालों में शरारती तत्व ही नहीं, बल्कि इन्हें बनाना बेहद जटिल और तकनीकी कार्य होने से बनाने वालों में रिसर्च करने वाले विशेषज्ञों समेत अपरिपक्व उत्साही भी शामिल हैं। इन्हें मामूली कंप्यूटर सिस्टम द्वारा बनाया जा सकते हैं।

यह सारी दुनिया के लिए नई और कड़ी चुनौती बनती जा रही है क्योंकि बड़े राजनीतिज्ञों या सुपर स्टारों के डीपफेक वीडियो के मार्फत कोई भी संवेदनशील बात मिनटों में वायरल होने की संभावना से इनकार नहीं किया जा सकता जो विश्व शांति के खिलाफ जा सकती है। प्रसिद्ध हस्तियों के साथ किए जाने वाला यह खिलवाड़ उन्हें भावनात्मक तौर पर हिला देता है और बेवजह उनकी प्रतिष्ठा तो धूमिल होती ही है।

अमेरिकी चुनाव के दरम्यान इसको लेकर खासी बहस भी छिड़ी थी और फेसबुक को दबाव में आनन-फानन में ढेरों वीडियो डिलीट करने पड़े थे। फेक न्यूज और सिंथेटिक मीडिया ने विसनीयता और आंखों देखे सत्य को संग्दिध बना दिया है। एआई के प्रसार के साथ ही समूची दुनिया को इसके खतरों के प्रति समय रहते सामूहिक तौर पर सतर्क होना होगा।