अक्सर व्हाट्सऐप या इंस्टाग्राम पर आपको कई ऐसे वीडियो मिले होंगे जिसमें डोनाल्ड ट्रम्प, नरेंद्र मोदी और कई राजनेता गाना गाते हुए दिखाई देते हैं ऐसे वीडियो आपको देखने में सामान्य लग सकते हैं और हो सकता है कि कभी-कभार आपको ये वीडियो फेक भी लगें,
लेकिन यह एक ऐसी तकनीक है जिसके बारे में अभी हम बहुत कम जानते हैंऐसे वीडियो डीपफेक (Deepfake) तकनीकी की help से बनाए जाते हैं और यकीन मानिए कि यह तकनीकी फेक न्यूज से भी ज़्यादा खतरनाक है।
क्या है Deepfake?
आपने मोबाइल की कई कैमरा ऐप्स में देखा होगा कि किसी फोटो पर चेहरा बदला जा सकता है। किसी रियल वीडियो में दूसरे के चेहरे को फिट कर देने को डीपफेक नाम दिया गया है इनमें फोटो असली जैसे दिखते हैं,
लेकिन नकली होते हैं। डीपफेक शब्द ‘Deep Learning’ और ‘Fake’ के मेल से बना है। डीपफेक वीडियो भी ऐसे वीडियो होते हैं जो AI का इस्तेमाल करके डिजिटल तरीके से तैयार या एडिट किये जाते हैं।
एक एक्ट्रेस का भी हो रहा है वीडियो वायरल
सोशल मीडिया पर रश्मिका मंदाना का एक वीडियो वायरल हो रहा है जिसमें एक्ट्रेस काफी बोल्ड लग रही हैं। इस फेक वीडियो को शेयर करते हुए एक्टर अमिताभ बच्चन ने अपनी चिंता जाहिर की थी।
दरअसल अमिताभ बच्चन ने इस वीडियो को शेयर करते हुए AI की डीपफेक टेक्नोलॉजी पर अपनी चिंता जाहिर की थी। अब रश्मिका मंदाना ने भी वायरल हो रहे इस फेक वीडियो पर रिएक्ट किया है।
कैसे बनते हैं डीपफेक वीडियो ?
कोई भी डीप लर्निंग सिस्टम किसी भी व्यक्ति के फोटो और वीडियो को अलग-अलग एंगल से स्टडी कर इसका फर्जी वीडियो तैयार कर सकता है। यह सिस्टम स्टडी द्वारा किसी व्यक्ति के व्यवहार और बोलने के अंदाज की नकल कर लेता है।
एक बार वीडियो बनने के बाद जनरेटिव एडरवर्सियल नेटवर्क (GAN) का इस्तेमाल कर इसे और ‘विश्वसनीय’ बनाया जा सकता है। कई बार इस प्रक्रिया से गुजरने के बाद नकली वीडियो एकदम असली लगने लगता है।
डीपफेक की कैसे करें पहचान ?
अगर आपको लगता है कि कोई वीडियो या इमेज डीपफेक है तो उसमें हुए बदलावों पर नजर डाल सकते हैं। कई बार ऐसी वीडियो में आपको हाथ-पैर कि मूवमेंट पर ज्यादा नजर देनी चाहिए। कुछ प्लेटफॉर्म एआई जनरेटेड कंटेंट के लिए वॉटरमार्क जोड़ते हैं कि कंटेंट एआई से जनरेट किया गया है। हमेशा ऐसे निशान या डिसक्लेमर को ध्यान से चेक करें
डीपफेक फैक्ट्स चैक्स ऐप्स
Deepware Scanner एक ऐसा टूल है जिसकी मदद से आप किसी इमेज या वीडियो को डीपफेक पता करने के लिए इस्तेमाल कर सकते हैं। इसके अलावा भी ढेरों टूल ऑनलाइन उपलब्ध हैं। इसके अलावा AI or Not और Hive Moderation जैसे कई एआई टूल भी काम में आ सकते हैं, जो एआई-जनरेटेड कंटेंट का पता लगा सकते हैं।
