AI Deepfake Tool: Pushpa की हीरोइन रश्मिका मंदाना का एक वीडियो पिछले कुछ दिनों से सोशल मीडिया पर छाया हुआ है। इस वीडियो को लेकर फिल्म इंडस्ट्री काफी चिंतित है, क्योंकि यह एक डीपफेक वीडियो है यानी की यह फर्जी वीडियो है, लेकिन वीडियो में दिखाई दे रही युवती बिल्कुल रश्मिका की तरह लग रही हैं। ऐसे में हर किसी के मन में एक सवाल है कि डीपफेक क्या है?
क्या होता है डीपफेक
AI Deepfake Tool: डीपफेक वीडियो को आर्टिफिशियल इंटेलिजेंस (AI) की मदद से बनाया गया वीडियो या इमेज हो सकती है। इन AI को ह्यूमन इमेज को हूबहू कॉपी करने की माहरत हासिल होती है। फेक वीडियो व इमेज में दिखाया गया अंदाज, आवाज और हाव-भाव बिल्कुल वास्तविक प्रतीत होते हैं और इसी डीपफेक AI टूल की मदद से किसी शरारती तत्व ने रश्मिका मंदाना का वीडियो बनाया है।
PM @narendramodi ji's Govt is committed to ensuring Safety and Trust of all DigitalNagriks using Internet
Under the IT rules notified in April, 2023 – it is a legal obligation for platforms to
➡️ensure no misinformation is posted by any user AND
➡️ensure that when reported by… https://t.co/IlLlKEOjtd
— Rajeev Chandrasekhar 🇮🇳 (@RajeevRC_X) November 6, 2023
रश्मिका का फेक वीडियो देखने में इतना असली लग रहा है कि लोग इसे ओरिजिनल वीडियो मानकर खूबर शेयर करते हैं। यह पहली बार नहीं है कि डीपफेक नाम सामने आया है, बल्कि यूट्यूब और फेसबुक जैसी सोशल साइट्स पर आर्टिफिशियल इंटेलिजेंस की मदद से बनाए गए कई वीडियो देखे गए हैं और इन वीडियो देखने के दौरान आपको अंदाजा भी नहीं होगा कि यह नकली है।
सरकार ने दी वीडियो पर सफाई
AI Deepfake Tool: सरकार की ओर से केंद्रीय मंत्री राजीव चंद्रशेखर ने एक सोशल मीडिया पोस्ट में कहा कि प्रधानमंत्री नरेंद्र मोदी इंटरनेट का उपयोग करने वाले सभी डिजिटल नागरिकों की सुरक्षा और विश्वास सुनिश्चित करने के लिए प्रतिबद्ध हैं। उन्होंने कहा कि डीपफेक लेटेस्ट और सबसे खरतनाक है। इसे डील करने की जरूरत है। मंत्री ने फर्जी खबर फैलाने वालों के खिलाफ सख्त कदम उठाने की बात भी कही है।
डीपफेक कंटेंट की पहचान कैसे करें ?
अगर आपको लगता है कि कोई वीडियो या इमेज डीपफेक यानी नकली है तो उसे अच्छे से देखें आपको कहीं न कहीं नकलीपन जरूर दिखाई देगा। कई बार ऐसी वीडियो में आपको हाथ-पैर कि मूवमेंट पर ज्यादा नजर देनी चाहिए। कुछ प्लेटफॉर्म AI जनरेटेड कंटेंट के लिए वॉटरमार्क लगाते हैं, जिससे वीडियो की पहचान की जा सकती है।इसलिए, आपको हमेशा ऐसे नोटिस या डिसक्लेमर पर ध्यान देना चाहिए।
इन AI टूल से पहचाने डीपफेक वीडियो
अगर देखा जाए तो आज मार्केट में ऐसे कई एआई टूल मौजूद हैं जो AI जनरेटेड कंटेंट को आसानी से पकड़ लेते हैं। उदहारण के तौर पर AI or Not और Hive Moderation जैसे कई एआई टूल भी काम में आ सकते हैं, जो एआई-जनरेटेड कंटेंट का पता लगाने का काम करकते हैं। इसके अलावा अलावा भी कई सारे टूल ऑनलाइन मौजूद हैं।
अक्सर पूछे जाने वाले प्रश्न (FAQ)
क्या डीपफेक अवैध हैं?
डीपफेक की वैधता उनके इरादे और संदर्भ पर निर्भर करती है। किसी राजनेता को बड़ी हस्ति को घृणित दिखाने के लिए डीपफेकिंग करना अवैध और अनैतिक माना जा सकता है, किसी फिल्म में छोटे प्रभावों को बदलने के लिए समान तकनीक का उपयोग करना अवैध हो सकता है।
क्या डीपफेक डिजिटल और सूचना सुरक्षा के लिए खतरा पैदा कर सकता है?
हां, डीपफेक डिजिटल और सूचना सुरक्षा के लिए एक बड़ा खतरा है, खासकर आज के युग में जहां इंटरनेट संसाधन आसानी से उपलब्ध हैं। डीपफेक तकनीकों का उपयोग करके, हैकर्स किसी कंपनी के कर्मचारियों का नकली अवतार बना सकते हैं और महत्वपूर्ण और गोपनीय जानकारी तक पहुंच सकते हैं। इससे कंपनी को बड़ा नुकसान हो सकता है।
क्या डीपफेक का पता लगाने वाले उपकरण 100 प्रतिशत सटीकता की गारंटी दे सकते हैं?
डीपफेक का पता लगाने वाले उपकरण 100 प्रतिशत सटीकता की गारंटी नहीं दे सकते। ये उपकरण फोटो या वीडियो से मूर्ख बन सकते हैं। हालांकि, यदि आपको संदेह है, तो मीडिया की प्रामाणिकता की जांच करने के लिए इन उपकरणों के माध्यम से उसे चलाना अभी भी एक अच्छा अभ्यास है। ऑनलाइन उपलब्ध कुछ डीपफेक डिटेक्शन टूल में Deepfakedetector.ai और Intel का FakeCatcher शामिल हैं।
