डीपफेक क्या हैं और आपके परिवार को क्यों चिंतित होना चाहिए?

फोन पर आवाज़ बिल्कुल आपके बच्चे जैसी लगती है

कल्पना कीजिए कि आपकी बेटी का फोन आता है। वह रो रही है, कह रही है कि उसका कार एक्सीडेंट हो गया है और उसे तुरंत पैसों की ज़रूरत है। आवाज़ उसी की है — लहज़ा, उतार-चढ़ाव, यहाँ तक कि जिस तरह वह "माँ" कहती है। लेकिन वह वो नहीं है। वह एक मशीन है।

यह एक डीपफेक है — आर्टिफिशियल इंटेलिजेंस द्वारा बनाया गया सिंथेटिक मीडिया जो किसी की आवाज़, चेहरा या शक्ल को चौंकाने वाली सटीकता से कॉपी कर सकता है। जो काम पहले हॉलीवुड स्टूडियो और करोड़ों के बजट से होता था, वह अब एक स्मार्टफोन ऐप और कुछ सेकंड के ऑडियो से हो सकता है।

डीपफेक वास्तव में क्या है?

"डीपफेक" शब्द "डीप लर्निंग" (एक प्रकार की AI) और "फेक" (नकली) को जोड़कर बना है। डीप लर्निंग एल्गोरिदम असली ऑडियो या वीडियो के पैटर्न का विश्लेषण करते हैं, फिर उन पैटर्न की नकल करने वाली नई सामग्री बनाते हैं। वॉइस क्लोनिंग के लिए, AI किसी व्यक्ति की बोली की रिकॉर्डिंग का अध्ययन करती है — पिच, लय, उच्चारण, साँस लेने के पैटर्न — और उस आवाज़ में बिल्कुल नए वाक्य बनाती है।

• वॉइस क्लोन — AI द्वारा बनाई गई बोली जो किसी खास व्यक्ति जैसी लगती है
• फेस स्वैप — वीडियो जिसमें एक व्यक्ति का चेहरा दूसरे से बदल दिया जाता है
• फुल-बॉडी पपेट — किसी व्यक्ति का सिंथेटिक वीडियो जिसमें वह ऐसा कर या कह रहा है जो उसने कभी नहीं किया
• टेक्स्ट-स्टाइल मिमिक — AI द्वारा लिखे गए संदेश जो किसी की लेखन शैली की नकल करते हैं

यह कितनी तेज़ी से बढ़ रहा है?

डीपफेक तकनीक की वृद्धि विस्फोटक रही है। जो टूल्स 2019 में प्रयोगात्मक शोध परियोजनाएँ थीं, वे अब मुफ्त में उपलब्ध ऐप्स हैं। प्रवेश की बाधा ध्वस्त हो चुकी है।

असली वॉइस क्लोनिंग घोटाले जो पहले ही हो चुके हैं

2023 की शुरुआत में, एरिज़ोना में एक माँ को एक कॉल आया जो बिल्कुल उनकी 15 वर्षीय बेटी जैसी लग रही थी — सिसकती हुई, मदद माँगती हुई। फिर एक पुरुष की आवाज़ आई जो फिरौती माँग रहा था। बेटी उस पूरे समय घर पर सुरक्षित थी — स्कैमर्स ने उसकी आवाज़ को सोशल मीडिया वीडियो से क्लोन किया था।

एक अन्य मामले में, UK के एक CEO को $243,000 ट्रांसफर करने के लिए धोखा दिया गया जब उन्हें लगा कि उनकी पैरेंट कंपनी के बॉस का फोन आया है। आवाज़ एक AI क्लोन थी। पैसे कुछ ही घंटों में गायब हो गए।

"मैं अपनी जान की शर्त लगा सकती थी कि वह उसकी आवाज़ थी। मेरे मन में कोई संदेह नहीं था। यही बात इसे इतना डरावना बनाती है।" — एरिज़ोना की माँ जो वॉइस क्लोनिंग स्कैम का शिकार हुईं

परिवार मुख्य निशाना क्यों हैं

स्कैमर्स उस एक चीज़ का फायदा उठाते हैं जो तर्कसंगत सोच को दरकिनार कर देती है: प्यार। जब आपको लगता है कि आपका कोई अपना खतरे में है, तो आप रुककर सत्यापन नहीं करते। आप तुरंत कार्रवाई करते हैं। अपने परिवार की रक्षा करने की यह जैविक प्रवृत्ति ही वह चीज़ है जिसे डीपफेक स्कैमर्स हथियार बनाते हैं।

• भावनात्मक बंधन संकट के दौरान आलोचनात्मक सोच को दरकिनार कर देते हैं
• परिवार के सदस्यों की आवाज़ें सोशल मीडिया, वॉइसमेल ग्रीटिंग्स और वीडियो पोस्ट पर व्यापक रूप से उपलब्ध हैं
• माता-पिता और दादा-दादी जब मानते हैं कि कोई अपना खतरे में है तो जल्दी से बड़ी रकम दे देते हैं
• पारिवारिक आपातकालीन परिदृश्य ऐसी तात्कालिकता पैदा करते हैं जो सत्यापन को रोकती है
• बहु-पीढ़ी वाले परिवारों में सदस्यों की तकनीकी जागरूकता का स्तर अलग-अलग होता है

आप अभी क्या कर सकते हैं

डीपफेक तकनीक कहीं नहीं जा रही — यह हर महीने बेहतर और सस्ती होती जा रही है। लेकिन जागरूकता रक्षा की पहली पंक्ति है। यह समझना कि फोन पर कोई भी आवाज़ नकली हो सकती है — यह भरोसे के बारे में हमारी सोच में एक मौलिक बदलाव है। अच्छी खबर: पारिवारिक सुरक्षा शब्द जैसे सरल, लो-टेक समाधान सबसे उन्नत AI के खिलाफ भी अत्यंत प्रभावी हैं।