AI Voice Cloning Scam: डीपफेक तस्वीर और वीडियो के बाद अब आर्टिफिशियल इंटेलिजेंस यानी AI के जरिए आवाज की हूबहू नकल कर ठगी के मामले सामने आ रहे हैं। ठग कुछ सेकंड की आवाज के सैंपल से किसी व्यक्ति की आवाज जैसी क्लोन तैयार कर सकते हैं। इसके बाद रिश्तेदार या परिचित बनकर फोन कर इमरजेंसी का हवाला देकर पैसे मांगे जाते हैं। ऐसे में सिर्फ आवाज पहचानकर भरोसा करना खतरनाक साबित हो सकता है।
क्या है AI Voice Cloning?
AI Voice Cloning ऐसी तकनीक है, जिसमें आर्टिफिशियल इंटेलिजेंस किसी व्यक्ति की आवाज के सैंपल का विश्लेषण कर उसके जैसी नई आवाज तैयार करता है। इसमें आवाज का टोन, उच्चारण, बोलने का अंदाज और उतार-चढ़ाव तक कॉपी किया जा सकता है।
द कन्वर्सेशन की रिपोर्ट के मुताबिक, किसी व्यक्ति की आवाज का करीब तीन सेकंड का ऑडियो सैंपल भी Voice Clone तैयार करने के लिए पर्याप्त हो सकता है। हालांकि, ज्यादा लंबी रिकॉर्डिंग उपलब्ध होने पर AI आवाज की बारीकियों को और बेहतर तरीके से कॉपी कर सकता है। सोशल मीडिया पर मौजूद वीडियो, ऑडियो या सार्वजनिक रिकॉर्डिंग भी इसके लिए इस्तेमाल की जा सकती हैं।
AI Voice Cloning Scam कैसे होता है?
ठग सबसे पहले किसी व्यक्ति की आवाज का सैंपल हासिल करते हैं। इसके बाद AI की मदद से उसकी आवाज का क्लोन तैयार किया जाता है। इस क्लोन आवाज से फोन कॉल या ऑडियो मैसेज भेजकर पीड़ित को भरोसे में लेने की कोशिश की जाती है।
कॉल में अक्सर बताया जाता है कि कोई रिश्तेदार अस्पताल में भर्ती है, उसका एक्सीडेंट हो गया है, वह कानूनी परेशानी में फंस गया है या उसे तत्काल पैसों की जरूरत है। इसके बाद जल्द से जल्द रकम ट्रांसफर करने का दबाव बनाया जाता है।
कुछ मामलों में कॉलर आईडी की नकल करके कॉल को और विश्वसनीय दिखाने की कोशिश भी की जा सकती है। इस तरह Voice Cloning का इस्तेमाल आर्थिक धोखाधड़ी, निवेश ठगी और अन्य साइबर अपराधों में किया जा सकता है।
अमेरिकी रिसर्च में सामने आई चौंकाने वाली बात
अमेरिका की University of California, Berkeley के शोधकर्ताओं ने AI से तैयार आवाजों को इंसानों द्वारा पहचानने की क्षमता पर अध्ययन किया। यह रिसर्च वैज्ञानिक जर्नल Scientific Reports में प्रकाशित हुई।
अध्ययन में 604 लोगों को शामिल किया गया। शोधकर्ताओं ने 200 से अधिक स्पीकर की आवाजों और आधुनिक Voice Cloning तकनीक का इस्तेमाल किया।
रिसर्च के मुताबिक, जब लोगों ने किसी व्यक्ति की असली आवाज और उसी व्यक्ति की AI-generated आवाज सुनी, तो उन्होंने करीब 80 फीसदी मामलों में AI आवाज को उसी व्यक्ति की असली आवाज माना। वहीं जब उनसे सीधे पूछा गया कि आवाज असली है या AI से बनाई गई है, तो वे करीब 60 फीसदी मामलों में ही सही पहचान कर पाए।
अध्ययन में यह भी सामने आया कि छोटी रिकॉर्डिंग में AI-generated आवाज की पहचान करना ज्यादा मुश्किल हो सकता है। वहीं बातचीत को लंबा करने और सामने वाले से खुले सवाल पूछने से फर्जी आवाज पहचानने की संभावना बढ़ सकती है।
हाल में सामने आए AI Voice Cloning के मामले
इंदौर: जनवरी में एक प्ले स्कूल की प्रमुख को उनके रिश्तेदार की क्लोन की गई आवाज में फोन आया। कॉल करने वाले ने सर्जरी के लिए पैसे की जरूरत बताई। इसके बाद करीब 97,500 रुपये ट्रांसफर किए गए।
नासिक: महाराष्ट्र के नासिक में अगस्त में पुलिस ने 26 वर्षीय संकेत सचिन चव्हाण को कथित 11.8 लाख रुपये की मैट्रिमोनियल धोखाधड़ी के मामले में गिरफ्तार किया। आरोप है कि इस मामले में AI Voice Cloning का इस्तेमाल किया गया।
कोलकाता: इसी महीने कोलकाता में 67 वर्षीय व्यक्ति को परिचित की आवाज में फोन किया गया। कॉल करने वाले ने रिश्तेदार के अस्पताल में भर्ती होने की बात कही और करीब 95,990 रुपये की ठगी कर ली।
AI Voice Cloning Scam से कैसे बचें?
- करीबी व्यक्ति के नाम से अचानक पैसे मांगने वाला फोन आए तो सिर्फ आवाज पहचानकर भरोसा न करें।
- कॉल काटकर संबंधित व्यक्ति के सामान्य मोबाइल नंबर पर खुद फोन करके पुष्टि करें।
- परिवार में कोई Code Word या ऐसा सवाल तय किया जा सकता है, जिसका जवाब सिर्फ करीबी लोगों को पता हो।
- सामने वाला अगर तुरंत पैसे भेजने, OTP बताने या बैंकिंग जानकारी साझा करने का दबाव बनाए तो पहले उसकी पहचान की पुष्टि करें।
- कथित इमरजेंसी की जानकारी किसी दूसरे रिश्तेदार या भरोसेमंद व्यक्ति से भी जांचें।
- OTP, UPI PIN, Password, Card Details या बैंक संबंधी संवेदनशील जानकारी फोन पर साझा न करें।
- जरूरी ऑनलाइन अकाउंट में Multi-Factor Authentication यानी MFA का इस्तेमाल करें।
भारत में AI Content को लेकर सरकार ने क्या बदला?
AI से तैयार फर्जी Audio, Video और अन्य Synthetic Content के बढ़ते इस्तेमाल के बीच केंद्र सरकार ने 6 अक्टूबर को नई गाइडलाइन जारी की। इसमें Social Media और अन्य Online Platforms को AI से बनाए गए भ्रामक और गैरकानूनी कंटेंट को लेकर सतर्क रहने तथा लागू नियमों का पालन सुनिश्चित करने को कहा गया है।
Voice Cloning के जरिए किसी व्यक्ति की आवाज की नकल कर धोखाधड़ी या प्रतिरूपण करना भी AI के संभावित दुरुपयोग का हिस्सा हो सकता है।
इससे पहले भी सरकार ने AI और Deepfake से जुड़े जोखिमों को देखते हुए IT Rules, 2021 में संशोधन किया था। 10 फरवरी 2026 को किए गए संशोधन में Syntheticly Generated Information यानी SGI से होने वाले नुकसान को रोकने से जुड़े प्रावधान शामिल किए गए। ये संशोधन 20 फरवरी 2026 से लागू हुए।
क्या है Syntheticly Generated Information?
Syntheticly Generated Information (SGI) ऐसे Audio, Visual या Audio-Visual Content को कहा जाता है, जिसे कंप्यूटर संसाधनों और Algorithms की मदद से कृत्रिम तरीके से बनाया या बदला गया हो और जो देखने या सुनने में किसी वास्तविक व्यक्ति या घटना जैसा प्रतीत हो।
AI से बने Content पर Label जरूरी
नए नियमों के तहत AI से तैयार किए गए कंटेंट की पहचान के लिए स्पष्ट Label और Traceable Metadata की व्यवस्था की गई है। इसका उद्देश्य यूजर्स को यह समझने में मदद करना है कि कोई Content AI या अन्य Synthetic Technology की मदद से तैयार किया गया है।
AI के बढ़ते इस्तेमाल के बीच Voice Cloning Scam यह संकेत देता है कि आने वाले समय में किसी व्यक्ति की पहचान सिर्फ उसकी आवाज से तय करना पर्याप्त नहीं होगा। ऐसे मामलों में आवाज से ज्यादा जरूरी है पहचान की स्वतंत्र पुष्टि।
