गुरुवार, २३ मे, २०२४

New AI Voice Cloning Scams




 AI शी संबंधित दोन घटना आजच माझ्या वाचनात आल्या…पहिली अमेरिकेत घडलेली….दुसरी आपल्या भारतात…..!


लेक्सी बोगनच्या आयुष्यात गेल्या वर्षी मोठा बदल झाला. तिला मेंदूजवळ ट्युमर झाल्याचे कळले. दहा तासांच्या शस्त्रक्रियेमुळे बोगनच्या आवाजाच्या तारांवर (Voice Cord) परिणाम झाला आणि २२ वर्षांच्या बोगनला तिचा आवाज गमवावा लागला. 


त्यानंतर काही दिवसांनी डॉक्टरांनी तिला संपर्क करून एका प्रयोगात सहभागी होण्याची विचारणा केली. त्यांनी तिला OpenAI च्या नवीन व्हॉईसबॉट प्लॅटफॉर्म, Voice Engine, वापरण्यासाठी विचारले. बोगनने त्या प्रयोगामध्ये सहभागी व्हायचे ठरवले.


बोगनच्या आवाजाचा अभ्यास करण्यासाठी AI मॉडेलने तिच्या आधी रेकॉर्ड केलेल्या १५ सेकंदांच्या व्हिडिओचा वापर केला. आणि Voice Cloning करून तिचा आवाज फोन मधील अँप मध्ये save करून दिला. आता, बोगन तिच्या फोनवर काहीही टाईप करून तिच्या स्वतःच्या आवाजात वाचून घेऊ शकते. तिच्या आवाजात हसूही शकते. सर्व भावभावना आपल्या शब्दात आणि आवाजात व्यक्त करू शकते


आवाज गमावलेल्या रुग्णांसाठी दुसऱ्याचा आवाज ऐकणे, किंवा रोबोटिक आवाज ऐकणे फार रुक्ष आणि कठीण असते. मात्र OpenAI सारख्या आवाजाच्या क्लोनिंग तंत्रज्ञानावर काम करणाऱ्या अनेक कंपन्या हा एक मोठा प्रॉब्लेम सोडवीत आहेत.


दुसरी घटना लखनौ मध्ये घडलेली. सरकारी नोकरी करणाऱ्या एका व्यक्तीला एका अनोळखी नंबर वरून फोन आला. फोनवर त्याचा मेव्हणा बोलत होता. तो कोणत्यातरी अडचणीत सापडला होता आणि त्याला त्वरित पैशांची गरज होती. फोन घेणाऱ्या माणसाने (नाव मुद्दाम लपवलेले आहे) घाईघाईत दीड लाख रुपये ट्रान्सफर केले. 


थोड्यावेळाने काम झालं का विचारण्यासाठी मेव्हण्याला फोन केला तेव्हा कळलं की मेव्हण्याने फोन केलाच नव्हता. स्कॅमरने सोशल मिडीया मधून त्याच्या मेव्हणाचा आवाज घेतला. Voice Cloning वापरून फोन केला आणि दीड लाख कमावले.


अशाच घटना मुलांच्या बाबतीतही होत आहेत. पालकांना मुलांच्या आवाजात खोटे फोन जात आहेत. त्यामुळे आपल्या मुलांचे फोटो, व्हिडिओ, त्यांचा ठावठिकाणा समजू शकेल अशा पोस्ट सोशल मीडिया वर टाकणे बंद करा. 


दोन्ही घटनांमागचं तंत्र तसं सारखंच. पण वापर वेगवेगळे ! चांगले किंवा वाईट….तंत्रज्ञान आयुष्य बदलणार आहे..आणि ही प्रक्रिया थांबवणे जवळपास अशक्य आहे. तेव्हा स्वतःला तयार करा ..अपडेटेड राहा.

GITO 7057573102

कोणत्याही टिप्पण्‍या नाहीत: