ऐप्पल के लाइव वॉयस फीचर का इस्तेमाल वॉयस क्लोनिंग घोटाले के लिए कैसे किया जा सकता है

आपका iPhone और iPad जल्द ही आपको अपनी आवाज़ का क्लोन बनाने की सुविधा देगा, और विशेषज्ञों का कहना है कि नई सुविधा अधिक गहरी नकली चीज़ों को जन्म दे सकती है।

नई पर्सनल वॉयस सुविधा एक ऐसी आवाज बनाएगा जो उपयोगकर्ता की तरह लगे। यह उन उपयोगकर्ताओं के लिए है जो बोल नहीं पाते या अपनी क्षमता खोने के जोखिम में हैं। लेकिन प्रौद्योगिकी भ्रम भी पैदा कर सकती है।

"यह बहुत जल्द हर जगह गहरी नकली चीज़ों का दलदल बन सकता है," विनोद अयंगर, एआई विशेषज्ञ और उत्पाद प्रमुख थर्डएआई, लाइफवायर को एक ईमेल साक्षात्कार में बताया। "ऐसी कई वॉयस बायोमेट्रिक-आधारित प्रमाणीकरण प्रणालियाँ हैं जो संकट में पड़ने वाली हैं। यदि कोई बैंक खाते तक अनधिकृत पहुंच प्राप्त करने के लिए वॉयस क्लोन का उपयोग करता है तो क्या होगा? या इसका उपयोग गलत सूचना फैलाने के लिए करता है।"

आपकी आवाज, पुनः निर्मित

आप iPhone या iPad पर 15 मिनट का ऑडियो रिकॉर्ड करने के लिए टेक्स्ट प्रॉम्प्ट के यादृच्छिक सेट के साथ पढ़कर एक व्यक्तिगत आवाज़ बना सकते हैं। यह सुविधा उपयोगकर्ताओं की जानकारी को निजी रखने के लिए ऑन-डिवाइस मशीन लर्निंग का उपयोग करती है।

"दिन के अंत में, सबसे महत्वपूर्ण बात दोस्तों और परिवार के साथ संवाद करने में सक्षम होना है," फिलिप ग्रीन, जिन्होंने एएलएस निदान प्राप्त करने के बाद से अपनी आवाज में महत्वपूर्ण बदलाव का अनुभव किया है, ने कहा में Apple की समाचार विज्ञप्ति. "अगर आप उन्हें अपनी जैसी आवाज में बता सकें कि आप उनसे प्यार करते हैं, तो इससे बहुत फर्क पड़ता है दुनिया—और केवल 15 मिनट में अपने iPhone पर अपनी सिंथेटिक आवाज़ बनाने में सक्षम होना असाधारण है।"

वॉयस क्लोनिंग घोटाले के लिए एक उपकरण?

पर्सनल वॉयस जैसी वॉयस क्लोनिंग तकनीक सहमति और किसी की अनुमति के बिना उसकी आवाज के संभावित दुरुपयोग के संबंध में नैतिक प्रश्न उठाती है, टायलर स्वेटटेक कंपनी में मुख्य राजस्व अधिकारी दूसरा मोर्चा, एक ईमेल में कहा गया।

उन्होंने कहा, "वॉइस क्लोनिंग का उपयोग मनगढ़ंत ऑडियो सामग्री बनाने के लिए किया जा सकता है जो वास्तविक प्रतीत होती है, जिससे वास्तविक और नकली ऑडियो रिकॉर्डिंग के बीच अंतर करना कठिन हो जाता है।"

वॉयस क्लोनिंग घोटाले बढ़ रहे हैं. विशेषज्ञ चेतावनी देते हैं प्रौद्योगिकी का उपयोग दुर्भावनापूर्ण उद्देश्यों के लिए किया जा सकता है, जैसे पहचान की चोरी, धोखाधड़ी वाले फ़ोन कॉल और फ़िशिंग ईमेल। अपराधी किसी अन्य व्यक्ति का रूप धारण करने और पीड़ित को पैसे या व्यक्तिगत जानकारी देने के लिए एआई का उपयोग करते हैं।

स्कैमर्स आवाज को क्लोन कर सकते हैं किसी मित्र, परिवार के सदस्य, बॉस, या प्राधिकारी व्यक्ति से संपर्क करें और पैसे या सहायता के लिए तत्काल अनुरोध के साथ पीड़ित को कॉल करें। वैकल्पिक रूप से, एक घोटालेबाज किसी ग्राहक, आपूर्तिकर्ता या भागीदार की आवाज को क्लोन कर सकता है और ईमेल या फोन के माध्यम से नकली चालान या भुगतान अनुरोध भेज सकता है। 2021 में, कनाडा में कम से कम आठ वरिष्ठ नागरिकों को संयुक्त रूप से $200,000 का नुकसान हुआ एक स्पष्ट वॉयस क्लोनिंग घोटाले में.

अयंगर ने कहा कि आईफोन पर नई वॉयस क्लोनिंग तकनीक से अनपेक्षित परिणाम हो सकते हैं। उन्होंने बताया कि आईफोन कॉल्स को अक्सर कानूनी मामलों में सबूत के तौर पर इस्तेमाल किया जाता है।

उन्होंने कहा, "वह पूरा क्षेत्र अब एक खदान है, और बहुत जल्द, अदालतें वॉयस रिकॉर्डिंग को सबूत के रूप में स्वीकार नहीं करेंगी क्योंकि इसे आसानी से नकली बनाया जा सकता है।"

व्यक्तिगत आवाज़ कल्पना और वास्तविकता के बीच की रेखा को धुंधला कर सकती है। अयंगर ने सुझाव दिया कि वॉयस क्लोन को हर किसी के लिए "व्यक्तिगत स्टंट डबल" के रूप में कार्य करने के लिए एआई चैटबॉट्स के साथ जोड़ा जा सकता है।

क्लोन की गई आवाज़ "व्यक्ति का प्रतिनिधित्व कर सकती है और उनकी ओर से निर्माण जैसे कार्य कर सकती है नियुक्तियाँ, फ़ोन कॉल का उत्तर देना, और यहाँ तक कि वीडियो रिकॉर्डिंग भी जिन्हें एक स्क्रिप्ट से पढ़ने की आवश्यकता होती है," अयंगर ने कहा.

यदि आपकी आवाज़ क्लोन की गई है और किसी अन्य व्यक्ति द्वारा उपयोग की गई है, तो यह अनिश्चित है कि कानूनी प्रणाली आपकी रक्षा करेगी या नहीं। अमेरिका में "प्रचार का अधिकार" कानून मशहूर हस्तियों और अन्य प्रसिद्ध लोगों को उनके नाम, छवि और आवाज के उपयोग पर कुछ नियंत्रण देता है, हेइडी मैककी, में एक प्रोफेसर मियामी विश्वविद्यालय, एक ईमेल में कहा गया। और, उन्होंने कहा, किसी कानून प्रवर्तन अधिकारी या संघीय कर्मचारी का रूप धारण करना गैरकानूनी है।

"लेकिन क्या वे सुरक्षाएँ सभी अमेरिकी नागरिकों तक फैली हुई हैं और इस तरह से कि किसी व्यक्ति के लिए निवारण पाना आसान हो?" मैकी ने कहा. “कानून और नियम इस पर इतने स्पष्ट नहीं हैं। हम पहले से ही गलत सूचनाओं और डीप फेक में डूबे हुए हैं, और वॉयस क्लोनिंग का उपयोग केवल उन समस्याओं को बढ़ाएगा, खासकर जब वीडियो फेक के साथ भी जुड़ा हो।