ฟีเจอร์ Live Voice ของ Apple นำไปใช้กับการหลอกลวงด้วยการโคลนเสียงได้อย่างไร

iPhone และ iPad ของคุณจะให้คุณโคลนเสียงของคุณเองได้ในเร็วๆ นี้ และผู้เชี่ยวชาญกล่าวว่าคุณสมบัติใหม่นี้อาจนำไปสู่การปลอมแปลงที่ลึกมากขึ้น

คุณลักษณะเสียงส่วนบุคคลใหม่ จะสร้างเสียงที่เหมือนผู้ใช้ มีไว้สำหรับผู้ใช้ที่ไม่พูดหรือมีความเสี่ยงที่จะสูญเสียความสามารถนั้น แต่เทคโนโลยีก็สร้างความสับสนได้เช่นกัน

"สิ่งนี้อาจกลายเป็นหนองน้ำที่เต็มไปด้วยของปลอมอย่างรวดเร็วทุกที่" วินอด ไอเยนการ์ผู้เชี่ยวชาญด้าน AI และหัวหน้าฝ่ายผลิตภัณฑ์ที่ ที่สามAIบอก Lifewire ในการสัมภาษณ์ทางอีเมล "มีระบบยืนยันตัวตนด้วยไบโอเมตริกด้วยเสียงจำนวนมากที่กำลังจะมีปัญหา จะเกิดอะไรขึ้นหากมีคนใช้การโคลนเสียงเพื่อเข้าถึงบัญชีธนาคารโดยไม่ได้รับอนุญาต หรือใช้เพื่อเผยแพร่ข้อมูลที่ผิด”

เสียงของคุณ สร้างใหม่

คุณสามารถสร้างเสียงส่วนตัวได้โดยการอ่านพร้อมกับชุดข้อความแจ้งแบบสุ่มเพื่อบันทึกเสียง 15 นาทีบน iPhone หรือ iPad คุณลักษณะนี้ใช้การเรียนรู้ของเครื่องบนอุปกรณ์เพื่อให้ข้อมูลของผู้ใช้เป็นส่วนตัว

"ท้ายที่สุดแล้ว สิ่งที่สำคัญที่สุดคือความสามารถในการสื่อสารกับเพื่อนและครอบครัว" ฟิลิป กรีน ผู้มีประสบการณ์เสียงเปลี่ยนไปอย่างมากตั้งแต่ได้รับการวินิจฉัยโรค ALS กล่าว ใน ข่าวประชาสัมพันธ์ของ Apple. "ถ้าคุณสามารถบอกพวกเขาว่าคุณรักพวกเขาด้วยน้ำเสียงที่ดูเหมือนคุณ มันสร้างความแตกต่างใน โลก—และความสามารถในการสร้างเสียงสังเคราะห์บน iPhone ของคุณในเวลาเพียง 15 นาทีนั้นถือว่าไม่ธรรมดา”

เครื่องมือสำหรับการหลอกลวงการโคลนเสียง?

เทคโนโลยีการโคลนเสียง เช่น Personal Voice ทำให้เกิดคำถามด้านจริยธรรมเกี่ยวกับความยินยอมและการใช้เสียงของใครบางคนในทางที่ผิดโดยไม่ได้รับอนุญาต ไทเลอร์ สเวตต์หัวหน้าเจ้าหน้าที่สรรพากรของ บริษัท เทคโนโลยี หน้าที่สองกล่าวในอีเมล

“การโคลนเสียงสามารถใช้เพื่อสร้างเนื้อหาเสียงปลอมที่ดูเหมือนเป็นของแท้ ทำให้ยากต่อการแยกแยะระหว่างการบันทึกเสียงจริงและเสียงปลอม” เขากล่าวเสริม

กลโกงการโคลนเสียง กำลังเพิ่มขึ้น ผู้เชี่ยวชาญเตือน เทคโนโลยีนี้สามารถใช้เพื่อจุดประสงค์ที่เป็นอันตรายได้เช่น การโจรกรรมข้อมูลส่วนตัว การโทรศัพท์หลอกลวง และอีเมลฟิชชิง อาชญากรใช้ AI เพื่อปลอมตัวเป็นคนอื่นและหลอกให้เหยื่อให้เงินหรือข้อมูลส่วนตัว

สแกมเมอร์สามารถโคลนเสียงได้ ของเพื่อน สมาชิกในครอบครัว เจ้านาย หรือผู้มีอำนาจ แล้วโทรหาเหยื่อเพื่อขอเงินหรือความช่วยเหลืออย่างเร่งด่วน อีกทางหนึ่ง สแกมเมอร์อาจเลียนแบบเสียงของลูกค้า ซัพพลายเออร์ หรือคู่ค้า แล้วส่งใบแจ้งหนี้ปลอมหรือคำขอชำระเงินทางอีเมลหรือโทรศัพท์ ในปี 2564 ผู้สูงอายุอย่างน้อยแปดคนในแคนาดาสูญเสียเงินรวมกัน 200,000 ดอลลาร์ ในการหลอกลวงโคลนเสียงที่ชัดเจน.

Iyengar กล่าวว่า เทคโนโลยีการโคลนเสียงใหม่บน iPhone อาจนำไปสู่ผลลัพธ์ที่ไม่ได้ตั้งใจ เขาชี้ให้เห็นว่าโทรศัพท์ iPhone มักใช้เป็นหลักฐานในคดีความ

“ตอนนี้พื้นที่ทั้งหมดกลายเป็นทุ่งทุ่นระเบิด และในไม่ช้า ศาลอาจไม่ยอมรับการบันทึกเสียงเป็นหลักฐาน เนื่องจากอาจถูกปลอมแปลงได้ง่าย” เขากล่าวเสริม

เสียงส่วนตัวอาจทำให้เส้นแบ่งระหว่างเรื่องแต่งกับเรื่องจริงไม่ชัดเจน Iyengar แนะนำว่าการโคลนเสียงสามารถจับคู่กับ AI chatbots เพื่อทำหน้าที่เป็น "private stunt double" สำหรับทุกคน

เสียงโคลนสามารถ "เป็นตัวแทนของบุคคลและทำงานแทนพวกเขาเช่นการสร้าง การนัดหมาย การรับโทรศัพท์ และแม้กระทั่งการบันทึกวิดีโอที่ต้องอ่านจากสคริปต์” ไอเยนการ์กล่าว

หากเสียงของคุณถูกโคลนและใช้โดยบุคคลอื่น ก็ไม่แน่นอนว่าระบบกฎหมายจะปกป้องคุณหรือไม่ กฎหมาย "สิทธิ์ในการเผยแพร่" ในสหรัฐอเมริกาให้คนดังและบุคคลที่มีชื่อเสียงอื่นๆ สามารถควบคุมการใช้ชื่อ รูปภาพ และเสียงของพวกเขาได้ ไฮดี้ แมคกี้, อาจารย์ที่ มหาวิทยาลัยไมอามีกล่าวในอีเมล และเธอตั้งข้อสังเกตว่าการปลอมตัวเป็นเจ้าหน้าที่บังคับใช้กฎหมายหรือพนักงานของรัฐบาลกลางถือเป็นเรื่องผิดกฎหมาย

“แต่การคุ้มครองเหล่านั้นขยายไปถึงพลเมืองสหรัฐฯ ทุกคนหรือไม่ และในลักษณะที่บุคคลจะหาทางแก้ไขได้ง่ายหรือไม่” แม็กกี้กล่าว “กฎหมายและข้อบังคับไม่ชัดเจนในเรื่องนี้ ตอนนี้เราอยู่ท่ามกลางข้อมูลที่ผิดและการปลอมแปลงอย่างลึกล้ำ และการใช้การโคลนเสียงมีแต่จะขยายปัญหาเหล่านั้น โดยเฉพาะอย่างยิ่งเมื่อรวมกับวิดีโอปลอมด้วย”