Alexa gebėjimas imituoti mirusius giminaičius gali būti pats baisiausias dalykas

Naujausias „Amazon Alexa“ triukas – išmokti mėgdžioti mirusio mylimojo balsą, kad jie galėtų kalbėti su jumis iš už kapo.

Alexa užtenka vos minutės sakytinio garso, kad įtikinamai imituotų balsą. „Amazon“ atsiskaito kaip guodžianti savybė tai gali padėti jums susisiekti su artimaisiais, tačiau tai gali būti ir gana šiurpi patirtis. Ir tai parodo, kaip lengva sukurti gilų netikrą garsą, kuris yra pakankamai geras, kad mus apgautų, net jei balsas yra toks, kokį mes puikiai pažįstame.

„Amazon neabejotinai pateko į gana unikalią ir keistą teritoriją paskelbusi, kad Alexa netrukus galės išmokti ir panaudoti mirusių giminaičių balsą. Bilas Mannas, „Restore Privacy“ privatumo ekspertas, „Lifewire“ pasakojo el. paštu. „Kai kuriems žmonėms tai visai nėra baisu. Tiesą sakant, tai gali būti gana liečianti“.

Vaiduoklis mašinoje

Kasmetinėje konferencijoje „RE: MARS“ „Amazon“ pristato šią funkciją trumpame vaizdo įraše. Joje vaikas klausia Alexos, ar močiutė gali jam toliau skaityti „Ozo burtininką“, kiekvieno vaiko mėgstamą pagrindinį žodį. viešasis darbas. Ir tai labai jaudinanti akimirka. Sunku nejausti žmogiškų emocijų, kai močiutė pradeda skaityti.

„Žmonės kovoja su mirtingumu, ypač Vakarų kultūroje. Šimtmečius bandėme rasti būdų, kaip įamžinti mirusiuosius, pradedant mirties kaukėmis, baigiant plaukų sruogomis, baigiant senomis nuotraukomis ir baigiant senų filmų žiūrėjimu. Andriejus Selepakas, socialinių tinklų profesorius iš Floridos universiteto, pasakojo Lifewire el. paštu. „Deepfakes naudoja naujausias technologijas, kad sukurtų naują mirusio mylimojo mirties kaukę. Bet, atsižvelgiant į žmogaus perspektyvą, ar tai baisu, ar būdas prisiminti ir išlaikyti žmogų, kurį mylite, jam mirus?

Tačiau memento mori gali būti ir guodžiantis, ir šiurpus. Šeimos nario draugas mirė, tačiau vis dar girdite jį kalbant. Nepadeda tai, kad Alexa elgėsi keistai, o kartais ir bauginančiai. Į 2018 m., kai NYT nuomonės apžvalgininkas Farhadas Manjoo gulėjo lovoje, jo „Amazon Echo“ „pradėjo aimanuoti, kaip vaikas, rėkiantis siaubo filmo sapne“.

Netrukus po to „Amazon“ tai pripažino Alexa kartais garsiai nusijuokdavo, kuris kartu su paaugliais ir rūsiais yra siaubo filmas 101.

Galima tik stebėtis, kaip jaustumėtės, jei Alexa ištrauktų tuos pačius triukus močiutės balsu.

Gilus netikras

Akivaizdus, ​​kad Alexa lengvai išmoksta imituoti balsą, priveda prie niekšiškesnių balso klonavimo būdų: gilių klastotės.

„Deepfake garsas nėra naujiena, net jei jis mažai suprantamas ir mažai žinomas. Ši technologija buvo prieinama daugelį metų, kad būtų galima atkurti žmogaus balsą naudojant dirbtinį intelektą ir gilų mokymąsi, naudojant santykinai mažai tikrojo garso“, - sako Selepak. „Tokia technologija taip pat gali būti pavojinga ir destruktyvi. Sutrikęs asmuo gali atkurti mirusio buvusio vaikino ar merginos balsą ir naudoti naują garso įrašą, kad sakytų neapykantą ir įžeidžiančius dalykus.

Tai tik Alexa kontekste. Gilus netikras garsas gali būti kur kas daugiau, įtikindamas žmones, kad, pavyzdžiui, žinomi politikai tiki dalykais, kuriais netiki. Tačiau, kita vertus, kuo labiau pripratinsime prie šių gilių padirbinių – galbūt tokių Alexa balsų pavidalu – tuo labiau skeptiškai žiūrėsime į niekšiškesnius padirbinius. Vėlgi, atsižvelgiant į tai, kaip lengva paskleisti melą „Facebook“, galbūt ne.

„Amazon“ nepasakė, ar ši funkcija ateina į „Alexa“, ar tai tik technologijos demonstracija. Tikiuosi, kad taip. Technika yra pati geriausia, kai ji naudojama humanistiniu būdu, kaip šis, ir net jei lengva reakcija yra pavadinti tai baisu, kaip Selepak sako, tai tikrai nedaug kuo skiriasi nuo senų vaizdo įrašų žiūrėjimo ar išsaugotų balso pašto pranešimų klausymosi, kaip personažas tingiai kuriamame televizoriuje. Rodyti.

Ir jei padirbinėjimo technologija yra lengvai prieinama, kodėl gi nepasinaudojus ja, kad paguostume save?