Alexa võltsib funktsioonide arenduses elavate ja surnute hääli

Amazon mõtleb välja, kuidas panna Alexa hääleassistent vaid lühikese salvestusega sügavalt võltsima ükskõik kelle häält, olgu surnud või elus. Ettevõte esitles seda funktsiooni kolmapäeval Las Vegases toimunud re:Marsi konverentsil, kasutades huvi tekitamiseks käimasoleva pandeemia ja leina emotsionaalset traumat.

Amazoni Re:Mars keskendub tehisintellektile, masinõppele, robootikale ja teistele arenevatele tehnoloogiatele, lavale astuvad tehnikaeksperdid ja tööstuse juhid. Teise päeva peaettekandes näitas Amazoni Alexa AI vanemasepresident ja peateadlane Rohit Prasad funktsiooni, mida praegu Alexa jaoks arendatakse.

Demonstratsioonis küsib laps Alexalt: “Kas vanaema saab minu jaoks “Võluri Ozi” lugemise lõpetada?” Alexa vastab oma tüüpilise naiseliku robothäälega: “Olgu. Siis aga kostab kõnelejast lapse vanaema häält, kes loeb L. Frank Baumi muinasjuttu.

Demot saate vaadata allpool:

Prasad ütles vaid, et Amazon “töötab” Alexa võimekuse kallal, ja ei täpsustanud, milline töö on alles ja millal või kas see saadaval on.

Siiski esitas ta kõige väiksemad tehnilised üksikasjad.

“See nõudis leiutamist, kui pidime õppima, kuidas reprodutseerida kvaliteetset häält vähem kui minuti salvestusega võrreldes tundidepikkuse salvestusega stuudios,” ütles ta. “Tegime selle võimalikuks, kujundades probleemi pigem hääle teisendamise kui kõne genereerimise probleemina.”

Muidugi on igat tüüpi süvavõltsingutel üldiselt segane maine. Siiski on tehtud katseid kasutada tehnoloogiat pigem vahendina kui vahendina jubeduse tekitamiseks.

Nagu The Verge märgib, on meedias kasutatud eelkõige helide süvavõltsinguid, et korvata olukordi, kus näiteks taskuhäälingusaatejuht liini sassi ajas või projekti staar ootamatult suri, nagu juhtus Anthony Bourdaini dokumentaalfilmiga Roadrunner .

Väljaanne märgib, et on isegi juhtumeid, kus inimesed kasutavad AI-d, et luua vestlusroboteid , mis suhtlevad justkui kadunud lähedased.

Alexa ei ole isegi esimene tarbetoode, mis kasutab süvavõltsitud heli asendamaks pereliiget, kes ei saa isiklikult kohal olla. Nutikas kõlar Takara Tomy , nagu Gi z modo märgib, kasutab tehisintellekti, et lugeda lastele unejutte vanema häälega. Teatatakse, et vanemad laadivad oma hääle üles, lugedes stsenaariumi nii-öelda umbes 15 minutit. Kuigi see erineb märkimisväärselt Amazoni demost selle poolest, et toote omanik valib oma hääle, mitte toote häält, kasutades kellegi häält, kes tõenäoliselt ei saa luba anda.

Lisaks muredele süvavõltsingute kasutamise pärast pettuste, röövimiste ja muude alatute tegevuste jaoks, on Amazoni selle funktsiooni loomisel juba häirivaid asju, millel pole veel väljalaskekuupäeva.

Enne demo näitamist rääkis Prasad sellest, kuidas Alexa loob kasutajatele “kaaskondliku suhte”.

“Selles kaastöölises rollis on usalduse loomisel võtmetähtsusega inimlikud empaatia- ja mõjuomadused,” ütles tegevjuht. „Need omadused on muutunud veelgi olulisemaks käimasoleva pandeemia ajal, mil paljud meist on kaotanud kellegi, keda armastame. Kuigi tehisintellekt ei saa seda kaotusvalu kõrvaldada, võib see kindlasti nende mälu laiendada.

Prasad lisas, et see funktsioon “pakkub püsivat isiklikku suhet”.

On tõsi, et lugematud inimesed otsivad tõsiselt inimlikku “empaatiat ja mõju” vastuseks COVID-19 pandeemia põhjustatud emotsionaalsele stressile. Kuid Amazoni tehisintellekti hääleassistent ei ole nende inimeste vajaduste rahuldamise tasemel. Alexa ei saa ka pakkuda “pikaajalisi isiklikke suhteid” inimestega, kes pole enam meiega.

Pole raske uskuda, et selle areneva funktsiooni taga on head kavatsused ja et igatsusväärse inimese hääle kuulmine võib olla suur lohutus. Teoreetiliselt saaksime sellise funktsiooniga isegi nalja. Alexa panemine sõbrale kõlama nii, nagu oleks öelnud, et miski rumal on kahjutu. Ja nagu me eespool ütlesime, on ka teisi ettevõtteid, kes kasutavad süvavõltsimistehnoloogiat viisil, mis sarnaneb Amazoni demonstreerimisega.

Kuid Alexa areneva võime tutvustamine surnud pereliikmetega ühenduse taastamiseks on hiiglaslik, ebareaalne ja problemaatiline hüpe. Samal ajal tundub pandeemiaga seotud leina ja üksindust tekitav südamekeelte puudutamine olevat mõttetu. On kohti, kuhu Amazon ei kuulu, ja leinanõustamine on üks neist.