Alexa väärentää elävien ja kuolleiden äänet ominaisuuksien kehittämisessä

Amazon keksii, kuinka saada Alexan ääniavustaja väärentämään syvästi kenen tahansa, elossa tai kuolleen äänen, vain lyhyellä tallenteella. Yhtiö esitteli ominaisuutta re:Mars- konferenssissaan Las Vegasissa keskiviikkona käyttämällä käynnissä olevan pandemian ja surun aiheuttamaa emotionaalista traumaa kiinnostuksen herättämiseen.

Amazonin Re:Mars keskittyy tekoälyyn, koneoppimiseen, robotiikkaan ja muihin nouseviin teknologioihin, ja teknologia-asiantuntijat ja alan johtajat ovat näyttämöllä. Toisen päivän pääpuhuessa Rohit Prasad, Amazonin Alexa AI:n johtava johtaja ja päätutkija, esitteli Alexalle parhaillaan kehitettävän ominaisuuden.

Esittelyssä lapsi kysyy Alexalta: ”Voiko isoäiti lukea The Wizard of Oz -kirjaa minulle?” Alexa vastaa: ”Okei”, tyypillisellä naisellisella robottiäänellään. Mutta sitten kaiuttimesta kuuluu lapsen isoäidin ääni, joka lukee L. Frank Baumin satua.

Voit katsoa demon alta:

Prasad sanoi vain, että Amazon ”työstää” Alexa-ominaisuutta, eikä kertonut tarkemmin, mitä työtä on jäljellä ja milloin tai onko se saatavilla.

Hän antoi kuitenkin pienimmät tekniset yksityiskohdat.

”Se vaati keksintöä, kun meidän täytyi opetella toistamaan korkealaatuista ääntä alle minuutissa äänityksessä verrattuna tuntien studiossa tehtyyn äänitykseen”, hän sanoi. ”Teimme tämän mahdolliseksi muotoilemalla ongelman äänen muunnosongelmaksi puheenmuodostusongelmaksi.”

Tietenkin kaiken tyyppisillä deepfakeilla on yleensä sekalainen maine. Teknologiaa on kuitenkin yritetty käyttää pikemminkin työkaluna kuin välineenä pelotteluun.

Kuten The Verge huomauttaa, erityisesti äänen syväväärennöksiä on käytetty kompensoimaan, kun esimerkiksi podcaster sotki jotain tai kun projektin tähti kuoli äkillisesti, kuten tapahtui Anthony Bourdainin Roadrunner- dokumentissa .

Julkaisu huomauttaa, että on jopa tapauksia, joissa ihmiset käyttävät tekoälyä luodakseen chatbotteja , jotka kommunikoivat ikään kuin he olisivat kadonneita rakkaansa.

Alexa ei ole edes ensimmäinen kuluttajatuote, joka käyttää syvää fake-ääntä korvaamaan perheenjäsentä, joka ei voi olla läsnä henkilökohtaisesti. Älykaiutin Takara Tomy , kuten Gi z modo huomauttaa, käyttää tekoälyä lukeakseen lapsille nukkumaanmenotarinoita vanhemman äänellä. Vanhempien kerrotaan lataavan äänensä lukemalla käsikirjoitusta noin 15 minuutin ajan. Vaikka tämä eroaa huomattavasti Amazonin demosta siinä, että tuotteen omistaja päättää tarjota oman laulunsa sen sijaan, että tuote käyttää sellaisen henkilön ääntä, joka ei todennäköisesti voi antaa lupaansa.

Sen lisäksi, että syväväärennöksiä käytetään huijauksiin, ryöstöihin ja muihin ilkeisiin toimintoihin liittyvien huolenaiheiden lisäksi, Amazonilla on jo häiritseviä asioita siitä, kuinka Amazon rakentaa tätä ominaisuutta, jolla ei ole vielä edes julkaisupäivää.

Ennen demon näyttämistä Prasad puhui siitä, kuinka Alexa tarjoaa käyttäjille ”toveruussuhteen”.

”Tässä toveruusroolissa inhimilliset empatian ja vaikutuksen ominaisuudet ovat avainasemassa luottamuksen rakentamisessa”, toimitusjohtaja sanoi. ”Näistä ominaisuuksista on tullut entistä tärkeämpiä meneillään olevan pandemian aikana, kun monet meistä ovat menettäneet jonkun, jota rakastamme. Vaikka tekoäly ei voi poistaa tätä menetyskipua, se voi ehdottomasti laajentaa heidän muistiaan.”

Prasad lisäsi, että ominaisuus ”tarjoaa kestävän henkilökohtaisen suhteen”.

On totta, että lukemattomat ihmiset etsivät vakavasti inhimillistä ”empatiaa ja vaikutelmaa” vastauksena COVID-19-pandemian aiheuttamaan emotionaaliseen stressiin. Amazonin tekoälyn ääniavustaja ei kuitenkaan pysty vastaamaan näihin ihmisten tarpeisiin. Alexa ei myöskään voi tarjota ”pitkäaikaisia ​​henkilökohtaisia ​​suhteita” ihmisten kanssa, jotka eivät enää ole kanssamme.

Ei ole vaikea uskoa, että tämän kehittyvän ominaisuuden takana on hyvät aikomukset ja että kaipaamasi henkilön äänen kuuleminen voi olla suurta lohtua. Teoriassa voisimme jopa pitää hauskaa tällaisen ominaisuuden kanssa. Alexa saa ystävänsä kuulostamaan siltä, ​​että he sanoivat, että jokin tyhmä on vaaratonta. Ja kuten edellä totesimme, on muitakin yrityksiä, jotka käyttävät syväväärennösteknologiaa Amazonin osoittamalla tavalla.

Mutta Alexan kehittyvän kyvyn esittäminen tapana saada yhteys kuolleisiin perheenjäseniin on jättimäinen, epärealistinen ja ongelmallinen harppaus. Sillä välin sydämen kielten koskettaminen, mikä aiheuttaa pandemiaan liittyvää surua ja yksinäisyyttä, näyttää turhalta. On paikkoja, joihin Amazon ei kuulu, ja suruneuvonta on yksi niistä.