Alexa bude při vývoji filmu hluboce předstírat hlasy živých a mrtvých

Amazon zjišťuje, jak přimět Alexinu hlasovou asistentku, aby hluboce předstírala hlas kohokoli, mrtvého nebo živého, jen pomocí krátké nahrávky. Společnost tuto funkci předvedla na své středeční konferenci re:Mars v Las Vegas a využila emocionálního traumatu z probíhající pandemie a smutku k vyvolání zájmu.

Amazon Re:Mars se zaměřuje na umělou inteligenci, strojové učení, robotiku a další nově vznikající technologie, na jevišti se staví tech odborníci a lídři v oboru. Během keynote druhého dne Rohit Prasad, senior viceprezident a hlavní vědecký pracovník Alexa AI v Amazonu, předvedl funkci, která se právě pro Alexu vyvíjí.

V ukázce se dítě ptá Alexy: „Může za mě babička dočíst Čaroděje ze země Oz?“ Alexa odpoví: „Dobře,“ svým typickým zženštilým robotickým hlasem. Vtom se ale z reproduktoru ozve hlas babičky dítěte, která čte pohádku L. Franka Bauma.

Níže se můžete podívat na ukázku:

Prasad pouze řekl, že Amazon „pracuje“ na schopnosti Alexa, a neupřesnil, jaká práce zbývá a kdy nebo zda bude k dispozici.

Poskytl však sebemenší technické detaily.

„Vyžadovalo to invenci, když jsme se museli naučit reprodukovat vysoce kvalitní hlas za méně než minutu nahrávání ve srovnání s hodinami nahrávání ve studiu,“ řekl. „Umožnili jsme to tím, že jsme problém formulovali jako problém převodu hlasu spíše než problém generování řeči.“

Samozřejmě, deepfakes všech typů mají obecně smíšenou pověst. Byly však učiněny určité pokusy využít technologii spíše jako nástroj než prostředek pro strašidelnost.

Zejména zvukové deepfakes, jak poznamenává The Verge, byly v médiích používány k vyrovnání případů, kdy například podcaster zkazil linku nebo když hvězda projektu náhle zemřela, jak se stalo v případě dokumentu Roadrunner Anthonyho Bourdaina .

Publikace uvádí, že existují dokonce případy, kdy lidé používají AI k vytvoření chatbotů , kteří komunikují, jako by byli ztracenými blízkými.

Alexa nebude ani prvním spotřebitelským produktem, který použije deepfake audio k nahrazení člena rodiny, který nemůže být osobně přítomen. Chytrý reproduktor Takara Tomy , jak zdůrazňuje Gi z modo , využívá umělou inteligenci k předčítání pohádky před spaním dětem hlasem rodiče. Rodiče údajně nahrávají své hlasy tak, že čtou scénář takříkajíc asi 15 minut. I když se to výrazně liší od dema Amazonu v tom, že vlastník produktu se rozhodne poskytnout své vlastní vokály spíše než produkt pomocí hlasu někoho, kdo pravděpodobně nemůže dát své povolení.

Kromě obav z používání deepfakes k podvodům, loupežím a dalším nekalým činnostem jsou zde již některé znepokojivé věci ohledně toho, jak Amazon buduje tuto funkci, která ještě ani nemá datum vydání.

Před představením dema Prasad hovořil o tom, jak Alexa dává uživatelům „kamarádský vztah“.

„V této kamarádské roli jsou lidské vlastnosti empatie a afektu klíčem k budování důvěry,“ řekl generální ředitel. „Tyto atributy se staly ještě důležitějšími během probíhající pandemie, kdy mnozí z nás ztratili někoho, koho milujeme. I když umělá inteligence nedokáže odstranit tuto bolest ze ztráty, rozhodně může rozšířit jejich paměť.“

Prasad dodal, že tato funkce „poskytuje trvalý osobní vztah“.

Je pravda, že bezpočet lidí vážně hledá lidskou „empatii a afekt“ v reakci na emoční stres způsobený pandemií COVID-19. Hlasový asistent umělé inteligence od Amazonu však není schopen tyto lidské potřeby uspokojit. Alexa také nemůže poskytovat „dlouhodobé osobní vztahy“ s lidmi, kteří již nejsou mezi námi.

Není těžké uvěřit, že za touto vyvíjející se funkcí jsou dobré úmysly a že slyšet hlas osoby, která vám chybí, může být velkou útěchou. Teoreticky bychom se takovou funkcí mohli i bavit. Přimět Alexu, aby přítele znělo, jako by řekli něco hloupého, je neškodné. A jak jsme řekli výše, existují další společnosti, které používají technologii deepfake podobným způsobem, jaký předvedl Amazon.

Ale prezentovat vyvíjející se schopnost Alexy jako způsob, jak se znovu spojit se zesnulými členy rodiny, je obrovský, nerealistický a problematický skok. Mezitím se zdá být marné dotknout se struny srdce, což způsobuje smutek a osamělost spojenou s pandemií. Jsou místa, kam Amazon nepatří, a jednou z nich je zármutek.