Amazons generativa AI-drivna Alexa är en lika stor sekretessröd flagga som gamla Alexa

Amazon försöker göra Alexa enklare och mer intuitiv att använda genom att använda en ny stor språkmodell (LLM). Under sitt årliga hårdvaruevenemang i onsdags demonstrerade Amazon den generativa AI-drivna Alexa som användare snart kan förhandsgranska på Echo-enheter. Men i allt sitt tal om nya funktioner och en generativ AI-driven framtid, erkände Amazon knappt den långvariga elefanten i rummet: integritet.

Amazons enhetsevenemang innehöll en ny Echo Show 8, uppdaterade Ring-enheter och nya Fire TV-stickor. Men mest intressant var en titt på hur företaget försöker navigera generativ AI-hype och osäkerheten kring framtiden för röstassistenter. Amazon sa att användare kommer att kunna börja förhandsgranska Alexas nya funktioner via vilken Echo-enhet som helst, inklusive originalet, om några veckor .

Alexas tillagda funktioner aktiveras av en ny LLM som Amazon säger var finjusterad för röstsamtal och som använder algoritmer för kroppsspråk och intonationsigenkänning. Företaget var tydligt med att Alexa kommer att fokusera på generativ AI framöver. Men de nya funktionerna är i ett tidigt skede, noterade Amazon, så stötar, buggar och fel förväntas först.

”Alexa, kan jag äntligen sluta säga Alexa?”

En av de mest omedelbara förändringarna är att Alexa nu kan lyssna utan att användaren behöver säga ”Alexa” först. En enhet kommer att kunna använda sin kamera, en användares förskapade visuella ID och en tidigare installation med Alexa för att avgöra när någon pratar med den.

I en demo kunde David Limp, SVP för enheter och tjänster på Amazon, ha en konversation med Alexa, gå undan ett ögonblick och sedan återvända till enheten för vidare konversation utan att säga ”Alexa” igen .

”Detta möjliggörs av visuell bearbetning på enheten och akustiska modeller som arbetar tillsammans och försöker avgöra om du tilltalar enheten eller någon annan i rummet,” förklarade Rohit Prasad, SVP och chef för AI-forskare på Amazon, på scenen på Amazons event.

Amazon arbetar också för att minska Alexas tid till svar och för att tillåta användare att pausa eller använda fyllmedel som ”um” utan att bryta interaktionen. Prasan sa att Alexa kan göra detta genom att använda en massiv konformermodell med miljarder parametrar.

Allt detta pekar mot en Alexa som lyssnar och tittar med mer uppsåt än någonsin. Men Amazons presentation beskrev inte några nya integritets- eller säkerhetsfunktioner för att säkerställa att denna nya kraft inte används med uppsåt eller på ett sätt som användarna inte håller med om.

När den nåddes för en kommentar, noterade en talesman för Amazon tidigare etablerade Alexas sekretessfunktioner , inklusive en indikatorlampa på Echo-enheter som indikerar att Alexa lyssnar och låter användare granska och hantera rösthistorik.

Talespersonen tillade att Amazon använder ”många taktiker och funktioner” för att säkra enheter och kunddata, inklusive ”rigorösa säkerhetsgranskningar under utveckling, kryptering för att skydda data och regelbundna mjukvarusäkerhetsuppdateringar” och att Amazon kommer att ”fortsätta att vidta åtgärder för att ytterligare hårdna ”enhetssäkerhet.

För att minska tråkigheten att kontrollera flera smarta hemenheter, uppdaterar Amazon också Alexa för att förenkla kommandon för smarta hem. Till exempel kan Alexa så småningom veta hur man ”tänder på det nya ljuset i vardagsrummet”, även om du inte vet det officiella ”namnet” på den smarta glödlampan. Amazon diskuterade också möjligheten att styra flera enheter och ställa in rutiner med en enda mening istället för att behöva säga ”Alexa” och ett enhetsnamn för varje instruktion. Andra utvecklingar inkluderar att få Alexa att sluta sig till vad du vill, som att skruva upp robovacen när du berättar att huset är smutsigt. Sådana funktioner, om tillförlitliga, skulle göra röststyrning över smarta enheter betydligt mer tilltalande och intuitiv. Funktionerna kommer att kunna förhandsgranskas ”under de kommande månaderna”, sa Amazon .