Alexa, alimentada por IA generativa da Amazon, é uma bandeira vermelha de privacidade tão grande quanto a antiga Alexa

A Amazon está tentando tornar o uso do Alexa mais simples e intuitivo por meio do uso de um novo modelo de linguagem grande (LLM). Durante seu evento anual de hardware na quarta-feira, a Amazon demonstrou o Alexa com tecnologia de IA generativa que os usuários poderão visualizar em breve em dispositivos Echo. Mas em toda a sua conversa sobre novos recursos e um futuro alimentado pela IA generativa, a Amazon mal reconheceu o elefante de longa data na sala: a privacidade.

O evento de dispositivos da Amazon apresentou um novo Echo Show 8, dispositivos Ring atualizados e novos sticks Fire TV. Mas o mais interessante foi ver como a empresa está tentando navegar no hype da IA ​​generativa e na incerteza em torno do futuro dos assistentes de voz. A Amazon disse que os usuários poderão começar a visualizar os novos recursos do Alexa por meio de qualquer dispositivo Echo, incluindo o original, em algumas semanas .

Os recursos adicionais do Alexa são habilitados por um novo LLM que, segundo a Amazon, foi ajustado para conversas de voz e que usa algoritmos para linguagem corporal e reconhecimento de entonação. A empresa deixou claro que Alexa se concentrará na IA generativa daqui para frente. Mas os novos recursos estão em seus estágios iniciais, observou a Amazon, portanto, problemas, bugs e erros são esperados no início.

“Alexa, posso finalmente parar de dizer Alexa?”

Uma das mudanças de maior impacto imediato é que Alexa agora pode ouvir sem que o usuário precise dizer “Alexa” primeiro. Um dispositivo poderá usar sua câmera, um ID visual pré-criado do usuário e uma configuração prévia com Alexa para determinar quando alguém está falando com ele.

Em uma demonstração, David Limp , vice-presidente sênior de dispositivos e serviços da Amazon, conseguiu conversar com Alexa, afastar-se por um momento e depois retornar ao dispositivo para continuar a conversa sem dizer “Alexa” novamente.

“Isso é possível graças ao processamento visual no dispositivo e aos modelos acústicos que trabalham em conjunto, tentando determinar se você está se dirigindo ao dispositivo ou a outra pessoa na sala”, explicou Rohit Prasad, vice-presidente sênior e cientista-chefe de IA da Amazon, no palco. no evento da Amazon.

A Amazon também está trabalhando para reduzir o tempo de resposta da Alexa e permitir que os usuários pausem ou usem preenchimentos como “um” sem interromper a interação. Prasan disse que Alexa pode fazer isso usando um modelo conformador massivo com bilhões de parâmetros.

Tudo isso aponta para uma Alexa que ouve e observa com mais atenção do que nunca. Mas a apresentação da Amazon não detalhou quaisquer novos recursos de privacidade ou segurança para garantir que esse novo poder não seja usado de forma maliciosa ou de uma forma com a qual os usuários não concordem.

Quando contatado para comentar, um porta-voz da Amazon observou recursos de privacidade Alexa previamente estabelecidos , incluindo uma luz indicadora em dispositivos Echo que indica que Alexa está ouvindo e permitindo que os usuários revisem e gerenciem o histórico de voz.

O porta-voz acrescentou que a Amazon usa “inúmeras táticas e recursos” para proteger dispositivos e dados de clientes, incluindo “revisões de segurança rigorosas durante o desenvolvimento, criptografia para proteger dados e atualizações regulares de segurança de software” e que a Amazon “continuará a tomar medidas para fortalecer ainda mais ”segurança do dispositivo.

Procurando reduzir o tédio de controlar vários dispositivos domésticos inteligentes, a Amazon também está atualizando o Alexa para simplificar os comandos domésticos inteligentes. Por exemplo, Alexa poderia eventualmente saber como “acender a nova luz da sala”, mesmo que você não saiba o “nome” oficial daquela lâmpada inteligente. A Amazon também discutiu a capacidade de controlar vários dispositivos e configurar rotinas com uma única frase, em vez de ter que dizer “Alexa” e um nome de dispositivo para cada instrução. Outros desenvolvimentos incluem fazer com que Alexa deduza o que você deseja, como acelerar o robovac quando você diz que a casa está suja. Tais recursos, se confiáveis, tornariam o controle de voz em dispositivos inteligentes significativamente mais atraente e intuitivo. Os recursos poderão ser visualizados “nos próximos meses”, disse a Amazon .