Amazons auf generativer KI basierende Alexa ist ein ebenso großes Datenschutzrisiko wie die alte Alexa

Amazon versucht, Alexa durch den Einsatz eines neuen Large Language Model (LLM) einfacher und intuitiver bedienbar zu machen. Während seiner jährlichen Hardware-Veranstaltung am Mittwoch stellte Amazon die generative KI-gestützte Alexa vor, die Nutzer bald auf Echo-Geräten in der Vorschau sehen können. Aber bei all seinem Gerede über neue Funktionen und eine generativ-KI-gestützte Zukunft hat Amazon den langjährigen Elefanten im Raum kaum zur Kenntnis genommen: den Datenschutz.

Bei der Geräteveranstaltung von Amazon wurden ein neuer Echo Show 8, aktualisierte Ring-Geräte und neue Fire TV-Sticks vorgestellt. Am interessantesten war jedoch ein Blick darauf, wie das Unternehmen versucht, den Hype um generative KI und die Unsicherheit über die Zukunft von Sprachassistenten zu bewältigen. Laut Amazon können Benutzer in wenigen Wochen eine Vorschau der neuen Funktionen von Alexa über jedes Echo-Gerät, einschließlich des Originals, anzeigen .

Die zusätzlichen Funktionen von Alexa werden durch ein neues LLM ermöglicht, das laut Amazon speziell auf Sprachgespräche abgestimmt ist und Algorithmen zur Erkennung von Körpersprache und Intonation verwendet. Dem Unternehmen war klar, dass sich Alexa künftig auf generative KI konzentrieren wird. Laut Amazon befinden sich die neuen Funktionen jedoch noch in einem frühen Stadium, sodass zunächst mit Unebenheiten, Bugs und Fehlern zu rechnen ist.

„Alexa, kann ich endlich aufhören, Alexa zu sagen?“

Eine der Änderungen mit der größten Wirkung besteht darin, dass Alexa jetzt zuhören kann, ohne dass der Benutzer zuerst „Alexa“ sagen muss. Ein Gerät kann seine Kamera, die vorab erstellte visuelle ID eines Benutzers und eine vorherige Einrichtung mit Alexa verwenden, um festzustellen, wann jemand mit ihm spricht.

In einer Demo konnte David Limp, SVP für Geräte und Dienste bei Amazon, ein Gespräch mit Alexa führen, einen Moment zurücktreten und dann für weitere Gespräche zum Gerät zurückkehren, ohne noch einmal „Alexa“ zu sagen .

„Dies wird dadurch ermöglicht, dass visuelle Verarbeitung auf dem Gerät und akustische Modelle zusammenarbeiten, um festzustellen, ob Sie das Gerät oder eine andere Person im Raum ansprechen“, erklärte Rohit Prasad, SVP und leitender KI-Wissenschaftler bei Amazon, auf der Bühne bei der Amazon-Veranstaltung.

Amazon arbeitet außerdem daran, die Antwortzeit von Alexa zu verkürzen und es Benutzern zu ermöglichen, zu pausieren oder Füllwörter wie „ähm“ zu verwenden, ohne die Interaktion zu unterbrechen. Prasan sagte, Alexa könne dies durch die Verwendung eines massiven Konformermodells mit Milliarden von Parametern erreichen.

All dies deutet auf eine Alexa hin, die aufmerksamer denn je zuhört und zuschaut. In der Präsentation von Amazon wurden jedoch keine neuen Datenschutz- oder Sicherheitsfunktionen aufgeführt, um sicherzustellen, dass diese neue Macht nicht in böswilliger Absicht oder auf eine Weise genutzt wird, mit der die Benutzer nicht einverstanden sind.

Als er um einen Kommentar gebeten wurde, verwies ein Amazon-Sprecher auf zuvor eingeführte Alexa-Datenschutzfunktionen , darunter eine Kontrollleuchte auf Echo-Geräten, die anzeigt, dass Alexa zuhört, und es Benutzern ermöglicht, den Sprachverlauf zu überprüfen und zu verwalten.

Der Sprecher fügte hinzu, dass Amazon „zahlreiche Taktiken und Funktionen“ einsetzt, um Geräte und Kundendaten zu sichern, darunter „strenge Sicherheitsüberprüfungen während der Entwicklung, Verschlüsselung zum Schutz von Daten und regelmäßige Software-Sicherheitsupdates“ und dass Amazon „weiterhin Schritte zur weiteren Absicherung unternehmen wird.“ „Gerätesicherheit.

Um die mühsame Steuerung mehrerer Smart-Home-Geräte zu reduzieren, aktualisiert Amazon auch Alexa, um Smart-Home-Befehle zu vereinfachen. Alexa könnte beispielsweise irgendwann wissen, wie man „das neue Licht im Wohnzimmer einschaltet“, auch wenn Sie den offiziellen „Namen“ dieser intelligenten Glühbirne nicht kennen. Amazon diskutierte auch die Möglichkeit, mehrere Geräte zu steuern und Routinen mit einem einzigen Satz einzurichten, anstatt für jede Anweisung „Alexa“ und einen Gerätenamen sagen zu müssen. Zu anderen Entwicklungen gehört es, Alexa dazu zu bringen, zu erkennen, was Sie wollen, etwa den Robovac auf Touren zu bringen, wenn Sie ihm mitteilen, dass das Haus schmutzig ist. Solche Funktionen würden, wenn sie zuverlässig wären, die Sprachsteuerung über intelligente Geräte deutlich ansprechender und intuitiver machen. Die Funktionen werden „in den kommenden Monaten“ in der Vorschau verfügbar sein, sagte Amazon .