Amazon의 생성 AI 기반 Alexa는 이전 Alexa만큼 개인 정보 보호 위험 신호입니다.

Amazon은 새로운 LLM(대형 언어 모델)을 사용하여 Alexa를 더 간단하고 직관적으로 사용할 수 있도록 노력하고 있습니다. 수요일 연례 하드웨어 이벤트에서 Amazon은 사용자가 Echo 장치에서 곧 미리 볼 수 있는 생성 AI 기반 Alexa를 시연했습니다. 그러나 새로운 기능과 생성 AI 기반 미래에 대한 모든 이야기에서 Amazon은 오랫동안 방에 있던 코끼리인 개인 정보 보호를 거의 인정하지 않았습니다.

Amazon의 장치 이벤트에서는 새로운 Echo Show 8, 업데이트된 Ring 장치 및 새로운 Fire TV 스틱을 선보였습니다. 그러나 가장 흥미로운 점은 회사가 생성 AI에 대한 과대 광고와 음성 비서의 미래에 대한 불확실성을 어떻게 헤쳐나가려고 노력하고 있는지 살펴보는 것이었습니다. Amazon은 사용자가 몇 주 안에 원본을 포함한 모든 Echo 장치를 통해 Alexa의 새로운 기능을 미리 볼 수 있을 것이라고 말했습니다 .

Alexa의 추가 기능은 음성 대화에 맞게 미세 조정되었으며 신체 언어 및 억양 인식을 위한 알고리즘을 사용하는 새로운 LLM을 통해 활성화됩니다. 회사는 Alexa가 앞으로 생성 AI에 집중할 것이라는 점을 분명히 했습니다. 그러나 새로운 기능은 초기 단계이므로 처음에는 충돌, 버그 및 오류가 예상된다고 Amazon은 지적했습니다.

“Alexa, 이제 Alexa라는 말을 그만둬도 될까요?”

가장 즉각적으로 영향을 미치는 변화 중 하나는 이제 사용자가 먼저 “Alexa”라고 말할 필요 없이 Alexa가 들을 수 있다는 것입니다. 장치는 카메라, 사용자가 미리 생성한 시각적 ID 및 Alexa의 이전 설정을 사용하여 누군가가 장치에 말하고 있는 시기를 확인할 수 있습니다.

데모에서 Amazon의 장치 및 서비스 SVP인 David Limp는 Alexa와 대화를 나누고 잠시 물러났다가 다시 “Alexa”라고 말하지 않고 장치로 돌아와 추가 대화를 나눌 수 있었습니다.

Amazon의 수석 AI 과학자이자 SVP인 Rohit Prasad는 “이것은 온디바이스의 시각적 처리와 음향 모델이 함께 작동하여 사용자가 장치를 가리키는지 아니면 방에 있는 다른 사람에게 말하고 있는지 확인함으로써 가능합니다.”라고 무대에서 설명했습니다. 아마존 이벤트에서

Amazon은 또한 Alexa의 응답 시간을 줄이고 사용자가 상호 작용을 중단하지 않고 일시 중지하거나 “음”과 같은 필러를 사용할 수 있도록 노력하고 있습니다. Prasan은 Alexa가 수십억 개의 매개변수를 갖춘 대규모 순응 모델을 사용하여 이를 수행할 수 있다고 말했습니다.

이 모든 것은 Alexa가 그 어느 때보다 더 많은 의도를 가지고 듣고 지켜보고 있음을 나타냅니다. 그러나 Amazon의 프레젠테이션에서는 이 새로운 기능이 악의적으로 사용되거나 사용자가 동의하지 않는 방식으로 사용되지 않도록 하는 새로운 개인 정보 보호 또는 보안 기능에 대해 자세히 설명하지 않았습니다.

의견을 요청했을 때 Amazon 대변인 은 Alexa가 듣고 있음을 나타내고 사용자가 음성 기록을 검토하고 관리할 수 있도록 하는 Echo 장치의 표시등을 포함하여 이전에 확립된 Alexa 개인 정보 보호 기능을 언급했습니다.

대변인은 아마존이 장치와 고객 데이터를 보호하기 위해 “개발 중 엄격한 보안 검토, 데이터 보호를 위한 암호화, 정기적인 소프트웨어 보안 업데이트”를 포함해 “다양한 전술과 기능”을 사용하고 있다고 덧붙였습니다. ”기기 보안.

여러 스마트 홈 장치를 제어하는 ​​지루함을 줄이기 위해 Amazon은 스마트 홈 명령을 단순화하기 위해 Alexa도 업데이트하고 있습니다. 예를 들어, 귀하가 해당 스마트 전구의 공식 “이름”을 모르더라도 Alexa는 결국 “거실의 새 조명을 켜는” 방법을 알 수 있습니다. Amazon은 또한 각 명령에 대해 “Alexa”와 장치 이름을 말할 필요 없이 단일 문장으로 여러 장치를 제어하고 루틴을 설정할 수 있는 기능에 대해서도 논의했습니다. 다른 개발에는 집이 더럽다고 말하면 로봇 청소기를 가동시키는 등 Alexa가 원하는 것을 추론하도록 하는 것이 포함됩니다. 이러한 기능이 안정적이라면 스마트 장치에 대한 음성 제어를 훨씬 더 매력적이고 직관적으로 만들 수 있습니다. Amazon은 “향후 몇 달 내에” 기능을 미리 볼 수 있을 것이라고 말했습니다 .