Alexa는 기능 개발에서 산 자와 죽은 자의 목소리를 딥 페이크합니다.

아마존은 짧은 녹음만으로 알렉사의 음성 비서가 죽은 사람이든 살아 있는 사람이든 사람의 목소리를 깊이 가짜로 만드는 방법을 알아내고 있다. 이 회사는 수요일 라스베이거스에서 열린 re:Mars 컨퍼런스에서 진행 중인 팬데믹과 슬픔으로 인한 정서적 트라우마를 사용하여 관심을 불러일으키는 이 기능을 선보였습니다 .

Amazon의 Re:Mars는 인공 지능, 기계 학습, 로봇 공학 및 기타 신기술에 초점을 맞추고 있으며 기술 전문가와 업계 리더가 무대에 오르고 있습니다. 둘째 날의 기조 연설에서 Amazon의 Alexa AI 수석 부사장 겸 수석 과학자인 Rohit Prasad는 현재 Alexa용으로 개발 중인 기능을 선보였습니다.

데모에서 한 어린이가 Alexa에게 “할머니가 나를 위해 The Wizard of Oz를 끝까지 읽어주실 수 있나요?”라고 묻습니다. 그런데 L. Frank Baum의 동화를 읽고있는 스피커에서 아이 할머니의 목소리가 들립니다.

아래에서 데모를 볼 수 있습니다.

Prasad는 Amazon이 Alexa 기능에 대해 “작업 중”이라고만 말했을 뿐 남아 있는 작업과 언제 사용할 수 있는지에 대해서는 자세히 설명하지 않았습니다.

그러나 그는 가장 작은 기술적 세부 사항을 제공했습니다.

“스튜디오에서 몇 시간씩 녹음하는 데 비해 1분도 안 되는 녹음 시간에 고품질 음성을 재생하는 방법을 배워야 하는 상황에서 발명이 필요했습니다.”라고 그는 말했습니다. “우리는 문제를 음성 생성 문제가 아닌 음성 변환 문제로 프레임화하여 이를 가능하게 했습니다.”

물론 모든 유형의 딥페이크는 일반적으로 평판이 엇갈립니다. 그러나 기술을 소름 끼치는 수단이 아닌 도구로 사용하려는 시도가 있었습니다.

특히 The Verge가 언급한 것처럼 오디오 딥페이크는 예를 들어 팟캐스터가 대사를 엉망으로 만들거나 Anthony Bourdain의 로드러너 다큐멘터리 에서 발생한 것처럼 프로젝트의 스타가 갑자기 사망했을 때를 보상하기 위해 미디어에서 사용되었습니다.

간행물은 AI를 사용하여 마치 사랑하는 사람을 잃은 것처럼 소통하는 챗봇을 만드는 경우도 있다고 지적합니다 .

Alexa는 대면할 수 없는 가족 구성원을 대체하기 위해 딥페이크 오디오를 사용하는 최초의 소비자 제품도 아닙니다. Gi z modo가 지적한 스마트 스피커 Takara Tomy 는 인공 지능을 사용하여 부모의 목소리로 아이들에게 취침 시간 이야기를 읽어줍니다 . 부모들은 말하자면 15분 정도 대본을 읽고 목소리를 올린다고 한다. 제품 소유자가 권한을 부여할 수 없는 사람의 목소리를 사용하는 제품이 아니라 자신의 보컬을 제공하기로 선택한다는 점에서 Amazon의 데모와 현저하게 다릅니다.

사기, 강도 및 기타 사악한 활동에 사용되는 딥페이크에 대한 우려 외에도 Amazon이 아직 출시 날짜도 없는 이 기능을 구축하는 방법에 대해 이미 불안한 점이 있습니다.

데모를 보여주기 전에 Prasad는 Alexa가 사용자에게 “동지애 관계”를 제공하는 방법에 대해 이야기했습니다.

CEO는 “동지애 역할에서 공감과 감정이라는 인간적 자질이 신뢰 구축의 핵심”이라고 말했다. “이러한 속성은 우리 중 많은 사람이 사랑하는 사람을 잃은 현재 진행 중인 팬데믹 기간 동안 더욱 중요해졌습니다. AI가 이러한 손실의 고통을 제거할 수는 없지만 확실히 메모리를 확장할 수 있습니다.”

Prasad는 이 기능이 “지속적인 개인적 관계를 제공한다”고 덧붙였습니다.

코로나19 팬데믹으로 인한 정서적 스트레스에 대응하여 수많은 사람들이 인간의 ‘공감과 정서’를 진지하게 찾고 있는 것이 사실입니다. 그러나 아마존의 인공지능 음성 비서는 이러한 인간의 요구를 충족시키는 일에 적합하지 않습니다. Alexa는 또한 더 이상 우리와 함께하지 않는 사람들과 “장기적인 개인적 관계”를 제공할 수 없습니다.

이 진화하는 기능 뒤에 좋은 의도가 있고 그리운 사람의 목소리를 듣는 것이 큰 위안이 될 수 있다는 것을 믿는 것은 어렵지 않습니다. 이론적으로 우리는 그러한 기능으로 재미를 느낄 수도 있습니다. Alexa가 친구에게 바보 같은 말은 무해하다고 말한 것처럼 들리게 합니다. 그리고 위에서 말했듯이 Amazon이 시연한 것과 유사한 방식으로 딥페이크 기술을 사용하는 다른 회사도 있습니다.

그러나 죽은 가족과 다시 연결하는 방법으로 Alexa의 진화하는 능력을 제시하는 것은 거대하고 비현실적이며 문제가 있는 도약입니다. 한편, 전염병과 관련된 슬픔과 외로움을 유발하는 마음의 끈을 만지는 것은 쓸데없는 것 같습니다. 아마존이 속하지 않는 곳이 있으며 애도 상담도 그 중 하나입니다.