Amazon заставляет Алексу говорить голосом пропавшего любимого человека, и это беспокоит экспертов по безопасности.
Подключенные динамики и сопровождающие их голосовые цифровые помощники обеспечивают впечатляющее количество действий. Единственным ограничением, кажется, является воображение разработчиков. Если в большинстве случаев новые функции очень полезны, то некоторые из них вызывают больше вопросов или, по крайней мере, странности. Это случай последней идеи Amazon для своего голосового помощника Alexa, который хочет позволить ему воспроизводить голоса .
Amazon заставляет Алексу говорить голосом пропавшего любимого человека
Во время конференции Amazon Re:Mars вице-президент Alexa Рохит Прасад продемонстрировал совершенно новую возможность голосового цифрового помощника американского гиганта: способность имитировать голос. Пока что у нас нет сведений о том, когда эта функция будет доступна и станет ли она когда-либо популярной.
По иронии судьбы, Amazon представила эту новую функцию как способ почтить память наших усопших близких. Американская фирма выпустила видео, на котором Алекса читает голос своей недавно умершей бабушки ребенку. Рохит Прасад объяснил, что компания ищет способы сделать свой искусственный интеллект максимально персонализированным. «Хотя ИИ не может избавиться от боли утраты, он может расширить память». воспроизводить.
и это беспокоит специалистов по безопасности
Эксперты по безопасности уже давно выражают обеспокоенность тем, что такие аудиоинструменты, использующие технологии преобразования текста в речь для создания синтетических голосов, могут открыть путь для новых видов мошенничества. Программное обеспечение для клонирования голоса уже нанесло большой вред, в том числе инцидент в 2020 году в Объединенных Арабских Эмиратах, когда мошенники обманом заставили менеджера банка перевести 35 миллионов долларов после того, как он вслух представился менеджером. При этом дипфейковые звуковые преступления все еще не получили широкого распространения, а доступные инструменты все еще относительно просты.