В среду Activision объявила , что представит модерацию голосового чата на базе искусственного интеллекта в реальном времени в предстоящем выпуске Call of Duty: Modern Warfare III, который выйдет 10 ноября . Компания сотрудничает с Modulate для реализации этой функции, используя технологию ToxMod для выявления и принятия мер против разжигания ненависти, издевательств, преследований и дискриминации.
Хотя общеотраслевая проблема токсичного поведения в Интернете не является уникальной для Call of Duty, Activision заявляет, что масштаб проблемы увеличился из-за огромной базы игроков франшизы. Поэтому для автоматизации решения компания обращается к технологиям машинного обучения.
ToxMod — это система голосовой модерации на базе искусственного интеллекта, предназначенная для выявления и противодействия тому, что Activision называет «вредной лексикой», которая нарушает кодекс поведения игры . Цель состоит в том, чтобы дополнить существующие в Call of Duty меры по борьбе с токсичностью, которые включают текстовую фильтрацию на 14 языках и внутриигровую систему отчетов об игроках.
Activision заявляет, что данные ее предыдущих усилий по борьбе с токсичностью привели к ограничению голосового или текстового чата для более чем 1 миллиона учетных записей, которые нарушали ее кодекс поведения. Более того, 20 процентов из тех, кто получил первое предупреждение, не совершили повторного нарушения, что позволяет предположить, что четкая обратная связь полезна для смягчения поведения игроков.
На первый взгляд голосовая модерация в реальном времени кажется заметным достижением в борьбе с деструктивным поведением в игре, особенно с учетом того, что проблемы конфиденциальности, которые обычно возникают при использовании такой системы, скорее всего, отсутствуют в видеоиграх. Цель — сделать игру более приятной для всех игроков.
Однако на данный момент системы обнаружения ИИ, как известно, непостоянны и могут давать ложные срабатывания, особенно в отношении тех, для кого английский язык не является родным. Учитывая различия в качестве звука, региональных акцентах и различных языках, системе распознавания голоса сложно работать безупречно в таких условиях. К счастью, Activision заявляет, что человек будет оставаться в курсе принудительных мер:
«Обнаружение происходит в режиме реального времени: система классифицирует и помечает токсичные выражения на основе Кодекса поведения Call of Duty по мере их обнаружения. Обнаруженные нарушения Кодекса поведения могут потребовать дополнительной проверки соответствующих записей для определения контекста, прежде чем будет принято решение о принудительном исполнении. Поэтому предпринятые действия не будут мгновенными. По мере роста системы наши процессы и время реагирования будут меняться».
Кроме того, Activision заявляет, что система модерации голосового чата Call of Duty «отправляет только отчеты о токсичном поведении, классифицированном по типу поведения и номинальному уровню серьезности на основе развивающейся модели». Затем люди определяют, будут ли они обеспечивать соблюдение нарушений модерации голосового чата. .
Новая система модерации начала бета-тестирование, начиная со среды, первоначально охватывая Северную Америку и уделяя особое внимание существующим играм Call of Duty: Modern Warfare II и Call of Duty: Warzone. Полное внедрение технологии модерации, за исключением Азии, планируется совместить с запуском Modern Warfare III, начиная с английского, с добавлением дополнительных языков со временем.
Несмотря на потенциальные недостатки ложных срабатываний, невозможно отказаться от прослушивания ИИ. Как сказано в FAQ Activision : «Игроки, которые не хотят, чтобы их голос модерировался, могут отключить внутриигровой голосовой чат в меню настроек».