Detekce nenávistných projevů pomocí umělé inteligence bude moderovat hlasový chat v Call of Duty

Ve středu Activision oznámil , že v nadcházejícím vydání Call of Duty: Modern Warfare III z 10. listopadu zavede moderování hlasového chatu v reálném čase pomocí umělé inteligence . Společnost spolupracuje s Modulate za účelem implementace této funkce pomocí technologie nazvané ToxMod k identifikaci a přijetí opatření proti nenávistným projevům, šikaně, obtěžování a diskriminaci.

Zatímco celoodvětvový problém toxického online chování není pro Call of Duty jedinečný, Activision říká, že rozsah problému se zvýšil kvůli masivní hráčské základně franšízy. Proto se obrací na technologii strojového učení, která pomáhá automatizovat řešení.

ToxMod je systém hlasového moderování poháněný umělou inteligencí navržený k identifikaci a jednání proti tomu, co Activision nazývá „škodlivým jazykem“, který porušuje kodex chování hry . Cílem je doplnit stávající antitoxická opatření Call of Duty, která zahrnují filtrování textu ve 14 jazycích a systém hlášení hráčů ve hře.

Společnost Activision říká, že údaje z jejích předchozích snah o boj proti toxicitě omezily hlasový nebo textový chat pro více než 1 milion účtů, které porušovaly její kodex chování. Navíc 20 procent z těch, kteří dostali první varování, se znovu neprovinili, což naznačuje, že jasná zpětná vazba je užitečná pro moderování chování hráčů.

Na povrchu se zdá, že moderování hlasu v reálném čase je významným pokrokem v boji proti rušivému chování ve hře – zejména proto, že obavy o soukromí, které by s takovým systémem obvykle mohly přijít, ve videohře pravděpodobně chybí. Cílem je zpříjemnit hru všem hráčům.

V současnosti jsou však systémy detekce umělé inteligence notoricky nestálé a mohou vytvářet falešné poplachy, zejména u nerodilých mluvčích angličtiny. Vzhledem k rozdílům v kvalitě zvuku, regionálním přízvukům a různým jazykům je pro systém detekce hlasu za těchto podmínek velmi náročný úkol. Naštěstí Activision říká , že člověk zůstane ve smyčce pro vynucovací akce:

„Detekce probíhá v reálném čase, přičemž systém kategorizuje a označuje toxický jazyk na základě kodexu chování Call of Duty, jakmile je detekován. Zjištěná porušení Kodexu chování mohou vyžadovat další kontroly souvisejících nahrávek, aby bylo možné identifikovat kontext, než bude rozhodnuto o vymáhání. Provedené akce proto nebudou okamžité. Jak systém roste, naše procesy a doba odezvy se budou vyvíjet.“

Activision dále říká, že systém moderování hlasového chatu Call of Duty „pouze předkládá zprávy o toxickém chování, kategorizované podle jeho typu chování a ohodnocené úrovně závažnosti na základě vyvíjejícího se modelu.“ Lidé pak určí, zda budou vynucovat porušení moderování hlasového chatu. .

Nový systém moderování zahájil beta test od středy, který zpočátku pokrýval Severní Ameriku a soustředil se na stávající hry Call of Duty: Modern Warfare II a Call of Duty: Warzone. Úplné zavedení technologie moderování, s výjimkou Asie, je plánováno současně se spuštěním Modern Warfare III, počínaje v angličtině a časem budou přidány další jazyky.

Navzdory potenciálním nevýhodám falešných poplachů neexistuje způsob, jak se odhlásit z naslouchání AI. Jak se píše v FAQ Activision : „Hráči, kteří si nepřejí, aby byl jejich hlas moderován, mohou deaktivovat hlasový chat ve hře v nabídce nastavení.“