Il rilevamento dell’incitamento all’odio basato sull’intelligenza artificiale modererà la chat vocale in Call of Duty

Mercoledì, Activision ha annunciato che introdurrà la moderazione della chat vocale in tempo reale basata sull’intelligenza artificiale nella prossima versione del 10 novembre di Call of Duty: Modern Warfare III . L’azienda sta collaborando con Modulate per implementare questa funzionalità, utilizzando la tecnologia chiamata ToxMod per identificare e agire contro l’incitamento all’odio, il bullismo, le molestie e la discriminazione.

Anche se la sfida a livello di settore rappresentata dai comportamenti tossici online non riguarda esclusivamente Call of Duty, Activision afferma che la portata del problema è stata aumentata a causa dell’enorme base di giocatori del franchise. Quindi si sta rivolgendo alla tecnologia di apprendimento automatico per automatizzare la soluzione.

ToxMod è un sistema di moderazione vocale basato sull’intelligenza artificiale progettato per identificare e agire contro ciò che Activision chiama “linguaggio dannoso” che viola il codice di condotta del gioco . L’obiettivo è integrare le misure anti-tossicità esistenti di Call of Duty, che includono il filtraggio del testo in 14 lingue e un sistema di segnalazione dei giocatori all’interno del gioco.

Activision afferma che i dati dei suoi precedenti sforzi anti-tossicità hanno limitato la chat vocale o di testo per oltre 1 milione di account che violavano il suo codice di condotta. Inoltre, il 20% di coloro che hanno ricevuto una prima ammonizione non hanno commesso altri reati, suggerendo che un feedback chiaro è utile per moderare il comportamento dei giocatori.

A prima vista, la moderazione vocale in tempo reale sembra un notevole progresso per combattere comportamenti di disturbo durante il gioco, soprattutto perché i problemi di privacy che normalmente potrebbero derivare da un tale sistema sono probabilmente assenti in un videogioco. L’obiettivo è rendere il gioco più divertente per tutti i giocatori.

Tuttavia, al momento, i sistemi di rilevamento dell’intelligenza artificiale sono notoriamente volubili e possono produrre falsi positivi, soprattutto con persone di madrelingua inglese. Date le variazioni nella qualità audio, negli accenti regionali e nelle varie lingue, è un compito arduo che un sistema di rilevamento vocale funzioni perfettamente in tali condizioni. Fortunatamente, Activision afferma che un essere umano rimarrà nel giro delle azioni di controllo:

“Il rilevamento avviene in tempo reale, con il sistema che classifica e contrassegna il linguaggio tossico in base al codice di condotta di Call of Duty non appena viene rilevato. Le violazioni rilevate del Codice di condotta potrebbero richiedere ulteriori revisioni delle registrazioni associate per identificare il contesto prima che venga determinata l’applicazione. Pertanto, le azioni intraprese non saranno istantanee. Man mano che il sistema cresce, i nostri processi e i tempi di risposta si evolveranno”.

Inoltre, Activision afferma che il sistema di moderazione della chat vocale di Call of Duty “invia solo segnalazioni di comportamenti tossici, classificati in base al tipo di comportamento e un livello di gravità basato su un modello in evoluzione”. Gli esseri umani determinano quindi se applicheranno le violazioni della moderazione della chat vocale. .

Il nuovo sistema di moderazione ha iniziato un beta test a partire da mercoledì, coprendo inizialmente il Nord America e concentrandosi sui giochi esistenti Call of Duty: Modern Warfare II e Call of Duty: Warzone. Il lancio completo della tecnologia di moderazione, esclusa l’Asia, è previsto in concomitanza con il lancio di Modern Warfare III, a partire dall’inglese, con l’aggiunta di altre lingue nel tempo.

Nonostante i potenziali inconvenienti dei falsi positivi, non c’è modo di disattivare l’ascolto dell’IA. Come affermano le FAQ di Activision , “I giocatori che non desiderano che la propria voce sia moderata possono disattivare la chat vocale nel gioco nel menu delle impostazioni.”