AI-toega vihakõne tuvastamine modereerib Call of Duty häälvestlust

Kolmapäeval teatas Activision, et tutvustab 10. novembril ilmuvas Call of Duty: Modern Warfare III reaalajas tehisintellektil töötavat häälvestluse modereerimist . Ettevõte teeb selle funktsiooni rakendamiseks koostööd Modulate’iga , kasutades tehnoloogiat nimega ToxMod , et tuvastada vihakõne, kiusamine, ahistamine ja diskrimineerimine ning võtta selle vastu meetmeid.

Kuigi kogu tööstust hõlmav toksilise võrgukäitumise väljakutse ei ole Call of Duty jaoks ainulaadne, on Activisioni sõnul probleemi ulatus frantsiisi tohutu mängijabaasi tõttu suurenenud. Seega pöördume masinõppetehnoloogia poole, mis aitab lahendust automatiseerida.

ToxMod on tehisintellektil töötav hääle modereerimissüsteem, mis on loodud selleks, et tuvastada ja tegutseda selle vastu, mida Activision nimetab “kahjulikuks keeleks”, mis rikub mängu käitumiskoodeksit . Eesmärk on täiendada Call of Duty olemasolevaid toksilisusevastaseid meetmeid, mis hõlmavad teksti filtreerimist 14 keeles ja mängusisest mängijate aruandlussüsteemi.

Activision ütleb, et varasemate toksilisusevastaste jõupingutuste andmed on piiranud hääl- või tekstivestlust enam kui miljoni konto puhul, mis rikkusid tema käitumisjuhendit. Veelgi enam, 20 protsenti esimese hoiatuse saanud inimestest ei solvanud uuesti, mis viitab sellele, et selge tagasiside on mängija käitumise modereerimiseks kasulik.

Selle pinnal tundub reaalajas hääle modereerimine olevat märkimisväärne edusamm, et võidelda häiriva mängusisese käitumisega – eriti kuna privaatsusprobleemid, mis võivad sellise süsteemiga tavaliselt kaasneda, on videomängus tõenäoliselt puuduvad. Eesmärk on muuta mäng kõigile mängijatele nauditavamaks.

Kuid praegu on tehisintellekti tuvastamise süsteemid kurikuulsalt muutlikud ja võivad anda valepositiivseid tulemusi, eriti inglise keelt mitte emakeelena kõnelevatel inimestel. Võttes arvesse helikvaliteedi erinevusi, piirkondlikke aktsente ja erinevaid keeli, on kõnetuvastussüsteemi jaoks nendes tingimustes laitmatu töötamiseks suur tellimus. Õnneks ütleb Activision, et inimene jääb jõustamistoimingute ahelasse:

„Tuvastamine toimub reaalajas, süsteem kategoriseerib ja märgistab mürgist keelt Call of Duty käitumisjuhendi alusel, kui see tuvastatakse. Avastatud käitumiskoodeksi rikkumised võivad nõuda seotud salvestiste täiendavat ülevaatamist, et tuvastada kontekst enne jõustamise kindlaksmääramist. Seetõttu ei võeta võetavad toimingud silmapilkselt. Süsteemi kasvades arenevad meie protsessid ja reageerimisajad.

Lisaks ütleb Activision, et Call of Duty häälvestluse modereerimissüsteem “esitab aruandeid ainult mürgise käitumise kohta, mis liigitatakse selle käitumise tüübi ja areneva mudeli alusel hinnatud raskusastme järgi.” Seejärel otsustavad inimesed, kas nad jõustavad häälvestluse modereerimise rikkumisi. .

Uus modereerimissüsteem alustas kolmapäeval beetatestimist, mis hõlmas esialgu Põhja-Ameerikat ja keskendus olemasolevatele mängudele Call of Duty: Modern Warfare II ja Call of Duty: Warzone. Mõõdustamistehnoloogia täielik kasutuselevõtt, välja arvatud Aasia, peaks langema kokku Modern Warfare III käivitamisega, mis algab inglise keeles ja aja jooksul lisatakse täiendavaid keeli.

Vaatamata valepositiivsete tulemuste võimalikele puudustele, ei saa tehisintellekti kuulamisest loobuda. Nagu Activisioni KKK ütleb : “Mängijad, kes ei soovi oma häält modereerida, võivad keelata mängusisese häälvestluse seadete menüüs.”