Dirbtinio intelekto veikiamas neapykantos kurstymo kurstymo aptikimas prižiūrės balso pokalbius programoje „Call of Duty“.

Trečiadienį „Activision“ paskelbė , kad būsimame „ Call of Duty: Modern Warfare III“ išleidime lapkričio 10 d. pristatys realaus laiko AI valdomą balso pokalbių moderavimą . Bendrovė bendradarbiauja su „Modulate“ , kad įdiegtų šią funkciją, naudodama technologiją „ ToxMod“ , kad nustatytų ir imtųsi veiksmų prieš neapykantą kurstančią kalbą, patyčias, priekabiavimą ir diskriminaciją.

Nors toksiško elgesio internete iššūkis nėra būdingas tik Call of Duty, „Activision“ teigia, kad problemos mastas išaugo dėl didžiulės franšizės žaidėjų bazės. Taigi kreipiamasi į mašininio mokymosi technologiją, kuri padėtų automatizuoti sprendimą.

„ToxMod“ yra dirbtinio intelekto valdoma balso moderavimo sistema, skirta nustatyti ir imtis veiksmų prieš tai, ką „Activision“ vadina „žalinga kalba“, kuri pažeidžia žaidimo elgesio kodeksą . Tikslas yra papildyti esamas Call of Duty kovos su toksiškumu priemones, apimančias teksto filtravimą 14 kalbų ir žaidimo žaidėjų ataskaitų teikimo sistemą.

„Activision“ teigia, kad ankstesnių kovos su toksiškumu pastangų duomenys apribojo balso ar teksto pokalbius daugiau nei 1 mln. paskyrų, kurios pažeidė jos elgesio kodeksą. Be to, 20 procentų tų, kurie gavo pirmąjį įspėjimą, pakartotinai neįsižeidė, o tai rodo, kad aiškūs atsiliepimai yra naudingi žaidėjų elgesio moderavimui.

Iš pažiūros balso moderavimas realiuoju laiku atrodo kaip reikšminga pažanga kovojant su trikdančiu elgesiu žaidime – juolab kad privatumo problemų, kurios paprastai gali kilti naudojant tokią sistemą, vaizdo žaidimuose greičiausiai nėra. Tikslas yra padaryti žaidimą malonesnį visiems žaidėjams.

Tačiau šiuo metu dirbtinio intelekto aptikimo sistemos yra labai nepastovios ir gali sukelti klaidingus teigiamus rezultatus, ypač tiems, kuriems anglų kalba nėra gimtoji. Atsižvelgiant į garso kokybės, regioninių akcentų ir įvairių kalbų skirtumus, balso aptikimo sistema nepriekaištingai veiktų tokiomis sąlygomis. Laimei, „Activision“ teigia , kad žmogus liks galintis imtis veiksmų:

„Aptikimas vyksta realiu laiku, kai sistema suskirsto į kategorijas ir pažymi toksišką kalbą pagal Call of Duty elgesio kodeksą, kai ji aptinkama. Nustačius elgesio kodekso pažeidimus, prieš nustatant vykdymą gali prireikti papildomai peržiūrėti susijusius įrašus, kad būtų nustatytas kontekstas. Todėl veiksmai nebus atliekami akimirksniu. Sistemai augant, mūsų procesai ir reakcijos laikas vystysis.

Be to, „Activision“ teigia, kad „Call of Duty“ balso pokalbių moderavimo sistema „teikia pranešimus tik apie toksišką elgesį, suskirstytą į kategorijas pagal elgesio tipą ir įvertintą sunkumo lygį, pagrįstą besivystančiu modeliu“. .

Naujoji moderavimo sistema pradėjo beta versijos testavimą nuo trečiadienio, iš pradžių apimdama Šiaurės Ameriką ir daugiausia dėmesio skiriant esamiems žaidimams Call of Duty: Modern Warfare II ir Call of Duty: Warzone. Visiškas moderavimo technologijos įdiegimas, išskyrus Aziją, planuojamas sutampa su „Modern Warfare III“ paleidimu, pradedant anglų kalba, o laikui bėgant bus pridėta papildomų kalbų.

Nepaisant galimų klaidingų teigiamų rezultatų trūkumų, nėra būdo atsisakyti dirbtinio intelekto klausymosi. Kaip rašoma „Activision“ DUK , „Žaidėjai, nenorintys, kad jų balsas būtų moderuojamas, gali išjungti žaidimo balso pokalbį nustatymų meniu“.