Ar mākslīgo intelektu darbināta naida runas noteikšana regulēs balss tērzēšanu pakalpojumā Call of Duty

Trešdien Activision paziņoja , ka 10. novembrī gaidāmajā Call of Duty: Modern Warfare III izlaidumā tā ieviesīs reāllaika AI darbinātu balss tērzēšanas moderāciju . Uzņēmums sadarbojas ar Modulate , lai ieviestu šo funkciju, izmantojot tehnoloģiju, ko sauc par ToxMod , lai identificētu naida runu, iebiedēšanu, uzmākšanos un diskrimināciju un veiktu pasākumus pret tiem.

Lai gan visas nozares mēroga izaicinājums par toksisko uzvedību tiešsaistē nav unikāls Call of Duty, Activision saka, ka problēmas mērogs ir palielinājies franšīzes plašās spēlētāju bāzes dēļ. Tāpēc mēs pievēršamies mašīnmācības tehnoloģijai, lai palīdzētu automatizēt risinājumu.

ToxMod ir AI darbināma balss regulēšanas sistēma, kas izstrādāta, lai identificētu un vērstos pret to, ko Activision sauc par “kaitīgu valodu”, kas pārkāpj spēles rīcības kodeksu . Mērķis ir papildināt Call of Duty esošos prettoksicitātes pasākumus, kas ietver teksta filtrēšanu 14 valodās un spēlētāja ziņošanas sistēmu.

Activision saka, ka dati no tās iepriekšējiem prettoksicitātes pasākumiem ir ierobežojuši balss vai teksta tērzēšanu vairāk nekā 1 miljonam kontu, kas pārkāpa tās rīcības kodeksu. Turklāt 20 procenti no tiem, kuri saņēma pirmo brīdinājumu, nav atkārtoti apvainojušies, kas liecina, ka skaidra atgriezeniskā saite ir noderīga spēlētāju uzvedības regulēšanai.

Uz tās virsmas balss moderēšana reāllaikā šķiet ievērojams sasniegums, lai cīnītos pret traucējošu uzvedību spēlē, jo īpaši tāpēc, ka privātuma problēmas, kas parasti var rasties ar šādu sistēmu, videospēlēs, visticamāk, nepastāv. Mērķis ir padarīt spēli patīkamāku visiem spēlētājiem.

Tomēr pašlaik mākslīgā intelekta noteikšanas sistēmas ir ļoti nepastāvīgas un var radīt kļūdaini pozitīvus rezultātus, īpaši tiem, kam angļu valoda nav dzimtā. Ņemot vērā atšķirības audio kvalitātē, reģionālajos akcentos un dažādās valodās, balss noteikšanas sistēmai šādos apstākļos ir jāstrādā nevainojami. Par laimi, Activision saka , ka cilvēks būs pakļauts izpildes darbībām:

“Noteikšana notiek reāllaikā, sistēmai klasificējot un atzīmējot toksisko valodu, pamatojoties uz Call of Duty uzvedības kodeksu, tiklīdz tā tiek atklāta. Konstatēto Rīcības kodeksa pārkāpumu gadījumā var būt nepieciešama saistīto ierakstu papildu pārskatīšana, lai noteiktu kontekstu pirms izpildes noteikšanas. Tāpēc veiktās darbības nebūs tūlītējas. Sistēmai augot, mūsu procesi un reakcijas laiki attīstīsies.

Turklāt Activision saka, ka Call of Duty balss tērzēšanas moderēšanas sistēma “iesniedz tikai ziņojumus par toksisku uzvedību, kas tiek klasificēta pēc tās uzvedības veida un novērtētā smaguma pakāpes, pamatojoties uz mainīgo modeli.” Pēc tam cilvēki nosaka, vai viņi īstenos balss tērzēšanas regulēšanas pārkāpumus. .

Jaunā moderēšanas sistēma sāka beta testēšanu, sākot no trešdienas, sākotnēji aptverot Ziemeļameriku un koncentrējoties uz esošajām spēlēm Call of Duty: Modern Warfare II un Call of Duty: Warzone. Plānots, ka moderēšanas tehnoloģijas pilnīga ieviešana, izņemot Āziju, sakrīt ar Modern Warfare III palaišanu, sākot ar angļu valodu, laika gaitā pievienojot papildu valodas.

Neskatoties uz viltus pozitīvu rezultātu iespējamiem trūkumiem, nav iespējams atteikties no AI klausīšanās. Kā teikts Activision FAQ: “ Spēlētāji, kuri nevēlas, lai viņu balss tiktu regulēta, iestatījumu izvēlnē var atspējot spēles balss tērzēšanu.”