Wykrywanie mowy nienawiści oparte na sztucznej inteligencji będzie moderować czat głosowy w Call of Duty
![Wykrywanie mowy nienawiści oparte na sztucznej inteligencji będzie moderować czat głosowy w Call of Duty](https://cdn.4pmtech.com/wp-content/uploads/2023/08/cdmw3_hero-760x380-1-640x375.webp)
W środę Activision ogłosiło , że w nadchodzącej premierze Call of Duty: Modern Warfare III, która ukaże się 10 listopada, wprowadzi moderację czatów głosowych w czasie rzeczywistym opartą na sztucznej inteligencji . Firma współpracuje z firmą Modulate w celu wdrożenia tej funkcji, wykorzystując technologię o nazwie ToxMod do identyfikowania mowy nienawiści, zastraszania, molestowania i dyskryminacji i podejmowania działań przeciwko niej.
Choć ogólnobranżowe wyzwanie , jakim jest toksyczne zachowanie w Internecie, nie dotyczy tylko Call of Duty, Activision twierdzi, że skala problemu wzrosła ze względu na ogromną bazę graczy. Dlatego zwracamy się w stronę technologii uczenia maszynowego, która pomoże zautomatyzować rozwiązanie.
ToxMod to system moderacji głosowej oparty na sztucznej inteligencji, zaprojektowany w celu identyfikowania i przeciwdziałania temu, co Activision nazywa „szkodliwym językiem”, który narusza kodeks postępowania gry . Celem jest uzupełnienie istniejących środków antytoksycznych w Call of Duty, które obejmują filtrowanie tekstu w 14 językach oraz system zgłaszania graczy w grze.
Activision twierdzi, że dane z poprzednich działań antytoksycznych ograniczyły czaty głosowe i tekstowe w przypadku ponad 1 miliona kont, które naruszyły jej kodeks postępowania. Co więcej, 20 procent osób, które otrzymały pierwsze ostrzeżenie, nie popełniło ponownie przestępstwa, co sugeruje, że jasna informacja zwrotna jest przydatna w moderowaniu zachowania gracza.
Na pierwszy rzut oka moderowanie głosu w czasie rzeczywistym wydaje się znaczącym postępem w walce z zakłócającymi zachowaniami w grze — zwłaszcza, że w grach wideo prawdopodobnie nie występują problemy związane z prywatnością, które zazwyczaj wiążą się z takim systemem. Celem jest uczynienie gry przyjemniejszą dla wszystkich graczy.
Jednak obecnie systemy wykrywania sztucznej inteligencji są bardzo kapryśne i mogą dawać fałszywe wyniki, szczególnie w przypadku osób, dla których angielski nie jest językiem ojczystym. Biorąc pod uwagę różnice w jakości dźwięku, regionalne akcenty i różne języki, niełatwo jest, aby system wykrywania głosu działał bezbłędnie w takich warunkach. Na szczęście Activision twierdzi , że człowiek będzie na bieżąco informowany o działaniach egzekucyjnych:
„Wykrywanie odbywa się w czasie rzeczywistym, a system kategoryzuje i oznacza toksyczny język w oparciu o Kodeks postępowania Call of Duty w momencie jego wykrycia. Wykryte naruszenia Kodeksu postępowania mogą wymagać dodatkowego przeglądu powiązanych nagrań w celu ustalenia kontekstu przed podjęciem decyzji o egzekwowaniu. Dlatego podjęte działania nie będą natychmiastowe. W miarę rozwoju systemu nasze procesy i czasy reakcji będą ewoluować.
Co więcej, Activision twierdzi, że system moderacji czatu głosowego w Call of Duty „przesyła jedynie raporty dotyczące toksycznych zachowań, podzielone na kategorie według rodzaju zachowania i ocenianego poziomu dotkliwości w oparciu o ewoluujący model”. Następnie ludzie ustalają, czy będą egzekwować naruszenia moderacji czatu głosowego. .
Nowy system moderacji rozpoczął w środę testy beta, obejmujące początkowo Amerykę Północną i skupiające się na istniejących grach Call of Duty: Modern Warfare II i Call of Duty: Warzone. Planowane jest, że pełne wdrożenie technologii moderacji, z wyłączeniem Azji, zbiegnie się z premierą Modern Warfare III, począwszy od języka angielskiego, a z czasem dodawane będą kolejne języki.
Pomimo potencjalnych wad fałszywych alarmów nie można zrezygnować z podsłuchiwania sztucznej inteligencji. Jak czytamy w często zadawanych pytaniach Activision: „ Gracze, którzy nie chcą, aby ich głos był moderowany, mogą wyłączyć czat głosowy w grze w menu ustawień”.
Dodaj komentarz