Die KI-gestützte Erkennung von Hassreden moderiert den Voice-Chat in Call of Duty

Am Mittwoch gab Activision bekannt , dass es in der kommenden Veröffentlichung von Call of Duty: Modern Warfare III am 10. November eine KI-gestützte Voice-Chat-Moderation in Echtzeit einführen wird . Das Unternehmen arbeitet mit Modulate zusammen , um diese Funktion zu implementieren. Dabei nutzt es die Technologie namens ToxMod , um Hassreden, Mobbing, Belästigung und Diskriminierung zu erkennen und Maßnahmen dagegen zu ergreifen.

Obwohl die branchenweite Herausforderung des toxischen Online-Verhaltens nicht nur bei Call of Duty auftritt, hat sich das Ausmaß des Problems laut Activision aufgrund der riesigen Spielerbasis der Franchise verschärft. Deshalb setzt man auf maschinelle Lerntechnologie, um die Lösung zu automatisieren.

ToxMod ist ein KI-gestütztes Sprachmoderationssystem, das darauf ausgelegt ist, „schädliche Sprache“, die Activision als „schädliche Sprache“ bezeichnet und gegen den Verhaltenskodex des Spiels verstößt, zu identifizieren und dagegen vorzugehen . Ziel ist es, die bestehenden Antitoxizitätsmaßnahmen von Call of Duty zu ergänzen, zu denen Textfilter in 14 Sprachen und ein Spielermeldesystem im Spiel gehören.

Activision sagt, dass Daten aus seinen früheren Antitoxizitätsbemühungen den Sprach- oder Text-Chat für über 1 Million Konten eingeschränkt haben, die gegen seinen Verhaltenskodex verstoßen haben. Darüber hinaus begingen 20 Prozent derjenigen, die eine erste Verwarnung erhielten, keinen erneuten Verstoß, was darauf hindeutet, dass ein klares Feedback nützlich ist, um das Spielerverhalten zu mäßigen.

Oberflächlich betrachtet scheint die Echtzeit-Sprachmoderation ein bemerkenswerter Fortschritt zur Bekämpfung störenden Verhaltens im Spiel zu sein – insbesondere, da Datenschutzbedenken, die normalerweise mit einem solchen System einhergehen, in einem Videospiel wahrscheinlich nicht vorhanden sind. Ziel ist es, das Spiel für alle Spieler angenehmer zu machen.

Derzeit sind KI-Erkennungssysteme jedoch bekanntermaßen unbeständig und können zu falsch positiven Ergebnissen führen, insbesondere bei Nicht-Muttersprachlern. Angesichts der unterschiedlichen Audioqualität, regionalen Akzente und verschiedenen Sprachen ist es eine große Herausforderung, dass ein Spracherkennungssystem unter diesen Bedingungen einwandfrei funktioniert. Glücklicherweise sagt Activision, dass ein Mensch über Durchsetzungsmaßnahmen auf dem Laufenden bleibt:

„Die Erkennung erfolgt in Echtzeit, wobei das System giftige Sprache basierend auf dem Call of Duty-Verhaltenskodex kategorisiert und markiert, sobald sie erkannt wird. Bei festgestellten Verstößen gegen den Verhaltenskodex sind möglicherweise zusätzliche Überprüfungen der zugehörigen Aufzeichnungen erforderlich, um den Kontext zu ermitteln, bevor über die Durchsetzung entschieden wird. Daher erfolgen die ergriffenen Maßnahmen nicht sofort. Wenn das System wächst, werden sich unsere Prozesse und Reaktionszeiten weiterentwickeln.“

Darüber hinaus sagt Activision, dass das Voice-Chat-Moderationssystem von Call of Duty „nur Berichte über toxisches Verhalten übermittelt, kategorisiert nach der Art des Verhaltens und einem bewerteten Schweregrad basierend auf einem sich entwickelnden Modell“. Anschließend bestimmen Menschen, ob sie Verstöße gegen die Voice-Chat-Moderation durchsetzen .

Das neue Moderationssystem startete ab Mittwoch einen Betatest, der zunächst Nordamerika abdeckte und sich auf die bestehenden Spiele Call of Duty: Modern Warfare II und Call of Duty: Warzone konzentrierte. Die vollständige Einführung der Moderationstechnologie, mit Ausnahme Asiens, ist zeitgleich mit der Veröffentlichung von Modern Warfare III geplant, zunächst auf Englisch, im Laufe der Zeit werden weitere Sprachen hinzugefügt.

Trotz der potenziellen Nachteile falsch positiver Ergebnisse gibt es keine Möglichkeit, das Mithören durch KI zu deaktivieren. In den FAQ von Activision heißt es : „Spieler, die nicht möchten, dass ihre Stimme moderiert wird, können den Voice-Chat im Spiel im Einstellungsmenü deaktivieren.“