Automatische Moderation

Twitch integriert AutoMod gegen Spam, Trolle und Hate Speech

Foto von Michael Springer

von Michael Springer -

Wer Twitch kennt, der weiß: in den Chat-Channels kann es ganz schön zur Sache gehen. Die Streaming-Plattform scheint Trolle und Hater magisch anzuziehen – die Posts reichen vom einfachen Spam bis zu rassistischen und sexistischen Beleidigungen. Mithilfe einer automatisierten Moderation möchte Twitch dieser giftigen Atmosphäre nun einen Riegel vorschieben.

Twitch ist die beliebteste Plattform für Gaming-Streams, zehntausende User besuchen sie täglich. Die Seite lebt von der Kommunikation: Streamer und Zuschauer tauschen sich ständig aus, die Interaktivität hat das Prinzip so populär gemacht. Leider gibt es nicht wenige User, die diesen Austausch sabotieren wollen. Sie überfluten die integrierten Chatrooms mit sinnlosen Nachrichten oder schmeißen mit Beleidigungen und rassistischen Kommentaren um sich. Schnell werden die Chat-Moderatoren vom Schwall der toxischen Messages überwältigt. Twitch will ihnen nun mit einer intelligenten Automatik unter die Arme greifen.

Automatische Moderation mit Machine Learning

Twitch AutoMod Logo

Intelligente Automatik soll Trollen und Hatern das Handwerk legen.  

Quelle:  Twitch Blog 

Twitch AutoMod Logo

Intelligente Automatik soll Trollen und Hatern das Handwerk legen.  

Quelle:  Twitch Blog 

Das neue AutoMod soll eine angenehme Atmosphäre für alle Zuschauer gewährleisten und dabei helfen, die Channels von Trollen und Hate Speech freizuhalten. Die intelligente Moderationssoftware blockiert dazu anstößige, beleidigende, rassistische oder sexistische Nachrichten. Menschliche Moderatoren fällen allerdings das letzte Urteil: Sie entscheiden, ob eine Nachricht tatsächlich blockiert oder doch freigegeben wird. Dank Machine Learning soll AutoMod außerdem immer besser darin werden, unerwünschte Inhalte zu identifizieren.

Streamer können freiwillig entscheiden, ob sie AutoMod für ihren Channel aktivieren. Die Automatik filtert nach vier Kategorien: Blockiert werden Diskriminierungen (etwa rassistischer, sexistischer oder religiöser Färbung), sexuell anstößige Inhalte, aggressive/gewaltverherrlichende Äußerungen und Obszönitäten. Außerdem soll sie erkennen können, wenn User die Moderation zu umgehen versuchen.

Im Moment ist AutoMod nur in englischsprachigen Communitys voll funktionsfähig – für andere Sprachen (darunter auch Deutsch) befindet es sich noch in der Beta-Phase. Wie effektiv die Automatik in der Praxis letztlich ist, wird sich in den kommenden Wochen erst noch zeigen müssen.

Sag uns deine Meinung!

Um einen Kommentar zu verfassen, melde Dich an oder registriere Dich jetzt auf Netz.de!

Das könnte dich auch interessieren!
Werbung
Ab ins Netz mit dir