Prävention per Algorithmus

Facebooks neue KI soll Selbstmorde verhindern

Foto von Sebastian Hardt

von Sebastian Hardt (@hardtboiled)-

Facebook testet gerade einen Algorithmus, der bei der Prävention von Selbstmorden helfen soll. Die künstliche Intelligenz soll Beiträge von potenziell selbstmordgefährdeten Nutzern automatisch mit besser sichtbaren Melde-Optionen versehen und zugleich Facebook-Mitarbeiter alarmieren.

Selbstmord ist ein sensibles Thema. Ein Thema, mit dem sich Gefährdete nur im Privaten oder idealerweise mit einem Therapeuten auseinandersetzen, ist es allerdings schon lange nicht mehr. Vielmehr werden heute immer öfter Foren oder soziale Medien aufgesucht, um die Selbsttötungs-Pläne nach außen zu tragen. Aufmerksame Beobachter finden in Posts und Foreneinträgen betroffener Personen bereits frühzeitig Warnsignale und alarmieren professionelle Helfer, noch bevor die Situation akut wird. Diese Aufgabe will Facebook zukünftig einer künstlichen Intelligenz anvertrauen.

KI scant Posts auf Selbstmord-Hinweise

Wie das soziale Netzwerk in einer Mitteilung bestätigt, wird derzeit ein entsprechender Algorithmus getestet. Dieser soll Posts nach Mustern durchsuchen, die im Vorfeld in bereits entsprechend gemeldeten Beiträgen auftraten. Wird er fündig, soll die Option für andere Nutzer, fragliche Posts zu melden, prominenter hervorgehoben werden.

Diese Mustererkennung werde zugleich dafür genutzt, Posts von potenziell gefährdeten Usern an Facebooks Community-Team weiterzuleiten, die dann unterstützend tätig werden können. Getestet wird der Algorithmus derzeit in den USA. Ob und wann der Service offiziell live geschaltet wird, und ob dieser auch im Rest der Welt Anwendung finden soll, verriet Facebook nicht.

Sag uns deine Meinung!

Um einen Kommentar zu verfassen, melde Dich an oder registriere Dich jetzt auf Netz.de!

Das könnte dich auch interessieren!
Werbung
Ab ins Netz mit dir