... und ist eine Schildkröte ein Gewehr?

Ist es eine Katze oder Guacamole? Wo Googles-KI versagt und Sorgen bereitet

Geschätzte Lesezeit: ca. 2 Minuten

Foto von Benjamin Krämer

von Benjamin Krämer -

Wir lernen immer mehr, künstlicher Intelligenz im Alltag zu vertrauen. Seien es intelligente Überwachungssysteme, Navigationssoftware, Übersetzer oder unsere Smartphones. Doch wie falsch die aktuell fortschrittlichste KI der Welt Bilder interpretiert, könnte zum Problem werden - aufgrund von Tricksereien.

Eine Katze schaut in die Kamera – Googles Vorzeige-KI denkt, es handle sich um Guacamole. Eine Spielzeugschildkröte liegt auf dem Boden – Googles KI ist sich sicher, dass es sich um ein Gewehr handelt. Das klingt erst einmal witzig, ist aber überaus bedenklich. Geschehen konnte das durch Trickserei. Man muss es sich vorstellen wie optische Illusionen für uns Menschen, mit deren Hilfe wir in 3-D Bildern Muster erkennen können. Da die Algorithmen auf bestimmte Formen mit antrainierten Assoziationen verknüpfen, kann man sie mit entsprechenden Farben und Formen hereinlegen. Man muss nur die entsprechenden Variablen kennen. Ein paar grüne Striche auf einer Katze reichen aus und das Pendel schlägt bei der KI von "Katze" zu "Guacamole" um.

KIs könnten Opfer von Kriminalität werden

Stellen wir uns ein selbstfahrendes Auto vor, wie es in einigen Jahren Realität auf den Straßen sein wird. Wenn die entsprechende Auto-KI durch einen Cyberangriff eine entsprechende optische Illusion gesendet bekommt, die allein auf die spezielle Form eines Gegenstands zurückzuführen ist, könnte sie Unfälle hervorrufen. Sie könnte ein Straßenschild für einen Menschen halten, der die Straße überqueren will oder eben eine Schildkröte für einen Bewaffneten und die Polizei rufen. Das Beispiel zeigt einmal mehr, dass nicht nur die KI-Forschung Fortschritte machen sollte, sondern auch die IT-Sicherheit in Bezug auf KI-Systeme.

Eine dunkle Katze neben einem Diagramm

Nur kleine Änderungen am Objekt, Farben und winzige Muster, tricksen die KI aus und sie hält die Katze für Guacamole. Lecker.

(Screenshot / Labsix)  http://www.labsix.org 

Dunkle Katze neben einem Diagramm

Dies ist das originale, unmodifizierte Bild, das Googles KI richtigerweise als Katze erkennt.

(Screenshot / Labsix)  www.labsix.org 

Eine dunkle Katze neben einem Diagramm

Nur kleine Änderungen am Objekt, Farben und winzige Muster, tricksen die KI aus und sie hält die Katze für Guacamole. Lecker.

(Screenshot / Labsix)  http://www.labsix.org 

Dunkle Katze neben einem Diagramm

Dies ist das originale, unmodifizierte Bild, das Googles KI richtigerweise als Katze erkennt.

(Screenshot / Labsix)  www.labsix.org 

Hier erfährst du mehr über: Google und Künstliche Intelligenz

Sag uns deine Meinung!