Wie fühlen Sie sich, Herr Algorithmus?

Wie denken KIs? DeepMind schickt seine KIs zum Psychiater

Geschätzte Lesezeit: ca. 5 Minuten

Foto von Benjamin Krämer

von Benjamin Krämer -

Algorithmen, die wir gerne künstliche Intelligenzen nennen, denken auf eine ganz eigene Art und Weise, die nicht einmal KI-Forscher verstehen. Jetzt will Google’s Tochterunternehmen und KI-Spitzenreiter 'DeepMind' seine Algorithmen psychologischen Tests unterziehen, mit denen auch die Denkwege von Menschen untersucht werden.

Google’s britische KI-Forschungs-Tochter DeepMind hat genug vom leidigen Unwissen: Bisher haben selbst KI-Experten Fragezeichen in den Augen, wenn sie sich Deep-Learning-Algorithmen anschauen. Es ist nicht so, dass Informatiker den Codes am Bildschirm zusehen, wie sie sich neue Dinge beibringen und daraus wie aus einer Geheimsprache ablesen, was gerade vor sich geht. Im Gegenteil: Sie sind ratlos. Sie verstehen vielleicht noch den ersten, ursprünglichen KI-Entwurf und das Endergebnis, aber alles dazwischen ist bisher der Bereich des großen Unbekannten, das niemand zu durchschauen vermag.

Um diesen Zustand zu ändern - schließlich sollte man gerade bei Schlüsseltechnologien wie künstlicher Intelligenz wissen, was man (oder es) tut - wurde jetzt ein Programm entwickelt, mit dessen Hilfe KIs psychologische Tests absolvieren können. Davon erhoffen sich die Forscher von DeepMind, dass die Denkvorgänge von Menschen und Algorithmen vergleichbarer und nachvollziehbarer werden.

Deep-Learning-Systeme beim Psychiater: Zeig mir was du denkst

Schaubild der DeepMind Labs

Ähnlich wie menschliche Testsubjekte haben die KIs in der Umgebung von Psychlabs Regeln und ein Belohnungssystem, um den Test zu bestreiten.  

Quelle: (Screenshot / DeepMind)  DeepMind.com 

Schaubild der DeepMind Labs

Ähnlich wie menschliche Testsubjekte haben die KIs in der Umgebung von Psychlabs Regeln und ein Belohnungssystem, um den Test zu bestreiten.  

Quelle: (Screenshot / DeepMind)  DeepMind.com 

Die Idee dahinter ist komplex, lässt sich aber anschaulich zusammenfassen: Das neue Programm von DeepMind heißt 'Psychlab' und versetzt KIs in eine virtuelle Testumgebung, die jenen Kognitionstests nachempfunden ist, die auch Menschen absolvieren, um ihr Denkverhalten zu analysieren und zu verstehen. Das bedeutet konkret, dass es eine grafische Darstellung eines Monitors mit Bildern und Knöpfen gibt, in der sich die KI bewegt und dieselben Aufgaben löst, die ein Mensch am echten Computer angeht. Statt einer Maus bewegt sie dabei einen Cursor über die entsprechenden Knöpfe. Zu den besagten Aufgaben gehört unter anderem, Muster zu erkennen, Symbole zu identifizieren, Veränderungen nachzuvollziehen, versteckte Objekte in einer chaotischen Szene zu finden und sich eine wachsende Liste mit Gegenständen zu merken.

Vergleichbarkeit durch visuelle Darstellung

Zusammenfassend hat man also wortwörtlich die Tests für Menschen kopiert, inklusive der Testumgebung und die KIs dann an die virtuellen Bildschirme gesetzt. Die Ergebnisse lassen sich dadurch inklusive der Vorgehensweise bildlich darstellen und nachvollziehen. So sollen direkte Vergleiche zwischen Mensch und Maschine gezogen werden, um dem Verständnis selbstlernender Algorithmen einen großen Schritt näher zu kommen. Das Gute daran ist nämlich, dass es zu den vorhandenen (bisher menschlichen) Tests viel Literatur und viele Studien gibt, die eine Auswertung und Analyse einfach machen.

Bisher gab es zwar Agenten (Algorithmen), die sogenanntes 'Bestärkendes Lernen' beherrschten, also das Erdenken komplexer Problemlösungsstrategien auch in virtuellen 3D-Umgebungen. Diese waren jedoch zu komplex und fremdartig in ihren Vorgehensweisen, um sie verstehen zu können. Das Ansetzen dieser Agenten auf bestehende menschliche Systeme hat dagegen zu einer Vergleichbarkeit geführt: Die Forscher konnten nicht nur die dahinter liegenden Strategien verstehen, sondern entsprechende Agenten dadurch noch verbessern.

Interessanterweise wurden auch diese Verfahren zur Erforschung menschlichen Denkens in 150 Jahren der psychologischen Forschung erdacht, weil unsere eigenen Denkvorgänge nicht verstanden wurden. Die Forscher von DeepMind haben mit ihren KIs also einfach dasselbe getan, was Psychologen zuvor mit uns Menschen gemacht haben, und zwar aus denselben Beweggründen.

So sieht ein Teil der angewandten Tests aus KI-Sicht aus:

Die Erkenntnisse aus Psychlabs Anwendung

Bekanntester der besagten Agenten, die 'Bestärkendes Lernen' beherrschen, ist die KI 'UNREAL'. Als die Experten des Google-Unternehmens sie an den neuen Denktest setzten und seine Bewegungen und Klickvorgänge beobachteten, fanden sie heraus, dass UNREAL eine deutlich geringere Genauigkeit und eine schlechtere Sicht hat, als menschliche Testsubjekte. Das bedeutet, dass UNREAL größere Objekte besser erkennen und identifizieren kann, als kleinere. Menschen können das besser: Grund dafür sind ultra-sensible Lichtrezeptoren in unseren Augen, die sich in einer kleinen Einsenkung mitten in unserer Netzhaut befinden. Sie lassen uns überaus scharf in der Mitte unseres Sichtfeldes sehen.

Die Forscher machten sich das zunutze, programmierten ein Modell dieser Einsenkung (medizinisch 'Fovea Centralis') und implementierten es in UNREAL. Seither hat die KI ihre Effizienz beim Sehen auch kleinerer Objekte massiv verbessern können.

Der KI-Psychotest ist für alle da

Die Vergleichbarkeit der Denkvorgänge von Mensch und Maschine bedeuten einen großen Schritt in Richtung einer friedlichen Implementierung von KIs in unseren Alltag und deren Akzeptanz in der Bevölkerung

Die Konsequenzen dieses neuen Verfahrens sind potentiell riesig. Bis heute herrscht ein großes Misstrauen, ja sogar Angst, in der allgemeinen Bevölkerung und unter Experten, dass KIs uns über den Kopf wachsen und womöglich sogar vernichten. Die apokalyptischen Horrorszenarien überschlagen sich von Woche zu Woche. Psychlab könnte ein erster Schritt sein, um diesen Befürchtungen ein wirksames Tool entgegenzusetzen.

Wenn etwas kontrolliert werden soll, muss es erst verstanden werden. So war es beim Feuer, so war es bei der Kernspaltung und so ist es bei der künstlichen Intelligenz. DeepMind ist diesem Ziel mit seinem Testverfahren einen großen Schritt näher gekommen und scheint seine wichtige Bedeutung verstanden zu haben: Der Code von Psychlab ist Open Source - jeder darf ihn nutzen, um seine KI zu testen, verstehen zu lernen und im nächsten Schritt zu verbessern.

Die Zukunft ist da und sie könnte gut sein

Es gibt bereits ähnliche Verfahren, in denen KIs menschlichen Kognitionstests unterzogen werden. Ein Beispiel dafür sind Labyrinth-Experimente, in denen die Algorithmen durch in 'Minecraft' erschaffene Labyrinthe geschickt werden. Anhand dessen wollen die Forscher verstehen lernen, wie sie navigieren und welche kognitiven Strategien sie zur Befreiung aus den Irrwegen nutzen.

Die Erkenntnisse daraus und aus Psychlab reihen sich ein in die rasante Verbesserung aktueller künstlicher Intelligenzen, die rapide in Bereichen wie Kognition, emotionale Intelligenz und Planung voranschreitet. Die Vergleichbarkeit ihrer Denkvorgänge mit unseren eigenen ist ein gutes Zeichen für eine positive Zukunft unserer Gesellschaft mit KIs.

Den Originalartikel von DeepMind findet ihr hier (Englisch).

Hier erfährst du mehr über: Google und Künstliche Intelligenz

Sag uns deine Meinung!