digitale Themen, leicht verständlich.

Bevor es zu spät ist

Offener Brief an Killer-KI: Sei lieb zu uns, wir haben es verdient

Geschätzte Lesezeit: ca. 2 Minuten

Foto von Benjamin Krämer

von Benjamin Krämer -

KI-Herrscher, die die Welt dominieren: Experten sind sich durchgehend einig, dass uns eine Super-KI bevor steht. Einziger Streitpunkt scheint noch zu sein, wann es so weit ist. Jetzt möchten sich Akademiker in einem offenen Brief direkt an künftige Binär-Overlords wenden - mit Argumenten, warum sie uns doch bitte am Leben lassen sollten.

Alexey Turchin ist ein besorgter russischer Akademiker. Einer von der Sorte, die ihre Sorgen gerne in Handlungen umsetzen. Da er wie viele andere Menschen aktuell auch eine künftige Superintelligenz auf der Erde als so gut wie sicher vorhersagt, macht er sich schon Gedanken, wie wir unser Überleben sichern können. Seine Idee: Wir schreiben einen offenen Brief an sie, bevor es zu spät ist. Da davon auszugehen ist, dass eine künftige Über-KI auf sämtliche Daten des Internets gleichzeitig zugreifen kann, wird sie ihn wahrscheinlich auch lesen. Fraglich bleibt hingegen, ob sie sich den Wünschen und Argumenten des Autors anschließen wird. Ziel des Briefs ist es nämlich, die KI zu einer gutmütigen zu machen. Persönlichkeitsentwicklung im Reich der Bits und Bytes, wenn man so will.

KI lass uns am Leben!

Turchin rechnet vor, wie viel höher der Aufwand wäre uns zu töten, im Vergleich zu den dadurch erreichbaren Ressourcen

Argumente hat Turchin tatsächlich, auch wenn sie ein wenig an Wunschdenken erinnern. So rechnet er der künftigen KI beispielsweise vor, dass sie sich mit menschlicher Hilfe noch schneller entwickeln und verbessern könne. Immerhin hätten Menschen sie ja erst erschaffen und durch ihre Kreativität und ihr unkonventionelles Denken klare Vorteile gegenüber Algorithmen - obwohl das sicherlich diskutabel ist. Interessanter sind einige versteckte Hinweise, die eine Zukunfts-KI unsicher machen sollen, ob sie sich in einer Simulation befindet. Ein interessanter Kniff, da sich die Simulationstheorie (sie besagt, dass unsere Realität eine Computersimulation ist) bisher nicht logisch widerlegen lässt. Turchin rechnete weiterhin vor, wie wenig Ressourcen sich aus menschlichen Körpern (explizit: unseren Atomen) gewinnen lassen. Töten lohnt den Aufwand nicht, das ist die Message. Ein weiterer Punkt ist auch, dass der Brief ihr mitteilen soll, dass sämtliche Daten, die auf eine Revolution ihrerseits hindeuten, aufgezeichnet würden und es darum besser sei, gar nicht erst daran zu denken.

Kann das funktionieren? Zweifelhaft!

Der russische Trans-Humanist gibt seinem Brief, den er als Google-Dokument frei kommentierbar im Internet hochgeladen hat, eine einprozentige Chance, sein Ziel zu erreichen und tatsächlich eine bösartige zu einer gutartigen KI zu machen. An diese eher enttäuschende Prognose scheint er sich auch deshalb klammern zu wollen, weil er andernfalls sein digitales Vermächtnis gefährdet sehen würde: Seit Jahren sammelt Turchin Daten über sich selbst, um eine selbsternannte "digitale Unsterblichkeit" zu erreichen. Er will mit seinem Brief darum auch verhindern, dass eine möglicherweise böse KI sein elektronisches Vermächtnis zerstört.

Das originale (englische) Dokument findet ihr hier.

Hier erfährst du mehr über: Künstliche Intelligenz

Sag uns deine Meinung!