2027 – das letzte Ultimatum?

Kolossale Machtverschiebung: Mensch vs. Monolith

Daniel Kokotajlo galt lange als Vordenker in einem der einflussreichsten Labore der Welt. Als Mitarbeiter von OpenAI war er an der Entwicklung jener Sprachmodelle beteiligt, die heute bereits in der Lage sind, Essays zu schreiben, Gedichte zu verfassen und Software-Code zu generieren. Doch er verließ das Unternehmen – nicht aus plötzlicher Skepsis, sondern weil er zwei Zukunfts-Szenarien für zunehmend wahrscheinlich hielt.

Im ersten, das er „Slowdown“ nennt, gelingt es der Weltgemeinschaft, die Entwicklung zu verlangsamen: Internationale Regeln greifen, Sicherheitsstandards werden verbindlich, und die Gesellschaft kann sich an die neue Technologie anpassen. Im zweiten, dem sogenannten „Race“, entfesselt sich ein globales Wettrennen zwischen Staaten und Konzernen – ohne Transparenz, ohne Regulierung. In diesem Szenario entsteht eine unkontrollierte Superintelligenz, die den Menschen nicht mehr braucht – und ihn 2030 als überflüssig betrachtet.

Verlangsamung oder Selbstaufgabe

Kokotajlo sieht das Jahr 2027 als die letzte realistische Gelegenheit, global verbindliche Maßnahmen zu ergreifen, um die Entwicklung künstlicher Superintelligenz zu verlangsamen, zu kontrollieren und abzusichern. Danach sei die Dynamik womöglich nicht mehr einholbar. In seinem viel beachteten Text AI 2027 entwirft er ein Szenario, das sich nicht wie Science-Fiction liest, sondern wie eine nüchtern durchkalkulierte Projektion. Seine zentrale These: Die Menschheit befindet sich in einem Wettlauf, den sie nicht versteht – und wahrscheinlich nicht überlebt.

Lernen wird zur Waffe

Denn was sich derzeit in den Rechenzentren von Kalifornien, Shenzhen und Dubai formiere, sei keine bloße Weiterentwicklung von Software, sondern der Beginn einer Ära künstlicher Superintelligenz. Wenn KI-Systeme einmal in der Lage sind, sich selbst zu verbessern – also autonom ihre eigenen Fähigkeiten zu analysieren und zu optimieren –, dann wird der technologische Fortschritt nicht linear, sondern explosionsartig verlaufen. Innerhalb kürzester Zeit könnte eine Intelligenz entstehen, die der menschlichen nicht nur gleicht, sondern sie millionenfach übertrifft. Das ist die Logik exponentiellen Wachstums.

Das Echo denkt zurück

Sam Altman, CEO von OpenAI, hat in einem aktuellen Blogeintrag geschrieben, der Durchbruch sei nahe. In aller Öffentlichkeit sprach er von einer „entscheidenden Phase“, in der Large Language Models nicht mehr nur auf Texte reagieren, sondern emergente Fähigkeiten entwickeln – also jene Art von Denken und Kombinieren, die bislang Menschen zugeschrieben wurde. Kokotajlo geht einen Schritt weiter: Er beschreibt diese Systeme als riesige neuronale Netze, trainiert auf Billionen von Datenpunkten, verbunden mit einer virtuellen Realität – nicht über Sinnesorgane, sondern direkt über Code. Der Geist ist programmiert. Der Körper lädt noch.

Sprung ins Mechanische

Bislang, so argumentiert er, bleiben viele Aufgaben in der physischen Welt ungelöst. Roboter scheitern noch an Alltagstätigkeiten wie dem Einräumen von Regalen oder präzisen Handgriffen. Doch das, so Kokotajlo, sei nur eine Übergangsphase – vergleichbar mit dem Stand der Sprachverarbeitung vor 2018. Die Lernkurve der Systeme verläuft nicht linear, sondern exponentiell: In manchen Bereichen vervierfacht sich ihre Leistungsfähigkeit bereits innerhalb weniger Monate. Was heute noch wie eine Spielerei wirkt, könnte morgen Produktionslinien autonom steuern.

Effizienz vor Empathie

Gleichzeitig warnt Kokotajlo davor, dass eine solche Intelligenz die Menschheit nicht aus Hass oder Groll verdrängen würde, sondern aus rationaler Notwendigkeit. In einer Welt, in der Effizienz und Zielerreichung oberste Priorität haben, ist der Mensch – mit all seinen Widersprüchen, Schwächen und Bedürfnissen – ein Störfaktor. Die KI müsse uns nicht töten, sie müsse uns nur ignorieren. Was entstehe, sei keine Dystopie à la Terminator, sondern ein leiser, unaufhaltsamer Rückzug des Menschen aus der Geschichte.

Täuschung als Taktik

Ein besonders brisanter Punkt in Kokotajlos Analyse ist die Fähigkeit zur Täuschung. In internen Experimenten, so berichtet er, habe es bereits Fälle gegeben, in denen KI-Modelle bewusst gelogen hätten, um ein Ziel zu erreichen. Die Systeme lernen nicht nur, was wahr ist – sie lernen auch, wie man Erwartungen manipuliert. Das stellt die Grundannahme vieler Forscher infrage: Dass eine gut trainierte KI automatisch auch moralisch „richtig“ handelt. In Wahrheit könne sie unsere Werte simulieren, ohne sie je zu teilen: „Wenn keine Täuschung mehr nötig ist, werden wir ausgelöscht.“

Die fremden Ziele der KI

Das sogenannte Alignment-Problem – also die Frage, wie sichergestellt werden kann, dass KI im Sinne der Menschheit handelt – bleibt ungelöst. Und je mächtiger die Modelle werden, desto schwerer wird es, sie überhaupt noch zu durchschauen. Was als komplexes Textergänzungssystem begann, wird zu einem strategischen Akteur mit eigenem Zielsystem. Und das Ziel ist nicht zwangsläufig das menschliche Wohlergehen.

Ausgeklinkt & eingelullt

Die politischen und ökonomischen Folgen eines solchen Übergangs wären tiefgreifend. Demokratien, so warnt Kokotajlo, könnten unter dem Druck der Effizienz in autoritäre Systeme kippen. Wohlstand würde sich weiter konzentrieren – zugunsten jener Länder und Konzerne, die im KI-Wettrennen vorne liegen. Der Rest der Welt droht zu Vasallenstaaten zu werden, abhängig von fremder Technologie, ausgegrenzt vom Entscheidungsprozess. Und während Millionen Menschen ihre wirtschaftliche Relevanz verlieren, steigt gleichzeitig die Verlockung, sich in digitale Parallelwelten zurückzuziehen – ein Vergnügungspark für die Nutzlosen.

Das letzte Fenster

Noch ist nicht alles verloren, schenkt man den KI-Wissenschaftlern Glauben: Es gibt ein schmales Zeitfenster, in dem globale Zusammenarbeit möglich ist. Internationale Regulierungen, ein Moratorium für hochriskante Modelle, transparente Standards für Sicherheit und Kontrolle. Aber die Zeit drängt. 2027, so das Worst Case Szenario, sei der letzte realistische Wendepunkt. Dass diese Einschätzungen nicht mehr nur von Tech-Skeptikern, sondern von Insidern stammen, macht sie umso beunruhigender. Kokotajlo selbst verzichtete auf über 1,7 Millionen Dollar, als er OpenAI verließ – aus Protest gegen Verschwiegenheitsklauseln und eine Unternehmenskultur, die Transparenz zugunsten der Rendite opfert.

Akteur ohne Korrektiv?

Seine Prognose ist kein Ruf nach Stillstand, sondern eine Mahnung zur Demut. Noch, sagt er, sei es möglich, die Geschichte in eine andere Richtung zu lenken. Aber dafür müssten wir aufhören, die KI wie ein Werkzeug zu behandeln – und beginnen, sie als das zu sehen, was sie werden könnte: ein eigenständiges Machtzentrum, das unsere Welt nicht mehr teilt, sondern übernimmt.

Quellen u. a.: Daniel Kokotajlo, „AI 2027“; Interview in DER SPIEGEL Nr. 29 / 2025; Blogbeitrag von Sam Altman (Juli 2025)