OpenAI-Gründer Sam Altman träumt vom KI-Paradies und der „sanften Singularität“

OpenAI-Chef Sam Altman, enger Vertrauter des amtierenden US-Präsidenten Donald Trump, philosophiert in einem neuen Blogbeitrag über nichts Geringeres als das Ende der menschlichen Geschichte – oder zumindest über deren radikale Transformation. In „The Gentle Singularity“ entwirft er die Vision einer Welt, in der künstliche Intelligenz alles verändert – Wirtschaft, Arbeit, Bildung, Regierung, sogar das menschliche Bewusstsein selbst.

Altman spricht von einer „sanften Singularität“, einem Übergang in eine neue Ära, in der KI nicht zerstört, sondern befreit. Ein Leben ohne Armut, mit universellem Wohlstand, radikaler Demokratisierung des Wissens – das klingt wie die utopische Version einer digitalen Erlösung. Gleichzeitig bleibt unklar, wer die Kontrolle über dieses System hat, wer die Regeln schreibt, und ob der sanfte Übergang nicht doch eher ein stiller Kontrollwechsel ist – weg vom Menschen, hin zur Maschine.

Besonders brisant: Altman räumt ein, dass sich Machtstrukturen radikal verschieben werden – hin zu den Erbauern und Betreibern der Super-KIs. Wer also die KI kontrolliert, kontrolliert die Zukunft. Klingt nicht gerade nach „sanft“.

Quelle: Sam Altman – The Gentle Singularity

Hier ist die wortgetreue Übersetzung von Sam Altmans „The Gentle Singularity“ ins Deutsche:

---

Die sanfte Singularität

Wir haben den Ereignishorizont bereits überschritten; der Startschuss ist gefallen. Die Menschheit ist kurz davor, eine digitale Superintelligenz zu entwickeln – und bisher ist das viel weniger seltsam, als man vielleicht denken würde.

Roboter laufen noch nicht auf unseren Straßen herum, und die meisten von uns sprechen nicht den ganzen Tag mit KI. Menschen sterben weiterhin an Krankheiten, wir können noch nicht ohne Weiteres ins All reisen, und das Universum birgt noch viele Geheimnisse.

Und doch haben wir kürzlich Systeme gebaut, die in vielerlei Hinsicht klüger sind als Menschen und die die Leistungsfähigkeit der Menschen, die sie nutzen, erheblich steigern können. Der unwahrscheinlichste Teil der Arbeit liegt hinter uns; die wissenschaftlichen Erkenntnisse, die uns zu Systemen wie GPT‑4 und o3 geführt haben, waren hart erkämpft – und sie werden uns noch weit bringen.

KI wird auf vielfältige Weise zur Welt beitragen, doch der Gewinn an Lebensqualität durch schnelleres wissenschaftliches Vorankommen und gesteigerte Produktivität wird enorm sein; die Zukunft könnte weit besser sein als die Gegenwart. Wissenschaftlicher Fortschritt ist der größte Motor des Gesamterfolgs; es ist unglaublich spannend zu überlegen, wie viel wir noch erreichen könnten.

In gewissem Sinne ist ChatGPT bereits mächtiger als jeder Mensch, der je gelebt hat. Hunderte Millionen Menschen nutzen es täglich für immer wichtigere Aufgaben; eine kleine neue Fähigkeit kann einen riesigen positiven Einfluss haben – eine kleine Fehlanpassung, multipliziert auf Hundertmillionen Nutzer, kann großen Schaden anrichten.

2025 sind Agenten aufgetaucht, die echte kognitive Arbeit leisten können; Programmieren wird nie mehr dasselbe sein. 2026 werden vermutlich Systeme erscheinen, die neuartige Erkenntnisse produzieren. 2027 könnte der Durchbruch bei Robotern für reale Aufgaben kommen.

Viele Menschen werden in der Lage sein, Software und Kunst zu schaffen. Aber die Welt verlangt viel davon, und Experten werden vermutlich weiterhin bessere Ergebnisse erzielen – vorausgesetzt sie nutzen die neuen Werkzeuge. Insgesamt wird die Fähigkeit, dass eine Person im Jahr 2030 viel mehr erreichen kann als noch 2020, eine beeindruckende Veränderung darstellen, von der viele profitieren werden.

In den wichtigsten Punkten könnte der Alltag in den 2030er-Jahren gar nicht so wild anders sein. Menschen werden immer noch ihre Familien lieben, kreativ sein, Spiele spielen und in Seen schwimmen.

Aber in anderen, ebenso bedeutsamen Bereichen werden die 2030er-Jahre sehr anders sein als alles zuvor. Wir wissen nicht, wie weit wir über menschliches Niveau hinauskommen können – aber wir stehen kurz davor, es herauszufinden.

In den 2030er-Jahren werden Intelligenz und Energie – Ideen und die Fähigkeit, Ideen umzusetzen – unglaublich reichlich vorhanden sein. Diese beiden Faktoren hemmten lange den menschlichen Fortschritt; mit reichlich Intelligenz und Energie (und guter Governance) könnten wir theoretisch alles erreichen.

Wir leben bereits mit erstaunlicher digitaler Intelligenz – und nach anfänglichem Staunen haben sich die meisten von uns schon daran gewöhnt. Schnell verwandelt sich staunendes Erschauen, wenn KI einen schönen Absatz schreibt, in die Frage, wann sie einen ganzen Roman schreiben kann; wenn sie medizinische Diagnosen stellt, fragt man: wann findet sie die Heilmittel? Wenn sie ein kleines Programm schreibt, fragt man: wann gründet sie ein ganz neues Unternehmen? So funktioniert die Singularität: Wunder werden zur Routine und dann zur Selbstverständlichkeit.

Wir hören bereits von Wissenschaftlern, dass sie zwei- bis dreimal produktiver sind als vor der KI. Fortgeschrittene KI ist aus vielen Gründen interessant – doch vielleicht am bedeutsamsten ist, dass wir KI nutzen können, um Forschung zu beschleunigen. Wir könnten neue Rechensubstrate, bessere Algorithmen und noch viel mehr entdecken. Wenn wir in einem Jahr oder einem Monat das schaffen, wofür früher ein Jahrzehnt nötig war, verändert sich die Dynamik dramatisch.

Ab jetzt werden uns die bereits gebauten Werkzeuge helfen, neue wissenschaftliche Erkenntnisse zu finden und bessere KI-Systeme zu entwickeln. Natürlich ist das noch nicht dasselbe wie eine KI, die ihren eigenen Code vollständig selbstständig aktualisiert – aber es ist doch eine embryonale Form rekursiver Selbstverbesserung.

Es wirken weitere selbstverstärkende Schleifen: Die Wertschöpfung erzeugt eine Aufbruchsdynamik, um die Infrastruktur für immer leistungsfähigere KI-Systeme zu errichten. Roboter, die Roboter bauen (und sozusagen Rechenzentren, die andere Rechenzentren errichten), sind gar nicht mehr so abwegig.

Selbst wenn wir die ersten Millionen humanoider Roboter auf klassische Weise bauen müssen – aber diese dann entlang der gesamten Wertschöpfungskette arbeiten (Rohstoffe abbauen und verarbeiten, LKW fahren, Fabriken betreiben etc.), um weitere Roboter herzustellen, die wiederum Chipfabriken und Rechenzentren aufbauen – dann ändert sich das Tempo dramatisch.

Wenn die Automatisierung der Rechenzentrum-Produktion voranschreitet, sollte sich die Kostenstruktur der Intelligenz irgendwann an den Stromkosten orientieren. (Man fragt sich oft, wie viel Energie eine ChatGPT-Anfrage verbraucht: Im Durchschnitt etwa 0,34 Wattstunden – so viel, wie ein Ofen in etwas mehr als einer Sekunde oder eine energieeffiziente Glühbirne in ein paar Minuten. Außerdem etwa 0,000085 Gallonen Wasser – rund ein Fünfzehntel Teelöffel.)

Die Geschwindigkeit des technologischen Fortschritts wird weiter zunehmen – und es ist weiterhin so, dass Menschen imstande sind, sich nahezu allem anzupassen. Herausforderungen entstehen, etwa wenn ganze Berufsgruppen verschwinden, doch gleichzeitig wird die Welt so schnell so viel reicher, dass völlig neue politische Konzepte denkbar werden. Ein neuer Gesellschaftsvertrag entsteht vermutlich nicht auf einen Schlag, aber wenn wir in ein paar Jahrzehnten zurückblicken, wird aus den Gradualänderungen etwas Großes sichtbar.

Wenn ein Blick in die Geschichte hilft, werden wir neue Tätigkeiten und Wünsche finden und neue Werkzeuge schnell integrieren (der Jobwechsel nach der industriellen Revolution ist ein aktuelles Beispiel). Erwartungen steigen, doch Fähigkeiten wachsen ebenso schnell – und wir bekommen bessere Dinge. Wir werden immer wundervollere Dinge füreinander bauen. Menschen haben einen langfristig wichtigen und seltsamen Vorteil gegenüber KI: Wir sind darauf programmiert, uns für andere Menschen und ihr Tun zu interessieren – und weniger für Maschinen.

Ein Erdbauer vor tausend Jahren würde uns mit vielen unserer heutigen Tätigkeiten beobachten, uns als „Spieler“ bezeichnen – angesichts von Nahrung im Überfluss und unfassbaren Annehmlichkeiten. Ich hoffe, dass wir in tausend Jahren auf die Berufe von heute zurückblicken und denken, sie seien eigentlich nur Scheinjobs – wobei sie für die Menschen, die sie ausüben, unglaublich wichtig und erfüllend sein werden.

Die Geschwindigkeit, mit der neue Wunder geschaffen werden, wird gewaltig sein. Es ist heute schwer vorstellbar, was wir bis 2035 alles entdecken – vielleicht lösen wir ein Jahr die Hochenergiephysik und richten im nächsten Jahr die Raumfahrtkolonisierung ein; oder einen Durchbruch in der Materialwissenschaft und dann Hochbandbreiten Gehirn–Computer-Schnittstellen. Viele Menschen leben ähnlich weiter wie heute, aber einige werden sich wohl entscheiden, „einzustecken“.

Unterm Strich klingt das schwer zu begreifen. Aber wahrscheinlich wird sich das Leben beeindruckend, aber beherrschbar anfühlen. Aus einer relativistischen Perspektive geschieht die Singularität Stück für Stück, und die Verschmelzung passiert langsam. Wir steigen den exponentiellen Bogen technologischen Fortschritts hinauf – nach vorn scheint er steil, zurück wirkt er flach, aber tatsächlich ist es eine sanfte Kurve. (Denke an das Jahr 2020: Was hätte es bedeutet, 2025 eine annähernde AGI zu haben – versus das, was in diesen fünf Jahren tatsächlich geschehen ist.)

Es gibt ernsthafte Herausforderungen neben den großen Vorteilen. Wir müssen Sicherheitsfragen technisch und gesellschaftlich lösen – und zugleich ist es entscheidend, den Zugang zur Superintelligenz breit zu verteilen angesichts der ökonomischen Folgen. Der beste Weg könnte so aussehen:

1. Das Alignment‑Problem lösen, also sicherstellen, dass KI‑Systeme langfristig wirklich das lernen und tun, was wir kollektiv wollen (soziale‑Media‑Feeds sind ein Beispiel für fehlgeleitete KI: Sie sind unglaublich gut darin, dich länger scrollen zu lassen – sie verstehen deine kurzfristigen Präferenzen, aber tun dies, indem sie etwas in deinem Gehirn ausnutzen, das deine langfristigen Absichten überschreibt).
2. Dann die Superintelligenz billig, weit verbreitet und nicht zu sehr bei einzelnen Personen, Firmen oder Staaten konzentriert machen. Die Gesellschaft ist widerstandsfähig, kreativ und passt sich schnell an. Wenn wir den kollektiven Willen und die Weisheit der Menschen nutzen, werden wir zwar Fehler machen und Dinge werden schiefgehen – aber wir lernen schnell und nutzen die Technologie optimal. Nutzern viel Freiheit zu geben, innerhalb weiter Grenzen, über die gesellschaftlich entschieden wird, scheint sehr wichtig. Je früher die Welt darüber spricht, was diese Obergrenzen sind und wie kollektive Ausrichtung definiert wird, desto besser.

Wir (die gesamte Branche, nicht nur OpenAI) bauen ein Gehirn für die Welt. Es wird extrem personalisiert und für jeden einfach nutzbar – wir werden durch gute Ideen limitiert. Lange haben technische Leute in Start‑ups über jene „Ideenmenschen“ gelächelt – Menschen mit Ideen, die nach einem Team suchten. Jetzt ist ihr Moment gekommen.

OpenAI ist vieles, aber vor allem sind wir ein Superintelligenz‑Forschungsunternehmen. Wir haben noch viel zu tun, aber der Großteil des Weges liegt bereits im Licht – die dunklen Bereiche schwinden rasch. Wir fühlen uns unglaublich dankbar, dieses Privileg zu haben.

Intelligenz, die man nicht mehr messen muss, ist in greifbarer Nähe. Das klingt vielleicht verrückt – doch hätten wir 2020 gesagt, wir wären heute dort, wo wir sind, hätte das klang verrückter gewirkt als unsere jetzigen Prognosen für 2030.

Möge uns eine sanfte, exponentielle und ereignislose Entwicklung durch die Superintelligenz gelingen.