Ist KI schon intelligent genug?

Eine unbequeme Perspektive

KI wird in hohem Tempo besser. Der übliche Blick richtet sich nach vorne: Was kann die nächste Generation? Wie viel besser wird sie? Wann wird aus bloßer Assistenz echte Autonomie?

Mich beschäftigt die umgekehrte Frage.

Was, wenn KI für den Moment bereits intelligent genug ist?

Nicht im Sinn eines Endpunkts. Eher im Sinn einer Verschnaufpause, in der die Gesellschaft versucht aufzuholen.

Wenn ich von KI schreibe, habe ich dabei allen voran GPT-6 Astra mit höherer Denktiefe vor Augen. Seine Leistungsfähigkeit und Antwortqualität beeindrucken mich jedes Mal aufs Neue.

Growth ist davongelaufen

Immer leistungsfähigere KI-Modelle eröffnen neue Möglichkeiten in Wissenschaft, Medizin, Bildung, Unternehmen und im persönlichen Alltag. Dafür steht Growth: Entwicklung, Optionalität und die Möglichkeit exponentieller Dynamik.

In meinem Denkmodell ist Growth allerdings bewusst nachgelagert. Entwicklung soll auf einem Fundament aufsetzen, das sie tragen kann. Bei KI dreht sich dieses Verhältnis gerade um. Die technischen Fähigkeiten wachsen schneller als jene Strukturen, die ihre Folgen sinnvoll aufnehmen sollen.

Besonders heikel wird das, wenn sich die technologische Entwicklung tatsächlich annähernd exponentiell fortsetzt, denn gesellschaftliche Anpassung folgt keiner Exponentialkurve. Demokratie, Recht, Bildung oder Arbeitsmärkte verändern sich durch Debatten, Gesetzgebung, Lernen und Erfahrung – also schrittweise und langsam.

In der Konsequenz würde dann nicht nur der Abstand zwischen technischer Fähigkeit und gesellschaftlicher Aufnahmefähigkeit wachsen. Auch das Tempo, mit dem dieser Abstand wächst, würde weiter zunehmen.

Wie steht es um Transparenz, Klarheit und Nachvollziehbarkeit?

Mein siebenjähriger Sohn würde an dieser Stelle wohl „mittel“ antworten und damit eigentlich „schlecht“ meinen.

Frontier-Unternehmen veröffentlichen zwar Sicherheitsberichte und Evaluierungen, entscheiden aber weitgehend selbst, welche Informationen nach außen gelangen. Dario Amodei fordert inzwischen deshalb unabhängige, dauerhaft eingebettete Prüfer, die mit einem mitarbeiterähnlichen Zugang Sicherheitspraktiken, Vorfälle und Fähigkeiten nachvollziehen und relevante Erkenntnisse eigenständig veröffentlichen können.

Ohne ausreichende Transparenz und Informationsgrundlage lässt sich weder vernünftig beurteilen, wie viel Vorsicht notwendig ist, noch wie viel zusätzlicher Fortschritt vertretbar erscheint. Transparenz wird damit selbst zu einer Voraussetzung für die Frage nach dem richtigen Tempo.

Stabilität hinkt hinterher

Stabilität meint hier weit mehr als technische Sicherheit. Es geht um Arbeitsmärkte, Ausbildungssysteme, Rechtsordnungen, Medien, demokratische Institutionen, soziale Normen und letztlich auch um die Frage, was Menschen als Fortschritt überhaupt bereit sind zu akzeptieren.

Nicht alle diese Strukturen sind allerdings gleich kritisch. Ein überfordertes Ausbildungssystem lässt sich über Jahre nachjustieren; schwieriger wird es dort, wo jene Mechanismen selbst unter Druck geraten, über die gesellschaftliche Korrektur überhaupt erst möglich wird: verlässliche Information, Rechtsordnung und funktionierende Institutionen.

Bei jungen US-Amerikanern ist diese Spannung inzwischen messbar. In einer aktuellen Pew-Erhebung sagen 55 % der 18- bis 29-Jährigen, dass sie angesichts des zunehmenden KI-Einsatzes eher besorgt als begeistert sind. 2021 waren es 31 %, also eine deutliche Steigerung der Skepsis ausgerechnet bei jenen, die mit den Werkzeugen am selbstverständlichsten umgehen. 73 % dieser jungen Menschen erwarten heute, dass KI in den kommenden 20 Jahren zu weniger Arbeitsplätzen führt.

Das zeigt, dass technische Nutzung und soziale Akzeptanz zwei Paar Schuhe sind. Eine Technologie kann gleichzeitig nützlich, faszinierend und beunruhigend sein.

Am anderen Ende der Risikoskala geht es längst nicht mehr nur um Jobprofile oder Prüfungsordnungen. Der internationale AI Safety Report 2026 behandelt auch schwerwiegende Risiken leistungsfähiger Systeme und hält ausdrücklich fest, dass das Entwicklungstempo es Institutionen erschwert, entsprechende Governance-Kapazitäten aufzubauen.

Zwischen einer KI-generierten Hausübung und einem möglichen Kontrollverlust liegen Welten. Beide Probleme haben trotzdem etwas gemeinsam: Die Technologie verändert Möglichkeiten schneller, als Regeln, Gewohnheiten und Institutionen sich anpassen.

Und wo bleibt Value?

Ob wir den substanziellen Mehrwert der bereits vorhandenen Systeme überhaupt gehoben haben, ist dabei noch nicht einmal geklärt.

Unternehmen experimentieren mit neuen Arbeitsabläufen. Schulen und Universitäten suchen nach einem vernünftigen Verhältnis zwischen Nutzung und eigenständigem Denken. Wissensarbeiter lernen gerade erst, wann KI ihre Arbeit verbessert und wann sie bloß die Illusion von Produktivität erzeugt. Wir diskutieren darüber, welche Tätigkeiten verschwinden könnten, obwohl wir kaum verstanden haben, welche neuen Formen von Expertise entstehen.

Der Engpass (das Wort, das in keiner KI-Debatte fehlen darf) liegt weniger in zusätzlicher Intelligenz als in der Übersetzung vorhandener Intelligenz in breiten und substanziellen Nutzen.

Das ist eine klassische Value-Frage: Haben wir aus dem, was bereits vorhanden ist, genügend Substanz geschaffen, bevor wir die nächste Wachstumsstufe zünden?

Ein Puffer ist kein Rückstand

Vielleicht wäre eine Pause also gar nicht irrational und weltfremd.

Aus dieser Logik stellt sich an dieser Stelle eine schärfere Frage: Ist ein weiterer Growth-Schritt überhaupt Fortschritt, wenn das Fundament noch nicht ausreichend trägt? Wer weiter beschleunigt, bevor die Basis trägt, macht aus Growth leicht Hebel. Und Hebel sieht lange wie Wachstum aus, bis er es nicht mehr tut.

Gemeint ist kein Ende der Forschung. Eher ein bewusstes Pacing zwischen Können und Ausrollen. Muss jede neue Fähigkeit sofort skaliert, breit eingesetzt und in immer autonomere Systeme übersetzt werden? Oder wäre es nicht klüger, zwischen technischer Möglichkeit und gesellschaftlicher Einführung bewusst mehr Abstand zu lassen?

Angenommen, KI erreicht bald ein Niveau, das für einen großen Teil intellektueller Aufgaben bereits weit über dem menschlichen Durchschnitt liegt. Muss dann unmittelbar weiter auf maximale Leistungssteigerung gedrückt werden, Stichwort Superintelligenz? Oder wäre ein solches Niveau für einige Jahre nicht bereits gut genug, damit Bildung, Arbeitsmarkt, Recht und soziale Normen aufschließen können?

In einem robusten System ist ein Puffer kein Zeichen von Rückständigkeit. Er schafft Zeit, um Fehler zu erkennen, Regeln anzupassen und Beweglichkeit zu erhalten.

Bemerkenswert ist, dass Dario Amodei dieselbe Logik inzwischen auch auf das Entwicklungstempo überträgt. Er fordert ausdrücklich, den Fortschritt der Modellfähigkeiten zu verlangsamen, damit Risikoprävention, Alignment, Evaluierung und Sicherheitsarbeit Zeit haben, Schritt zu halten. Kurz darauf unterstützten auch Sam Altman und Elon Musk diese grundsätzliche Forderung öffentlich.

Der stärkste Einwand dagegen bleibt eine einfache Rechnung: Wer Entwicklung verlangsamt, verzögert auch potenziellen Nutzen. Bessere Modelle können selbst sicherer werden, wissenschaftlichen Fortschritt beschleunigen und Probleme lösen, an denen wir heute scheitern. Der geopolitische Wettbewerb verschwindet zudem nicht, nur weil sich einige US-Unternehmen auf mehr Vorsicht verständigen.

Diese Rechnung geht allerdings nur auf, wenn der breite Nutzen tatsächlich ankommt. Und eben das ist nach wie vor offen.

Die Lücke zu schließen kann auch Fortschritt sein

Industrialisierung, Elektrifizierung, Automobil oder Internet haben Gesellschaften ebenfalls tief verändert. Mir fällt allerdings kaum eine Entwicklung der jüngeren Vergangenheit ein, die innerhalb so kurzer Zeit gleichzeitig Arbeit, Wissen, Bildung, Kreativität, Kommunikation, Sicherheit und menschliche Urteilskraft derart unmittelbar berührt.

Messen wir technologischen Fortschritt mit einem zu einfachen Maßstab? Ein noch intelligenteres KI-Modell mag zwar technisch ein Fortschritt sein, gesellschaftlicher Fortschritt kann aber auch darin bestehen, mit dem vorhandenen Werkzeug besser umgehen zu lernen.

Wie viel künstliche Intelligenz kann eine Gesellschaft in so kurzer Zeit überhaupt sinnvoll aufnehmen?

Auf ein Depot übertragen würde man nach einer außergewöhnlich starken Growth-Phase auch nicht weiter aufstocken, sondern einen Teil der Gewinne mitnehmen, umschichten und das Gesamtsystem wieder ausbalancieren.

Dann wäre eine Pause kein Rückzug aus der Zukunft. Sie wäre der Versuch, Stabilität und Value näher an Growth heranzuführen und Entscheidungen wieder stärker auf Klarheit und Nachvollziehbarkeit zu gründen.

Ist KI also schon intelligent genug?

Nicht für immer. Aber wohl für den Moment.