KI schreibt besseren Code als so mancher Entwickler, analysiert in Sekunden Dokumente, für die wir eine Stunde brauchen würden, und formuliert Antworten so souverän, dass Zweifel manchmal fast unangebracht wirken.
Und genau das ist das Problem.
Je besser KI wird, desto leichter verwechseln wir Leistung mit Verständnis. Eine überzeugende Antwort klingt nach jemandem, der weiß, wovon er spricht. Eine gute Analyse wirkt wie das Ergebnis eines gedanklichen Prozesses. Und eine plausible Empfehlung vermittelt schnell den Eindruck, das System habe die Situation verstanden.
Hat es aber nicht, jedenfalls nicht so, wie wir Menschen verstehen.
Das ist keine akademische Spitzfindigkeit. Es ist eine der wichtigsten Grenzen heutiger KI-Systeme und wird umso relevanter, je selbstverständlicher wir sie in unsere tägliche Arbeit integrieren.
KI kennt Informationen. Aber nicht ihre Geschichte.
Stellen wir uns eine alltägliche Situation im Unternehmen vor.
Ein Mitarbeiter fragt eine KI, ob ein bestimmter Prozess verändert werden sollte. Die KI bekommt Kennzahlen, Dokumentationen und vielleicht noch einige E-Mails als Kontext. Auf dieser Grundlage kann sie eine ausgezeichnete Analyse erstellen.
Ein erfahrener Mitarbeiter betrachtet dieselben Informationen anders.
Er weiß vielleicht, dass der Prozess vor drei Jahren schon einmal verändert wurde und warum man die Änderung wieder zurückgenommen hat. Er kennt den Kunden, der bei bestimmten Abläufen empfindlich reagiert. Er erinnert sich an die improvisierte Lösung, die während eines Ausfalls erstaunlich gut funktioniert hat. Und er weiß, dass eine Regel auf dem Papier eindeutig klingt, in der Praxis aber regelmäßig anders gehandhabt wird.
Ein großer Teil dieses Wissens steht nirgendwo.
Menschen sammeln über Jahre ein Modell ihrer Umgebung. Wir lernen nicht nur aus Dokumentationen und Daten, sondern aus Situationen, Fehlern, Beobachtungen und Konsequenzen.
Eine KI kann solche Erfahrungen beschrieben bekommen.
Sie hat sie aber nicht gemacht.
Kontext lässt sich nicht vollständig in einen Prompt schreiben
Das führt zu einem Problem, das mit besseren Modellen nicht automatisch verschwindet.
Wir können einer KI sehr viel Kontext geben. Unternehmensrichtlinien, Gesprächsprotokolle, technische Dokumentationen, Datenbanken oder frühere Entscheidungen können heute problemlos in KI-Systeme eingebunden werden.
Doch wir müssen zunächst wissen, welcher Kontext überhaupt relevant ist.
Genau das ist im Arbeitsalltag häufig gar nicht offensichtlich.
Wer seit zehn Jahren in einem Unternehmen arbeitet, weiß möglicherweise intuitiv, dass für eine Entscheidung ein Ereignis von vor fünf Jahren wichtig ist. Nicht weil es in einer Prozessbeschreibung als relevant markiert wurde, sondern weil er erlebt hat, welche Folgen es damals hatte.
Eine KI kann diesen Zusammenhang nur berücksichtigen, wenn er ihr zugänglich gemacht wurde und wenn sie einen Grund hat, ihn mit der aktuellen Situation in Verbindung zu bringen.
Der Mensch bringt seine Vergangenheit automatisch mit.
Die KI bekommt einen Kontext.
Das ist ein erheblicher Unterschied.
Erfahrung ist mehr als gespeichertes Wissen
Noch deutlicher wird dieser Unterschied, wenn etwas passiert, das so noch nicht vorgesehen war.
Menschen sind erstaunlich gut darin, Erfahrungen aus völlig unterschiedlichen Situationen miteinander zu verbinden. Wir erkennen Ähnlichkeiten, improvisieren und entwickeln aus wenigen Beobachtungen neue Handlungsstrategien.
Dabei greifen wir nicht nur auf Fakten zurück.
Wir erinnern uns daran, was beim letzten Mal funktioniert hat. Wir haben erlebt, welche Konsequenzen eine Entscheidung hatte. Wir können eine Situation mit einer anderen vergleichen, obwohl beide auf den ersten Blick wenig miteinander zu tun haben.
Moderne KI kann ebenfalls bemerkenswert gut generalisieren und Wissen auf neue Aufgaben übertragen. Doch ihre Grundlage bleibt das, was sie gelernt hat und was ihr in der jeweiligen Situation zur Verfügung steht.
Das wird besonders dann sichtbar, wenn bekannte Muster fehlen.
Eine Antwort kann sprachlich vollkommen souverän sein und trotzdem auf einer falschen Annahme beruhen. Und weil das System seine Unsicherheit nicht zwangsläufig so kommuniziert wie ein Mensch, sieht die falsche Antwort mitunter genauso überzeugend aus wie die richtige.
Und die Super-KI?
Genau an dieser Stelle wird auch die derzeitige Debatte über eine mögliche Superintelligenz interessant.
Wer sieht, wie schnell sich KI entwickelt, kann leicht den Eindruck bekommen, der nächste Schritt sei nur noch eine Frage der Rechenleistung: Heute schreibt die Maschine unsere E-Mails und unseren Code, morgen löst sie eigenständig wissenschaftliche Probleme – und übermorgen ist sie dem Menschen in praktisch jeder Hinsicht überlegen.
Doch dazwischen liegt ein gewaltiger Sprung.
Mehr Wissen, bessere Antworten und höhere Werte in Benchmarks sind nicht automatisch dasselbe wie ein eigenes Verständnis der Welt. Ein System, das immer besser darin wird, vorhandene Muster zu verarbeiten und auf neue Aufgaben zu übertragen, entwickelt dadurch nicht zwangsläufig menschliches Kontextverständnis, eigene Erfahrungen oder ein belastbares Modell der Konsequenzen seines Handelns.
Deshalb ist auch die Vorstellung, aus den heutigen Sprachmodellen müsse beinahe zwangsläufig eine allwissende Super-KI hervorgehen, mindestens voreilig.
Das heißt nicht, dass eine solche Entwicklung grundsätzlich unmöglich ist. Niemand kann seriös sagen, welche technischen Durchbrüche in Zukunft noch bevorstehen.
Aber zwischen dem, was heutige KI beeindruckend gut kann, und einer eigenständig verstehenden Superintelligenz liegt noch einiges mehr als das nächste größere Sprachmodell.
Die Maschinenherrschaft darf also vorerst noch im Science-Fiction-Regal bleiben.
Je besser die Antworten, desto größer das Vertrauen
Ironischerweise wird das Problem nicht kleiner, wenn KI leistungsfähiger wird.
Es wird schwerer zu erkennen.
Bei offensichtlich schlechten Ergebnissen besteht kaum eine Gefahr, diese ungeprüft zu übernehmen. Wenn eine KI dagegen in neun von zehn Fällen hervorragende Arbeit leistet, wächst unser Vertrauen in Fall Nummer zehn, unter Umständen wird es sogar blind. Eine plausible aber falsche Antwort nach mehreren korrekten, guten Ergebnissen ist damit erheblich gefährlicher, als offensichtlicher Unsinn.
Genau deshalb ist die entscheidende Kompetenz im Umgang mit KI längst nicht mehr, einen möglichst ausgefeilten Prompt schreiben zu können.
Es ist die Fähigkeit zu erkennen, welchen Teil einer Situation die KI nicht kennt.
Welche Information fehlt? Welche Annahme trifft das System? Welches Wissen existiert nur in den Köpfen der Mitarbeiter? Welche Erfahrung beeinflusst unsere eigene Einschätzung, ohne dass wir sie überhaupt bewusst ausgesprochen haben?
Das sind schwierigere Fragen als die nach dem richtigen Prompt.
Die interessanteste Grenze der KI sitzt vor dem Bildschirm
Wir müssen nicht mehr darüber diskutieren, ob KI im Unternehmen einen Nutzen hat. Den Beweis liefert sie inzwischen jeden Tag.
Interessanter ist, was passiert, wenn wir uns an ihre Qualität gewöhnen.
Denn je selbstverständlicher KI recherchiert, analysiert, programmiert und Empfehlungen formuliert, desto leichter vergessen wir, dass eine überzeugende Antwort immer nur auf dem Kontext beruhen kann, den das System besitzt.
KI kann Informationen in einer Geschwindigkeit verarbeiten, mit der kein Mensch konkurrieren kann. Sie kann Muster in Daten erkennen, riesige Wissensbestände erschließen und uns bei Aufgaben unterstützen, die vor wenigen Jahren noch vollständig menschliche Arbeit waren.
Aber sie war nicht dabei.
Sie kennt nicht automatisch die Vorgeschichte einer Entscheidung. Sie hat nicht erlebt, warum ein Prozess so aussieht, wie er aussieht. Sie erinnert sich nicht an den Kunden, der beim letzten Mal völlig anders reagiert hat als erwartet. Und sie hat keine zehn Jahre Berufserfahrung gesammelt, aus denen irgendwann ein schwer erklärbares „Das würde ich so nicht machen“ entsteht.
Vielleicht ist genau das auch der beste Grund, die aktuelle Diskussion über eine unmittelbar bevorstehende Superintelligenz etwas gelassener zu betrachten. Die Entwicklung ist rasant und niemand weiß, wo sie endet. Aber beeindruckende Leistung ist noch kein Verständnis – und mehr davon macht diesen Unterschied nicht automatisch kleiner.
Vielleicht ist deshalb nicht entscheidend, wie viel eine KI weiß.
Sondern ob wir erkennen, was sie nicht wissen kann.