Eine Frage eintippen, wenige Sekunden warten, Antwort erhalten. Für Nutzer von ChatGPT, Gemini, Claude und anderen KI-Systemen wirkt dieser Vorgang inzwischen beinahe selbstverständlich.
Doch während eine klassische Suchanfrage hauptsächlich Informationen aus einem bestehenden Index abruft, muss ein generatives KI-Modell eine Antwort neu berechnen. Dafür arbeiten hoch spezialisierte Chips in großen Rechenzentren. Sie verarbeiten die Eingabe, berechnen Wahrscheinlichkeiten für die Ausgabe und erzeugen daraus Stück für Stück die Antwort.
Jede einzelne Anfrage verbraucht damit Rechenleistung, Strom und letztlich auch Geld.
Aber wie viel eigentlich?
Eine einfache Zahl gibt es nicht
Die Kosten einer KI-Anfrage lassen sich nicht pauschal beziffern. Schon die Frage „Wie viel Energie verbraucht ChatGPT?“ greift zu kurz.
Entscheidend ist unter anderem, welches Modell verwendet wird, wie umfangreich die Eingabe ist und wie lang die Antwort ausfällt. Auch die eingesetzte Hardware, die Auslastung des Rechenzentrums und der zusätzliche Aufwand für Kühlung und Infrastruktur spielen eine Rolle.
Vor allem aber macht es einen erheblichen Unterschied, was wir von der KI verlangen.
Eine kurze Frage mit einer knappen Antwort benötigt vergleichsweise wenig Rechenleistung. Soll ein leistungsfähiges Reasoning-Modell dagegen ein komplexes Problem analysieren, umfangreiche Dokumente berücksichtigen oder über viele Rechenschritte zu einer Lösung gelangen, steigt der Aufwand deutlich.
Aktuelle Untersuchungen zeigen deshalb eine enorme Spannweite. Für eine typische Anfrage an ein modernes KI-Modell werden Größenordnungen von rund 0,3 Wattstunden genannt. Bei umfangreichen Reasoning-Aufgaben kann der Energiebedarf jedoch ein Vielfaches davon betragen.
Die Frage nach dem Verbrauch „einer KI-Anfrage“ ist damit ungefähr so präzise wie die Frage, wie viel Strom „ein Computerprogramm“ benötigt: Es kommt darauf an, was es tut.
Auch KI rechnet nach Verbrauch ab
Noch deutlicher wird dieser Zusammenhang beim Blick auf die kommerzielle Nutzung von KI-Modellen.
Wer ChatGPT oder Claude privat verwendet, kennt meist einen monatlichen Abopreis. Unternehmen, die KI-Modelle über Programmierschnittstellen in eigene Anwendungen integrieren, begegnen dagegen einer anderen Einheit: dem Token.
Tokens sind vereinfacht gesagt kleine Textbausteine. Sowohl die Informationen, die an das Modell geschickt werden, als auch die erzeugte Antwort werden in Tokens zerlegt und verarbeitet.
Die Anbieter berechnen anschließend, wie viele davon verarbeitet wurden.
Damit besitzt plötzlich jedes zusätzliche Dokument, jeder lange Prompt und jede ausführliche Antwort einen messbaren Preis.
Die Unterschiede zwischen den Modellen sind dabei erheblich. Kleine, auf Geschwindigkeit und Effizienz optimierte Modelle können eine Million Tokens für einen Bruchteil dessen verarbeiten, was besonders leistungsfähige Spitzenmodelle kosten.
Das führt zu einer wichtigen Erkenntnis: Das leistungsfähigste Modell ist nicht automatisch das wirtschaftlichste.
Nicht jede Aufgabe braucht maximale Intelligenz
Wer einen kurzen Text kategorisieren möchte, benötigt dafür möglicherweise kein Modell, das komplizierte mathematische Probleme lösen und über viele Schritte hinweg argumentieren kann.
Genau darin liegt eine der wichtigsten Entwicklungen beim professionellen Einsatz von KI.
Es geht zunehmend weniger um die Frage:
„Welches ist das beste KI-Modell?“
Sondern um die Frage:
„Welches Modell ist für diese konkrete Aufgabe gut genug?“
Für einfache Routineaufgaben können kleinere Modelle eingesetzt werden. Anspruchsvollere Analysen gehen an leistungsfähigere Systeme. Wiederkehrende Informationen können zwischengespeichert werden, statt sie bei jeder Anfrage erneut vollständig verarbeiten zu lassen.
Bei wenigen Anfragen fällt der Unterschied kaum auf. Bei Tausenden oder Millionen automatisierten Vorgängen wird daraus eine relevante wirtschaftliche Größe.
Der einzelne Prompt ist nicht das Problem
Auch beim Energieverbrauch lohnt sich deshalb der Blick auf die Größenordnung.
Eine einzelne normale KI-Anfrage benötigt nach aktuellen Untersuchungen überraschend wenig Energie. Entscheidend ist die Masse.
Millionen Menschen verwenden generative KI inzwischen täglich. Gleichzeitig verschiebt sich die Nutzung von einfachen Fragen hin zu wesentlich komplexeren Aufgaben. KI-Systeme recherchieren, analysieren Dokumente, schreiben Programmcode oder führen als sogenannte Agenten selbstständig mehrere Arbeitsschritte nacheinander aus.
Aus einer Nutzeranfrage können dadurch im Hintergrund zahlreiche Modellaufrufe werden.
Der Ressourcenbedarf von KI wird deshalb nicht allein dadurch wachsen, dass mehr Menschen Chatbots verwenden. Entscheidend wird auch sein, wie viel Arbeit wir den Systemen pro Anfrage übertragen.
Gleichzeitig wird KI effizienter
Mehr Nutzung bedeutet allerdings nicht automatisch, dass der Energiebedarf im gleichen Verhältnis steigen muss.
Modelle, Chips und Rechenzentren werden laufend optimiert. Aktuelle Forschung geht davon aus, dass Verbesserungen bei Modellen, Hardware und deren Betrieb den Energiebedarf pro Anfrage künftig noch erheblich reduzieren können.
Das ist kein ungewöhnlicher Vorgang in der IT.
Rechenleistung wurde in den vergangenen Jahrzehnten immer günstiger und effizienter. Gleichzeitig haben wir immer mehr davon genutzt. Bei KI dürfte eine ähnliche Entwicklung bevorstehen: Einzelne Berechnungen werden günstiger, während die Zahl und Komplexität der Berechnungen wächst.
Für Unternehmen zählt deshalb vor allem Effizienz
Für Unternehmen ergibt sich daraus eine nüchterne Konsequenz.
KI sollte nicht möglichst häufig und auch nicht möglichst selten eingesetzt werden. Sie sollte dort eingesetzt werden, wo ihr Nutzen den benötigten Aufwand rechtfertigt.
Ein leistungsfähiges Modell für jede kleine Routineaufgabe einzusetzen, ist genauso wenig sinnvoll wie aus Sparsamkeit auf KI bei Aufgaben zu verzichten, bei denen sie Mitarbeitern Stunden an Arbeit abnehmen kann.
Die entscheidende Frage lautet daher nicht, was eine einzelne KI-Anfrage kostet.
Sondern was sie leistet.
Wenn wenige Cent Rechenkosten eine halbe Stunde manueller Arbeit ersetzen, ist die Rechnung schnell beantwortet. Werden dagegen tausende aufwendige Modellaufrufe erzeugt, ohne einen messbaren Nutzen zu schaffen, bleibt auch günstige KI teuer.
KI ist billig geworden – Rechenleistung aber nicht kostenlos
Vielleicht ist genau das der interessanteste Punkt an der Frage nach den Kosten einer KI-Anfrage.
Generative KI vermittelt den Eindruck einer nahezu unbegrenzten Ressource. Eine weitere Frage kostet den Nutzer gefühlt nichts, eine längere Antwort ebenfalls nicht. Im Hintergrund findet jedoch jedes Mal reale Berechnung statt – auf realer Hardware, in realen Rechenzentren und mit realem Energieverbrauch.
Eine einzelne Anfrage ist dabei erstaunlich günstig geworden.
Milliarden davon sind es nicht.
Und je stärker KI vom gelegentlich genutzten Chatbot zum selbstverständlichen Werkzeug in Unternehmensprozessen wird, desto wichtiger wird es, nicht nur über die Leistungsfähigkeit der Modelle zu sprechen, sondern auch darüber, wie effizient wir sie einsetzen.