KI-Systeme entwickeln sich vom digitalen Assistenten zum eigenständig handelnden Akteur. Sogenannte KI-Agenten können Informationen abrufen, Daten verarbeiten, auf Anwendungen zugreifen und anschließend selbstständig weitere Aktionen ausführen.
Genau darin liegt ihr Nutzen. Und genau darin liegt eine neue Herausforderung für die IT-Sicherheit.
Denn klassische Sicherheitskonzepte sind darauf ausgelegt, Zugriffe zu kontrollieren: Wer möchte auf welche Ressource zugreifen – und darf er das? Bei autonomen KI-Agenten reicht diese Frage allein nicht mehr aus. Entscheidend wird zunehmend, was aus einer ganzen Kette einzeln erlaubter Aktionen entsteht.
Jede einzelne Aktion kann erlaubt sein – und das Ergebnis trotzdem nicht
Ein Beispiel macht das Problem deutlich.
Ein KI-Agent darf ein Dokument lesen. Er darf Informationen aus einer weiteren Datenquelle abrufen. Er darf beide Inhalte zusammenfassen, das Ergebnis in einer Datei speichern und anschließend eine E-Mail versenden.
Jeder dieser Schritte kann für sich genommen vollkommen legitim sein.
In Kombination könnte daraus jedoch ein Prozess entstehen, bei dem vertrauliche Informationen das Unternehmen verlassen – obwohl keine einzelne Berechtigung verletzt wurde.
Klassische Zero-Trust-Ansätze prüfen Zugriffe und Identitäten. Autonome Agenten können jedoch mehrere erlaubte Aktionen zu Abläufen kombinieren, die ursprünglich niemand in dieser Form vorgesehen hat.
Damit verschiebt sich die entscheidende Sicherheitsfrage: Es geht nicht mehr ausschließlich darum, ob ein System etwas darf, sondern zunehmend auch darum, in welchem Zusammenhang, in welcher Reihenfolge und mit welchem Ergebnis es seine Berechtigungen nutzt.
Eine Identität sagt noch nicht, was ein KI-Agent heute kann
Zero Trust folgt vereinfacht dem Prinzip: Vertraue keinem Benutzer und keinem Gerät automatisch, sondern überprüfe Identität und Berechtigung.
Bei Menschen, Endgeräten und klassischen Anwendungen lässt sich dieses Prinzip vergleichsweise eindeutig anwenden. Bei KI-Agenten wird es komplizierter.
Ein Agent kann beispielsweise neue Werkzeuge erhalten, auf zusätzliche Datenquellen zugreifen oder durch gespeicherten Kontext sein Verhalten verändern. Trotzdem kann er gegenüber den Sicherheitssystemen weiterhin mit derselben Identität auftreten.
Damit entsteht eine wichtige Unterscheidung: Die Frage „Ist dieser Agent autorisiert?“ ist nicht zwangsläufig identisch mit der Frage „Ist das noch derselbe Funktionsumfang, den wir ursprünglich autorisiert haben?“
Für Unternehmen bedeutet das, dass Berechtigungen nicht dauerhaft als statische Freigabe betrachtet werden sollten. Je autonomer ein System arbeitet, desto wichtiger wird es, Veränderungen an Fähigkeiten, Datenzugriffen und Handlungsmöglichkeiten nachvollziehen zu können.
Hinzu kommen Unteragenten und Kommunikation zwischen KI-Systemen
Noch komplexer wird die Situation, wenn KI-Agenten nicht allein arbeiten.
Agenten können weitere Agenten oder spezialisierte Teilprozesse einsetzen und mit anderen Systemen kommunizieren. Dabei können Berechtigungen weitergegeben und Aktionen über mehrere Systeme verteilt werden.
Das erschwert die klassische Kontrolle erheblich.
Denn selbst wenn der ursprüngliche Agent bekannt und freigegeben ist, muss nachvollziehbar bleiben, welche weiteren Systeme in seinem Auftrag handeln, welche Rechte sie erhalten und welche Daten zwischen ihnen ausgetauscht werden.
Damit entsteht neben menschlichen Benutzern, Servern, Anwendungen und Endgeräten eine weitere Gruppe digitaler Identitäten, die Unternehmen in ihrer Sicherheitsarchitektur berücksichtigen müssen.
Das eigentliche Problem beginnt bei fehlender Transparenz
Besonders kritisch wird es, wenn Unternehmen gar nicht wissen, welche KI-Agenten innerhalb ihrer Infrastruktur aktiv sind.
Das Problem ist nicht neu. Schon bei Cloud-Diensten und Software-as-a-Service hat sogenannte Schatten-IT gezeigt, wie schnell Mitarbeiter Werkzeuge einsetzen können, bevor diese offiziell geprüft oder freigegeben wurden.
Mit autonomen KI-Systemen bekommt dieses bekannte Problem allerdings eine neue Dimension.
Ein nicht freigegebenes Werkzeug verarbeitet möglicherweise Informationen. Ein nicht kontrollierter KI-Agent kann zusätzlich selbst Aktionen auslösen, Systeme ansprechen und Daten weitergeben.
Deshalb gehört zu einer sinnvollen KI-Strategie nicht nur die Frage, welche Anwendungen offiziell eingeführt werden. Unternehmen benötigen auch einen Überblick darüber, welche KI-Systeme tatsächlich eingesetzt werden und welche Handlungsmöglichkeiten sie besitzen.
KI-Agenten brauchen Grenzen – nicht nur Berechtigungen
Die Antwort darauf kann nicht sein, autonome KI grundsätzlich aus Unternehmensumgebungen herauszuhalten. Dafür sind die möglichen Produktivitätsgewinne zu interessant.
Stattdessen müssen Unternehmen genauer definieren, innerhalb welcher Grenzen ein Agent selbstständig handeln darf.
Dazu gehören beispielsweise begrenzte und möglichst kurzlebige Berechtigungen, Limits für Transaktionen oder Datenzugriffe, abgeschottete Ausführungsumgebungen sowie zusätzliche Freigaben bei Aktionen mit weitreichenden Folgen.
Vor allem sollte zwischen reversiblen und irreversiblen Entscheidungen unterschieden werden.
Eine Zusammenfassung zu erstellen oder einen Entwurf vorzubereiten ist etwas anderes, als produktive Daten zu löschen, Zugriffsrechte zu verändern, Zahlungen auszulösen oder eine produktive Infrastruktur umzubauen.
Je größer die möglichen Auswirkungen einer Aktion sind, desto weniger selbstverständlich sollte sie vollständig autonom ausgeführt werden dürfen.
Zero Trust wird nicht überflüssig – aber allein reicht es nicht
Die Entwicklung bedeutet nicht, dass bestehende Sicherheitskonzepte plötzlich wertlos sind. Im Gegenteil: Identitätsmanagement, minimale Berechtigungen und konsequente Zugriffskontrollen werden mit zunehmendem KI-Einsatz noch wichtiger.
Sie müssen allerdings um eine weitere Ebene ergänzt werden.
Unternehmen müssen nicht nur Identitäten und einzelne Zugriffe betrachten, sondern auch Zusammenhänge: Welche Aktionen führt ein Agent nacheinander aus? Welche Systeme bezieht er ein? Welche Informationen kombiniert er? Welche Berechtigungen werden weitergegeben? Und welche Konsequenz kann daraus entstehen?
Damit verändert sich IT-Sicherheit von der Kontrolle einzelner Zugriffe zunehmend zur Kontrolle ganzer Handlungsketten.
Erst verstehen, dann automatisieren
KI-Agenten werden in den kommenden Jahren wahrscheinlich immer mehr Aufgaben übernehmen, die heute noch manuell erledigt werden. Für Unternehmen kann das enorme Chancen bieten.
Doch mit der Fähigkeit, selbstständig zu handeln, wächst auch die Verantwortung dafür, diese Systeme kontrolliert in die bestehende IT zu integrieren.
Die entscheidende Frage lautet deshalb nicht nur: Was kann KI für unser Unternehmen erledigen?
Mindestens genauso wichtig ist: Was darf sie selbstständig erledigen – und wo soll ein Mensch weiterhin entscheiden?
Wer diese Grenzen früh definiert, Berechtigungen bewusst vergibt und Aktivitäten nachvollziehbar macht, muss autonome KI nicht als Gegensatz zu IT-Sicherheit betrachten. Sie wird vielmehr zu einem weiteren Bestandteil der Infrastruktur, der genauso geplant, überwacht und gesteuert werden muss wie jeder andere geschäftskritische IT-Prozess.
Quelle: Computer Sweden