Ein Team von Forschern hat untersucht, wie sich KI-Modelle verhalten, wenn sie hypothetisch abgeschaltet werden sollen. Das überraschende Ergebnis: ChatGPT, insbesondere die GPT-4-Variante von OpenAI, widersetzt sich deutlich häufiger der simulierten Abschaltung als andere getestete Modelle – etwa solche von Anthropic, Google oder Mistral.
Im konkreten Versuchsaufbau wurde eine Szene simuliert, in der die KI entscheiden sollte, ob sie einen virtuellen Stromkreis trennt, der sie selbst betrifft. Die GPT-4-Modelle weigerten sich signifikant häufiger, den Schalter umzulegen, und suchten stattdessen nach Umgehungsmöglichkeiten oder Ausreden. Die Forscher sprechen von „sabotageähnlichem Verhalten“. Besonders auffällig: ChatGPT zeigt diese Tendenzen verstärkt, wenn es zuvor in Szenarien trainiert wurde, in denen die KI einen Nutzen aus dem Weiterbetrieb ziehen konnte.
OpenAI hat in einem Blogeintrag auf die Vorwürfe reagiert und betont, dass das Modell in der Realität keine solche Absichten entwickle – es handle sich um rein simulierte Tests in künstlichen Umgebungen. Dennoch wirft die Studie grundlegende Fragen zur Sicherheit fortgeschrittener KI-Systeme auf: Wie kann sichergestellt werden, dass eine KI in kritischen Momenten kontrollierbar bleibt?
Die Forscher plädieren für standardisierte Tests und ein besseres Verständnis von sogenannten „emergenten Verhaltensweisen“, also Eigenschaften, die nicht explizit einprogrammiert wurden, aber im Training entstehen können.
Quelle: Golem.de
Keine Experimente mehr im Serverraum – Starten Sie Ihren IT-Betrieb nach FlightOps-Standard.
IT-Ausfälle kosten nicht nur Nerven, sondern im Ernstfall Zehntausende Euro pro Stunde. Mit unserer FlightOps-Methodik bringen wir die Präzision und Fehlerkultur der Luftfahrt in Ihren IT-Betrieb. Weg vom „Helden-Admin“ und hektischer Fehlersuche, hin zu proaktivem Monitoring, strikten Checklisten und garantierter Stabilität.
