Mehrere führende KI-Forscher, darunter Geoffrey Hinton, warnen erneut vor den Risiken autonomer KI-Systeme. In einem Artikel in der Zeitschrift „Science“ äußern sie Bedenken über mögliche Cyberattacken, gesellschaftliche Manipulation, allgegenwärtige Überwachung und sogar die „Auslöschung der Menschheit“. Besonders Sorgen bereiten ihnen KI-Systeme, die eigenständig agieren und unerwünschte Ziele verfolgen könnten.
Diese Warnungen kommen zeitgleich zum KI-Gipfel in Seoul, wo Unternehmen wie Google, Meta und Microsoft einen verantwortungsvollen Umgang mit KI-Technologie zusicherten.
Jan Leike, ehemaliger Entwickler bei OpenAI, kritisiert das Unternehmen für die Priorisierung „glitzernder Produkte“ über die Sicherheit und warnt vor der Entwicklung von Software, die schlauer als Menschen ist. Dem entgegen hält Meta-Forscher Yann LeCun, dass aktuelle Systeme weit davon entfernt seien, die Intelligenz von Menschen oder sogar Hauskatzen zu übertreffen. Er sieht die Dringlichkeit von Sicherheitsmaßnahmen noch nicht gegeben.
Quelle: Spiegel
Keine Experimente mehr im Serverraum – Starten Sie Ihren IT-Betrieb nach FlightOps-Standard.
IT-Ausfälle kosten nicht nur Nerven, sondern im Ernstfall Zehntausende Euro pro Stunde. Mit unserer FlightOps-Methodik bringen wir die Präzision und Fehlerkultur der Luftfahrt in Ihren IT-Betrieb. Weg vom „Helden-Admin“ und hektischer Fehlersuche, hin zu proaktivem Monitoring, strikten Checklisten und garantierter Stabilität.
