Infrastrukturausfall durck KI bis 2028 Fehlkonfigurierte KI wird Zer­stö­rungs­kraft gegen G20 richten

Anbieter zum Thema

Gartner Deutschland GmbH

Fsas Technologies GmbH

FAST LTA GmbH

Die Analysten von Gartner gehen davon aus, dass der nächste große IT-Ausfall nicht durch Hacking, sondern durch falsch konfigurierte KI ver­ur­sacht werde. Ohne ausreichende Sicherheitsmaßnahmen könnten die Auswirkungen auf die Öffentlichkeit und die Wirtschaft gigantisch sein.

Das US-amerikanische Analystenhaus Gartner prognostiziert, dass bis 2028 fehlkonfigurierte KI in cyber-physischen Systemen (CPS) die kritische Infrastruktur eines G20-Staates lahmlegen wird. Ein sicherer Übersteuerungsmechanismus in KI-Systemen, die nationale kritische Infra­struk­tu­ren unterstützen, sei unerlässlich, um die letztendliche Kontrolle durch den Menschen sicherzustellen.

Allianz Risk Barometer 2026

KI-Risiken wachsen rasant

Gartner definiert cyber-physische Systeme als technische Systeme, die Sensorik, Rech­en­leis­tung, Steuerung, Vernetzung und Analyse miteinander verzahnen, um mit der physischen Welt zu interagieren. Der Begriff CPS diene dabei als Oberkategorie und umfasse unter anderem Be­triebstechnologie (OT), industrielle Steuerungssysteme (ICS), industrielle Automatisierungs- und Steuerungssysteme (IACS), das industrielle Internet der Dinge (IIoT), Robotik, Drohnen so­wie Anwendungen im Kontext von Industrie 4.0.

LocalmindAI

Totalausfall nach Cyberangriff auf KI-Plattform

KI wird den nächsten Ausfall verursachen

„Der nächste große Infrastrukturausfall wird womöglich nicht durch Hackerangriffe oder Na­tur­katastrophen ausgelöst, sondern durch einen Ingenieur, der in besten Absichten handelt, ein fehlerhaftes Update-Skript oder eine falsch gesetzte Dezimalstelle“, sagt Wam Voster, VP Ana­lyst bei Gartner. „Ein sicherer ‚Kill Switch‘ oder ein klar definierter Override-Modus, auf den ausschließlich autorisierte Fachkräfte zugreifen können, ist daher entscheidend, um die na­tio­na­le Infrastruktur vor unbeabsichtigten Ausfällen zu schützen, die durch eine fehlerhafte Kon­figuration von KI-Systemen entstehen.“

Eine fehlkonfigurierte KI könne eigenständig essenzielle Dienste abschalten, Sensordaten falsch interpretieren oder riskante Aktionen auslösen. Die Folgen würden von physischen Schä­den bis hin zu großflächigen Versorgungsunterbrechungen reichen. Damit entstehe nicht nur ein erhebliches Risiko für die öffentliche Sicherheit, sondern auch für die wirtschaftliche Sta­bi­lität. Insbesondere dann, wenn die Kontrolle über zentrale Systeme wie Stromnetze oder Pro­duk­tionsanlagen beeinträchtigt werde. Moderne Stromnetze seien heute auf KI angewiesen, um Erzeugung und Verbrauch in Echtzeit auszubalancieren. Ein falsch konfiguriertes Prog­no­se­modell könne einen regulären Nachfrageschub fälschlicherweise als Instabilität deuten und dadurch unnötige Netztrennungen oder Lastabwürfe auslösen, die ganze Regionen oder im Extremfall sogar ein gesamtes Land betreffen würden.

Schatten-KI ist eine Sicherheitsgefahr

Unkontrollierte Nutzung von KI verhindern

Schutz für cyber-physische Systeme vor KI-Fehlern

„Moderne KI-Modelle sind so komplex, dass sie oft Blackboxes ähneln“, erklärt Voster. „Selbst Entwickler können nicht immer vorhersehen, wie sich kleine Konfigurationsänderungen auf das Verhalten des Modells auswirken. Je undurchsichtiger diese Systeme werden, desto größer ist das Risiko von Fehlkonfigurationen. Daher ist es umso wichtiger, dass Menschen bei Bedarf eingreifen können.“

Um KI-Risiken zu minimieren, empfiehlt Gartner CISOs folgende Maßnahmen:

• Implementierung sicherer Übersteuerungsmodi: Alle kritischen Infrastruktur-CPS sollten einen sicheren Not-Aus-Schalter oder andere Übersteuerungsmechanismen beinhalten, die nur autorisierten Bedienern zugänglich sind. So behalten Menschen auch im vollautomatischen Betrieb die Kontrolle.

• Digitale Zwillinge: Es sollte ein vollständiger digitaler Zwilling der Systeme entwickelt wer­den, die die kritische Infrastruktur unterstützen. Dies ermöglicht realistische Tests von Updates und Konfigurationsänderungen vor der Bereitstellung.

• Echtzeitüberwachung: Die Echtzeitüberwachung mit Rollback-Mechanismen für Änder­ungen an der KI in CPS sollte verpflichtend sein. Gleichzeitig sollten nationale KI-Not­fall­teams eingerichtet werden.

Industrie und Gesundheitswesen im Visier der Hacker

Cyberangriffe auf OT-Systeme gefährden Produktion und Patienten

(ID:50768299)