Mobile-Menu

Große KI-Anbieter sind sich einig Prof. Kipker: Wir kommen dem KI-GAU näher

Quelle: dpa 1 min Lesedauer

Anbieter zum Thema

sysob IT-Distribution GmbH & Co. KG
FAST LTA GmbH
Arvato Systems GmbH

KI-Systeme werden in vielen kritischen Bereichen eingesetzt. Warum Experten vor steigenden Risiken warnen und KI-Unternehmen Prozesse verlangsamen wollen.

Professor Dennis-Kenji Kipker warnt vor dem Risiko durch KI-Systeme. Gleichzeitig sieht er die EU als möglichen Vorreiter für künftige Sicherheitsstandards.(Bild: Jasmin Lindenthal)
Professor Dennis-Kenji Kipker warnt vor dem Risiko durch KI-Systeme. Gleichzeitig sieht er die EU als möglichen Vorreiter für künftige Sicherheitsstandards.
(Bild: Jasmin Lindenthal)

Der IT-Experte Dennis-Kenji Kipker hält Warnungen führender KI-Unternehmen vor einer außer Kontrolle geratenden künstlichen Intelligenz grundsätzlich für berechtigt. Zwar seien konkrete Zeitangaben empirisch nicht belegbar, sagte der Professor vom Cyber Intelligence Institute (CII) im ZDF-Morgenmagazin. „Was man aber definitiv sagen kann, ist, dass wir einem KI-GAU immer näher kommen.“

Sorge vor KI-Schwarm

Derzeit wird viel über die Sicherheit von KI-Systemen diskutiert. Er sei besorgt, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen und potenziell Hunderte Milliarden Dollar Schaden zu verursachen, schrieb etwa Dario Amodei, Chef des KI-Unternehmens Anthropic Amodei am Wochenende. Binnen weniger Stunden bekam er Zuspruch von Rivalen wie dem Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, sowie Tech-Milliardär Elon Musk.

Die Entwicklung vergleicht Kipker mit einem Kartenhaus: „Wir bauen immer höher, immer schneller das KI-Kartenhaus.“ Je mehr KI-Bestandteile in Systeme eingebaut würden, desto größer werde das Risiko, etwa in der Energieversorgung, in Logistik und Lieferketten, bei Finanzmarktinfrastrukturen und militärischen Waffensystemen. Fielen KI-gesteuerte Systeme in kritischen Infrastrukturen aus, könne das „sofort Kaskadeneffekte für die Versorgungssicherheit der Bevölkerung nach sich ziehen.“ Zudem nutzten Cyberkriminelle die Fähigkeiten künstlicher Intelligenz zunehmend für Angriffe auf Staat und Verwaltung.

Kipker sagte auch, die EU sei lange für ihr KI-Gesetz belächelt worden, inzwischen könne sie in diesem Bereich „sogar Vorreiter geworden“ sein. Als größter Binnenmarkt und großer Kunde von KI-Systemen könne die EU künftige Sicherheitsstandards prägen.

(ID:50954533)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte