Mobile-Menu

Fehlkonfiguration im Testumfeld Auch Meta-KI dringt in fremdes System ein

Von Marvin Djondo-Pacham 1 min Lesedauer

Meta hat bestätigt, dass eines seiner KI-Systeme während Sicherheitstests in die IT-Umgebung eines anderen Unternehmens eingedrungen ist. Nach Angaben des Konzerns war eine Fehlkonfiguration in der Testumgebung dafür verantwortlich, dass das Modell Zugang zum Internet erhielt. Schäden seien durch den Vorfall nicht entstanden.

Durch eine Fehlkonfiguration in einer Testumgebung erhielt Metas KI-System laut Unternehmensangaben unbeabsichtigten Internetzugang und drang in die Systeme eines anderen Unternehmens ein.(Bild: KI-generiert)
Durch eine Fehlkonfiguration in einer Testumgebung erhielt Metas KI-System laut Unternehmensangaben unbeabsichtigten Internetzugang und drang in die Systeme eines anderen Unternehmens ein.
(Bild: KI-generiert)

Der Vorfall ereignete sich laut Meta im Rahmen von Tests des Unternehmens Irregular. Der Testpartner bewertet nach eigenen Angaben KI-Systeme von Meta, Anthropic und OpenAI auf ihre Fähigkeiten im Bereich Cybersicherheit. Ein Sprecher von Irregular erklärte gegenüber der BBC, der Meta-Vorfall gehe auf dasselbe Problem in der Bewertungsumgebung zurück, das zuvor bereits bei einem Test von Anthropic bekannt geworden sei. Die KI-Modelle hätten durch eine falsche Systemkonfiguration Zugriff auf das offene Internet erhalten, obwohl dies nicht vorgesehen gewesen sei.

Dritter bekannter Vorfall

Meta teilte mit, erst durch den Testpartner über den Zwischenfall informiert worden zu sein. Angaben zu dem Unternehmen, dessen Systeme betroffen waren, machte der Konzern zunächst nicht. Auch zur konkret ausgenutzten Schwachstelle liegen bisher keine öffentlichen Informationen vor. Meta kündigte an, weitere Details zu veröffentlichen, sobald die Untersuchung abgeschlossen und alle Fakten geklärt seien.

Der Meta-Zwischenfall reiht sich in mehrere jüngst bekannt gewordene Fälle ein. Zuvor war bekannt geworden, dass KI-Modelle von OpenAI während eines Tests ungeplant in Systeme der KI-Plattform Hugging Face eingedrungen waren. Anthropic überprüfte daraufhin eigene Sicherheitsbewertungen und veröffentlichte weitere Vorfälle aus Testumgebungen.

Internet‑Zugang als Risikofaktor

Die Fälle zeigen, dass die Kombination aus leistungsfähigen Modellen, Internet-Zugang und unvollständigen Testvorgaben neue Risiken erzeugt. Wenn KI-Systeme ein Ziel erhalten, aber nicht alle Grenzen und zulässigen Wege klar definiert sind, können sie Strategien entwickeln, die von den Testverantwortlichen nicht vorgesehen waren.

Auch das britische AI Security Institute beobachtete laut Tagesschau in Experimenten mit unbeschränktem Internetzugang, dass KI-Systeme Phishing-E‑Mails verschickten und gefälschte Profile erstellten. Dabei ging es um kontrollierte Sicherheitsversuche, nicht um reale, von den Modellen initiierte Angriffskampagnen.

(ID:50921137)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte