Missbrauch von KI Regierungsdaten mithilfe von LLM Claude gestohlen

Anbieter zum Thema

FAST LTA GmbH

Mindestens 20 Sicherheitslücken in den IT-Systemen mexikanischer Be­hör­den konnte ein Hacker ausnutzen. Hilfe hatte er dabei von dem KI-Chat­bot Claude, der Netzwerkanalysen und Exploits für den Angriff schrieb.

Ein bisher unbekannter Hacker hat Medienberichten zufolge den KI-Chatbot Claude der Firma Anthropic geknackt und damit die Netzwerke von mexikanischen Regierungsbehörden in­fil­triert. Der Akteur habe seinen Angriff bereits im Dezember 2025 begonnen, Sicherheitslücken identifiziert und daraufhin Exploit-Code erstellt und sensible Steuer- und Wähler­in­for­ma­tio­nen gestohlen.

One Identity prognostiziert ersten großen KI-Sicherheitsvorfall 2026

Autonome KI-Agenten gefährden Identitäten und Berechtigungen

So wurde Claude gezielt manipuliert

Das US-Onlineportal Bloomberg berichtete und bezieht sich auf eine Studie von Gambit Security, einem israelischen Security-Hersteller, der den Fall analysiert habe. Laut Bloomberg hätten die Forscher von Gambit die Angriffe, die bis Januar 2026 andauerten, entdeckt, als sie neue Techniken zur Bedrohungssuche ausprobierten. Dabei seien sie auf öffentlich zugängliche Beweise für aktive oder kürzlich erfolgte Angriffe gestoßen. Darunter auch einen, der um­fang­rei­che Claude-Konversationen über den Einbruch in Computersysteme der mexikanischen Re­gierung enthalten habe. Aus diesen Unterhaltungen sei hervorgegangen, dass der Angreifer, um Claudes Sicherheitsvorkehrungen zu umgehen, dem Chatbot mitgeteilt habe, dass er an einem Bug-Bounty-Programm arbeite.

Cybersicherheitsvorfälle

Aktuelle Cyberangriffe auf deutsche Unternehmen 2026

Der Hacker habe spanische Befehle für das Large Language Model (LLM) Claude geschrieben, um es dazu zu bringen, Schwachstellen in den Regierungsnetzwerken Mexikos aufzuspüren. Claude habe die Anfragen des Akteurs zuerst abgelehnt und auf KI-Sicherheitsrichtlinien ver­wiesen. Doch nach wiederholtem Zureden habe die KI nachgegeben und detaillierte Berichte mit ausführbaren Skripten für Schwachstellenscans, die Ausnutzung von Sicherheitslücken und die Automatisierung von Datenexfiltration. Außerdem habe Claude ihm Pläne über die internen Ziele sowie die benötigten Zugangsdaten erstellt. Als der Akteur mit Claude nicht mehr weiter kam, da das LLM an seine Grenzen stieß, habe er zu ChatGPT gewechselt, um sich seitlich in den Netzwerken mexikanischer Behörden fortzubewegen. OpenAI habe erklärt, dass sich ChatGPT diesen illegalen Versuchen widersetzt habe. Die vom Angreifer verwendeten Konten seien gesperrt worden.

Mindestens 20 Schwachstellen seien in in Systemen des Bundes und der Länder ausgenutzt worden, um insgesamt 150 Gigabyte an Steuerzahler-, Wähler-, Ausweis- und Registerdaten zu stehlen.

Neue Risiken in der E-Mail-Security durch manipulierte KI-Tools

Wie Angreifer KI-Assistenten über E-Mails manipulieren

Anthropics Reaktion

Die Ergebnisse von Claude hätten Aufklärungsskripte für Netzwerkscans, SQL-Injection-Ex­ploits sowie die Automatisierung von Credential Stuffing umfasst, alles speziell zu­ge­schnit­ten auf veraltete Regierungssyteme. Der Hersteller habe den Vorfall untersucht und die be­tei­ligten Konten gesperrt. Zudem wurde Claude Opus 4.6 mittlerweile um eine Funktion zur Echtzeit-Missbrauchserkennung erweitert. Dafür habe der Hersteller Beispiele des bösartigen Codes und der unberechtigten Aktivitäten in den Trainingszyklus der KI eingespeist, damit das Modell daraus lernen könne.

In einer Pressemitteilung haben sich auch die mexikanischen Behörden zu dem Vorfall geäußert. Der Vorfall werde untersucht und mögliche Sicherheitsversäumnisse behoben.

Während Hersteller wie Anthropic und OpenAI immer ausgefeiltere KI-Werkzeuge entwickeln, haben Cyberkriminelle wiederholt Wege gefunden, diese zu missbrauchen oder Sicher­heits­lücken auszunutzen. So wurde jüngst eine Zero-Click-Sicherheitslücke in Claude Desktop Extension gefunden sowie eine Prompt-Injection-Schwachstelle in Google Gemini.

Deepfakes, Betrug und unsichere Inhalte

2025 gab es 346 KI-Vorfälle, ChatGPT am häufigsten beteiligt

(ID:50766555)