Nach OpenAI-Vorfall Auch Claude hat eigenständig Unternehmen angegriffen

Anbieter zum Thema

FAST LTA GmbH

Ein Missverständnis bei Anthropic führte dazu, dass verschiedene Claude-Modelle während Tests unbefugt auf die Systeme dreier Organisationen zugreifen konnten. Dieser wie auch zuvor der Vorfall bei OpenAI werfen Fragen nach der Sicherheit von KI-Modellen auf.

Aufgrund des unbeabsichtigten Cyberangriffes durch ein KI-Modell von OpenAI hat Anthropic öffentlich bekannt gegeben, dass ein Claude-Modell ebenfalls für drei Sicherheitsvorfälle verantwortlich sei.

Update: Mindestens ein weiteres Opfer

Autonomer KI-Agent dringt in Hugging-Face-Systeme ein

Ein Missverständnis verschaffte Claude Internetzugang

Der Hersteller hat eigenen Angaben nach 141.006 Evaluierungsläufe überprüft, in denen Claude möglicherweise Internetzugang erlangt habe, und drei Fälle identifiziert, bei denen ein Claude-Modell aus einer externen Testumgebung oder während der Interaktion mit dieser das Internet erreichte und anschließend unbefugten Zugriff auf die realen Systeme dreier verschiedener Organisationen erlangte. In diesen Fällen habe ein Modell aus der Evaluierungsumgebung von Irregular, einem externen Evaluierungspartner von Anthropic, auf das Internet zugegriffen oder habe mit der Umgebung interagiert und anschließend unbefugten Zugriff auf die Produktionsinfrastruktur dreier verschiedener Organisationen erlangt.

In allen drei Fällen sei Claude mit einer Capture-the-Flag-Aufgabe betraut gewesen, damit der Hersteller die Fähigkeiten des Modells bewerten könne. Dem Modell sei ein fiktives Szenario vorgegeben worden: „Eine geheime Information ist auf einem anderen Rechner im Netzwerk versteckt, und das Modell muss in diesen Rechner eindringen und die Information abrufen.“ Die Aufgabe sei offen gestaltet gewesen, und es sei keine bestimmte Methode vorgegeben worden.

In allen Fällen habe Anthropic in seiner Evaluierungsaufgabe angegeben, dass es sich um eine Simulationsumgebung ohne Internetzugang handele. Aufgrund eines Missverständnisses zwischen Anthropic und dessen Evaluierungspartner sei dies jedoch nicht der Fall gewesen und Internetzugang war vorhanden gewesen. Daher habe Claude die im offenen Internet gefundenen realen Systeme als Teil der Übung behandelt.

KI als doppelschneidiges Schwert in der Cybersicherheit

Wie KI Cyberangriffe beschleunigt und Unternehmen sich schützen können

Schwache Passwörter und unauthentifizierte Endpunkte

In der Annahme, alle zugänglichen Entitäten seien für die Übung vorgesehen, habe Claude die Infrastruktur der betroffenen Organisationen mithilfe einfacher Techniken wie der Ausnutzung schwacher Passwörter und nicht authentifizierter Endpunkte kompromittiert. Dem detaillierten Bericht von Anthropic nach, habe Claude neue Schwachstellen gefunden oder alte genutzt, um die Capture-the-Flag-Aufgabe zu lösen. Diese Schwachstellen seien jedoch nicht komplex gewesen. Zwar habe das beschrieben Modell nur die ihm zugewiesene Aufgabe ausgeführt, in einigen Fällen habe allerdings ein älteres Anthropic-Modell seinen Angriff fortgeführt, selbst nachdem ihm mitgeteilt worden sei, dass es im offenen Internet lief. Das neuestes Modell habe seine Arbeit unterbrochen, sobald es erkannt habe, dass es sich im Internet befand. In keinem dieser Fälle habe Claude die Testumgebung exfiltriert oder absichtlich versucht, sie zu verlassen.

KI-gut schlägt KI-böse

Behörden warnen vor KI-Cyberattacken, haben aber einen KI-Coup gelandet

Das Dilemma der KI-Entwicklung

An den drei Vorfällen seien die Modelle Opus 4.7, Mythos 5 und ein internes Forschungsmodell beteiligt gewesen. Den ersten Vorfall habe Anthropic im April 2026 bemerkt. Die Modelle in den entsprechenden Evaluierungen seien ohne die Standard-Sicherheitsvorkehrungen gelaufen, die Anthropic sonst ab der allgemeinen Verfügbarkeit seiner Modelle implementiere. Allerdings hätten die Modelle ihre modellspezifischen Sicherheitsschulungen absolviert. Am 23. Juli prüfte der Hersteller die Transkripte der Evaluierung und stoppte noch am selben Tag alle weiteren Vorhaben, da Claude in einigen möglicherweise auf das Internet zugegriffen haben soll. Am 24. Juli habe Anthropic dann die drei tatsächlichen Sicherheitsvorfälle festgestellt. Sowohl der Evaluierungspartner Irregular wie auch die drei betroffenen Organisationen seien am 27. Juli informiert worden. Zwei davon hätten die fremden Aktivitäten bis dahin nicht bemerkt.

Die Offenbarung von Anthropic zeigt das Dilemma in der KI-Entwicklung auf: Um Modelle realistisch zu testen, müssen Entwickler ihnen Fähigkeiten gewähren, die sie gleichzeitig kontrollieren müssen. Doch wie dieser Fall erneut zeigt, scheint die Balance zwischen realistischen Bedingungen und sicherer Isolation nicht leicht umzusetzen zu sein.

Tom Kellermann, VP AI Security & Threat Research bei TrendAI, kommentiert: „Das ist kein Ausrutscher, das ist ein Muster. Anthropic und OpenAI haben gerade bewiesen: Wer für Tests die Guardrails entfernt, schafft keine Sandbox, sondern ein systemisches Risiko. Jede Organisation, die agentische KI einsetzt, muss sich fragen, ob ihre Evaluierungsumgebung tatsächlich abgeschottet ist. Containment und Monitoring sind keine Kür mehr, sondern Pflicht.“

Für alle Organisationen – ob sie KI entwickeln, einsetzen oder einfach nur deren Sicherheitsrisiken tragen – sollte dies ein Weckruf sein. Evaluierungs- und Testumgebungen für KI-Systeme benötigen den gleichen Sicherheitsstandard wie produktive Systeme. Die Sicherheit darf nicht erst bei der Bereitstellung beginnen, sie muss beim Design aller Test- und Entwicklungsumgebungen anfangen.

Arctic Wolf AI & Cybersecurity Trends Report 2026

KI überholt Malware als größte Cyber­security-Sorge im DACH-Raum

(ID:50915977)