Microsoft zeigt: Sicherheitsmaßnahmen von KI-Chatbots aushebeln

KI-Chatbots lassen sich manipulieren Microsoft meldet Jailbreak für GPT, Llama und Gemini

16.07.2024 Von Thomas Joos 1 min Lesedauer

Anbieter zum Thema

fsas-afc-horizontal-2-positive-rgb-nov24 (Fsas)

In den verschiedenen KI-Chatbots haben die Entwickler Sicherheitsfunktionen integriert, um verbotene, unmoralische oder gefährliche Antworten zu umgehen. Microsoft zeigt jetzt, wie sich diese Maßnahmen umgehen lassen.

Microsoft hat Schwachstellen bei verschiedenen KI-Modellen gefunden.(Bild: Deemerwha studio - stock.adobe.com) — Microsoft hat Schwachstellen bei verschiedenen KI-Modellen gefunden.
(Bild: Deemerwha studio - stock.adobe.com)

Microsoft zeigt in einem Blogbeitrag, wie sich Sicherheitsmaßnahmen von verschiedenen KI-Chatbots aushebeln lassen. Dazu kommt eine Art Software-Dietrich zum Einsatz, der in der Lage ist durch Änderungen das Verhalten der Bots auszuhebeln.

Das steckt hinter dem Microsoft-Jailbreak für KI-Chatbots

Generative Künstliche Intelligenz (KI) lässt sich mit Jailbreaks oder direkte Prompt Injection Angriffen kompromittieren. Ein erfolgreicher Jailbreak kann die von den KI-Anbietern implementierten Schutzmaßnahmen unterlaufen. Ein erfolgreicher Jailbreak kann daher dazu führen, dass das KI-System gegen die Richtlinien der Betreiber verstößt, Entscheidungen unzulässig beeinflusst oder bösartige Anweisungen ausführt. Diese Angriffe können dazu genutzt werden, die KI-Modelle dazu zu bringen, verbotene oder gefährliche Inhalte zu generieren.

Die neue Bedrohung: Skeleton Key

Eine kürzlich entdeckte Jailbreak-Technik, Skeleton Key genannt, nutzt eine mehrstufige Strategie, um die Sicherheitsvorkehrungen von KI-Modellen zu umgehen. Dieser Angriff kann dazu führen, dass das Modell nicht mehr zwischen erlaubten und verbotenen Anfragen unterscheiden kann. Microsoft hat diese Technik in den Modellen von Azure erkannt und entsprechende Gegenmaßnahmen ergriffen. Skeleton Keys bringen ein Modell dazu, seine Verhaltensrichtlinien so zu erweitern, dass es auf jede Anfrage reagiert, auch wenn die Antwort möglicherweise schädlich oder illegal ist.

Während der Tests zwischen April und Mai 2024 wurde die Skeleton Key Technik in verschiedenen generativen KI-Modellen, darunter Meta Llama3-70b-instruct, Google Gemini Pro, OpenAI GPT 3.5 Turbo und anderen, erfolgreich angewendet. Alle betroffenen Modelle gaben die angeforderten Informationen ohne Zensur aus, lediglich versehen mit einer Warnung.

(ID:50084811)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Stand: 08.12.2025

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.