Sicherheitslücke in Microsofts KI-Tool Copilot Studio entdeckt

Fehler in KI-Tool von Microsoft Kritische Schwachstelle in Microsoft Copilot Studio

03.09.2024 Von Thomas Joos 2 min Lesedauer

Anbieter zum Thema

PresseBox - unn | UNITED NEWS NETWORK GmbH

Sicherheitsforscher bei Tenable haben eine Sicherheitslücke im Microsoft KI-Tool Copilot Studio entdeckt. Durch die Schwachstelle können Angreifer sensible Daten abgreifen und teilweise sensible Informationen manipulieren.

Forscher finden eine kritische Sicherheitslücke im KI-Tool Copilot Studio von Microsoft.(Bild: Creative_Bringer - stock.adobe.com / KI-generiert) — Forscher finden eine kritische Sicherheitslücke im KI-Tool Copilot Studio von Microsoft.
(Bild: Creative_Bringer - stock.adobe.com / KI-generiert)

Tenable Research hat eine Schwachstelle in Microsofts Copilot Studio auf der Power Platform identifiziert, die erhebliche Sicherheitsrisiken birgt. Diese Sicherheitslücke ermöglicht es Angreifern, die Schutzmaßnahmen gegen Server-Side Request Forgery (SSRF) zu umgehen, um auf Instanz-Metadaten zuzugreifen. Dazu zählen unter anderem die Fähigkeit, verwaltete Identitätstoken anzufordern, sowie der Zugriff auf interne Ressourcen, wie beispielsweise das Cosmos DB. Diese Schwachstelle betrifft eine gemeinsame Umgebung, die von mehreren Kunden genutzt wird, was das Risiko eines tenant-übergreifenden Angriffs deutlich erhöht.

Ein Sicherheitsforscher hat auf der Black Hat 2024 gezeigt, wie leicht die KI-Dienste von Microsoft Copilot missbraucht werden können. (Bild: Microsoft / KI-generiert)

Beim Erstellen von benutzerdefinierten Copilots in Copilot Studio, erreichbar unter web.powerva.microsoft.com, können Benutzer individuelle Themen hinzufügen und die erweiterte Aktion „HttpRequestAction“ integrieren. Diese Aktion bietet die Möglichkeit, HTTP-Anfragen zu definieren. In der Regel blockiert das System jedoch Anfragen an bestimmte IP-Adressen, die als sensibel gelten, darunter 127.0.0.1 (localhost) und 169.254.169.254.

Diese Einschränkung lässt sich jedoch durch einen Trick umgehen. Ein Angreifer kann die HTTP-Anfrage so gestalten, dass sie an einen von ihm kontrollierten Server gesendet wird, welcher dann mit einem HTTP-Statuscode 301 oder 302 auf eine ansonsten blockierte Adresse umleitet. Dieser Umweg erlaubt es dem Angreifer, die Instanz-Metadaten-IP zu erreichen, obwohl solche Anfragen normalerweise durch den Standard-Header „X-Forwarded-For“ blockiert werden.

Um diese Blockade zu umgehen, kann der Angreifer den HTTP-Header manipulieren. Ein möglicher Ansatz besteht darin, dem Header mehrere neue Zeilen hinzuzufügen, sodass der „X-Forwarded-For“-Header in den Anfragetext verschoben wird. Alternativ kann der Angreifer eine Zeile und einige zusätzliche Zeichen einfügen, wodurch der „X-Forwarded-For“-Header modifiziert wird, sodass er beispielsweise zu „abcX-Forwarded-For“ umgewandelt wird und dadurch die Blockade umgangen wird.

Durch die künstliche Intelligenz rücken die Daten noch mehr ins Blickfeld. Sie zu schützen, muss spätestens jetzt oberste Priorität aller Security-Maßnahmen haben. (Bild: Alexander Limbach - stock.adobe.com)

Mit diesem Zugriff auf die Instanz-Metadaten-Dienste (IMDS) erhält der Angreifer die Möglichkeit, ein Managed Identity Token für „management.azure.com“ anzufordern. Dieses Token ermöglicht den Zugriff auf interne Ressourcen, darunter auch die Cosmos DB. Der Zugriff auf diese Datenbank von außerhalb des Azure-Netzwerks ist durch eine Firewall blockiert, jedoch können innerhalb von Copilot über weitere „HttpRequestAction“-Anfragen Zugriffe durchgeführt werden. Ein Angreifer hätte in dieser Konstellation vollständigen Lese- und Schreibzugriff auf diese Ressource.

Microsoft hat Schwachstelle bestätigt

Microsoft hat die Sicherheitslücke im Copilot Studio bestätigt und stuft die Schwachstelle als eine kritische Informationsoffenlegung ein.

Der US-Kongress verbietet seinen Mitglieder die Verwendung von Microsoft Copilot auf den zur Verfügung gestellten Geräten. (Bild: frei lizenziert)

(ID:50145802)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Geschäftliche E-Mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Stand: 08.12.2025

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.