Mobile-Menu

Streit um Model-Destillation OpenAI meldet mutmaßlichen Klau von Modellfähigkeiten

Von Marvin Djondo-Pacham 2 min Lesedauer

Anbieter zum Thema

cidaas by Widas ID GmbH
FAST LTA GmbH
FTAPI Software GmbH

Akteure aus dem Umfeld des chinesischen KI-Anbieters Moonshot AI sollen OpenAIs Modelle systematisch abgefragt haben, um deren Fähigkeiten abzuschöpfen. Das behauptet OpenAI in einem Blogpost. Unabhängige Belege dafür liegen bislang nicht vor.

OpenAI wirft Akteuren aus dem Umfeld von Moonshot AI vor, Modellfähigkeiten durch systematische Abfragen abgeschöpft zu haben.(Bild: KI-generiert)
OpenAI wirft Akteuren aus dem Umfeld von Moonshot AI vor, Modellfähigkeiten durch systematische Abfragen abgeschöpft zu haben.
(Bild: KI-generiert)

OpenAI berichtet, unbefugte Aktivitäten beobachtet zu haben. Laut Blogpost sollen diese vom 1. bis zum 28. Juli 2026 angedauert haben. Besonders hohe Anfragezahlen registrierte das Unternehmen nach eigenen Angaben am 24. und 25. Juli: 16.000 Abfragen mit einem bestimmten Extraktionsmuster, verteilt auf mehr als 4.000 Konten. Ähnliche Aktivitäten habe OpenAI bei insgesamt mehr als 15.000 Nutzern festgestellt.

Der zentrale Aktivitätscluster sei Moonshot AI zugeordnet worden, dem Entwicklungsunternehmen hinter dem KI-Modell Kimi. OpenAI erklärte jedoch, es sei unklar, ob alle beteiligten Betreiber mit demselben KI-Anbieter verbunden waren.

Kein Einbruch in OpenAI-Systeme

OpenAI zufolge handelte es sich nicht um einen klassischen Hackerangriff. Die Angreifer hätten weder Verschlüsselung gebrochen noch eine Datenbank kompromittiert oder direkten Zugriff auf gespeicherte Nutzerkonversationen erhalten. Stattdessen hätten sie Modellinteraktionen systematisch so gestaltet, dass sich geschützte Schlussfolgerungen in sichtbarer Form reproduzieren ließen.

Bei der sogenannten Model-Destillation wird ein Modell anhand der Ausgaben eines leistungsfähigeren Modells trainiert. So kann ein anderes Modell bestimmte Fähigkeiten übernehmen, ohne dass seine Entwickler das ursprüngliche Modell selbst trainieren müssen. OpenAI befürchtet, dass dabei auch Fähigkeiten übernommen werden könnten, ohne die ursprünglichen Sicherheitsvorkehrungen beizubehalten.

Der US-amerikanische KI-Anbieter erklärte, die beteiligten Konten gesperrt, Anmelde- und Infrastrukturkontrollen verschärft und einen weiteren Zugriffsweg geschlossen zu haben. Die Ergebnisse der Untersuchung teilte OpenAI nach eigenen Angaben auch mit anderen KI-Anbietern und Behörden.

Ironie mit einer wichtigen Einschränkung

Pikant ist der Vorwurf auch deshalb, weil OpenAI selbst wegen der Nutzung urheberrechtlich geschützter Online-Inhalte in der Kritik steht. Das Unternehmen hat große Mengen an Internetinhalten für das Training seiner Modelle verwendet und sieht sich deswegen mit Urheberrechtsklagen konfrontiert. Nun kritisiert OpenAI, ein Wettbewerber könne die Fähigkeiten seiner Modelle durch systematische Abfragen übernehmen.

Die Vorgänge sind allerdings nicht gleichzusetzen. Das Training mit Webinhalten und die gezielte Destillation eines konkreten Modells unterscheiden sich technisch und rechtlich. Die Ironie liegt vor allem darin, dass OpenAI selbst umstrittene Formen der Wissensübernahme durch KI nutzt, zugleich aber gegen die Übernahme der Fähigkeiten seiner eigenen Modelle vorgeht. Der konkrete Vorwurf gegen Moonshot AI beruht bislang auf OpenAIs Untersuchung. Eine unabhängige Bestätigung der Zuordnung existiert nicht.

(ID:50977605)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte