Mobile-Menu

Security-Insider Podcast – Folge 104 Code mit bösem Charakter – wie die OCEAN-KI Hacker enttarnt

Von Melanie Staudacher und Peter Schmitz 2 min Lesedauer

Anbieter zum Thema

Vogel IT-Medien GmbH
Fsas Technologies GmbH
Insider Research

Wer steckt hinter manipuliertem Code? Die KI OCEAN analysiert Programmierstil wie einen digitalen Fingerabdruck und deckt so Urheber von Schadcode auf. Im Podcast erklärt Felix Mächtle, wie das funktioniert.

Die KI OCEAN untersucht Software auf Malware und kann sogar den Urheber davon erkennen.(Bild: Vogel IT-Medien)
Die KI OCEAN untersucht Software auf Malware und kann sogar den Urheber davon erkennen.
(Bild: Vogel IT-Medien)

Das Ziel von Felix Mächtles Forschungsarbeit ist es, Software-Lieferketten sicherer zu machen. Dafür hat Mächtle eine Künstliche Intelligenz programmiert, die Softwarecode analysiert und dessen Urheber erkennen kann. Mit der „Open‑World Contrastive Authorship Identification“, kurz OCEAN, können mit Malware verseuchte Updates erkannt werden. Man könnte von einem digitalen Fingerabdruck sprechen.

Wie Mächtle selbst auf die Idee zu OCEAN gekommen ist, hat jedoch einen etwas philosophischeren Hintergrund. Er vergleicht das Projekt mit der Shakespeare-Frage. Hierbei ist nicht sicher, ob alle Werke, die unter dem Namen William Shakespeare veröffentlicht wurden, tatsächlich von ihm stammen – oder ob sich hinter dem Namen vielleicht mehrere Autoren verbergen. Diese Unsicherheit über die Urheberschaft literarischer Werke übertrug Mächtle auf die Welt des Codes: Auch in der Softwareentwicklung könne es relevant sein, zu erkennen, ob bestimmte Programmteile wirklich vom ursprünglichen Entwickler stammen – oder ob sie möglicherweise heimlich verändert oder von jemand anderem eingeschleust wurden. OCEAN soll dabei helfen, solche Abweichungen im „Schreibstil“ von Code automatisch zu identifizieren. Im Interview für den Security-Insider Podcast erläutert Mächtle, wofür OCEAN genutzt wird und wie die Technologie funktioniert:

Im Gespräch mit Felix Mächtle

Felix Mächtle ist promovierender Wissenschaftler am Institut für IT-Sicherheit (ITS) der Universität zu Lübeck mit Forschungsschwerpunkten in Machine-Learning-basierter Code-Analyse und Sicherheit generativer KI-Systeme. Sein aktueller Forschungsschwerpunkt liegt insbesondere auf Angriffen gegen generative Modelle, wie etwa der Erforschung und Verhinderung von Prompt-Stealing-Attacken. Seit Januar 2024 engagiert sich Felix als aktives Mitglied der AIGrid-Community, einem europaweiten, vom BMBF geförderten Netzwerk, das Nachwuchswissenschaftlerinnen und -wissenschaftler vernetzt, um offene und dezentrale KI-Infrastrukturen zu fördern.
Neben seiner akademischen Arbeit verfügt Felix über langjährige praktische Erfahrung als Softwareentwickler, insbesondere im Bereich Webentwicklung und Full-Stack-Development, in dem er viele Jahre freiberuflich tätig war.

Bildquelle: Felix Mächtle

Weiterführende Links zum Podcast-Thema

Mehr Infos bei uns auf Security-Insider:

Externe Infos zum Podcast:

Den Security-Insider Podcast gibt es auf Spotify, Apple Podcasts, Deezer, YouTube, Amazon Music und auf Podimo. Abonnieren Sie den Security-Insider Podcast unter: https://www.security-insider.de/podcast/!

Sie haben Themenvorschläge und Anregungen für kommende Podcast-Folgen? Schreiben Sie uns eine E-Mail!

(ID:50497420)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte