Mobile-Menu

Security-Insider Podcast – Folge 119 Deepfakes erkennen, wenn das Auge versagt

Von Peter Schmitz und Melanie Staudacher 2 min Lesedauer

Anbieter zum Thema

Fraunhofer-Institut für Sichere Informations- technologie SIT
Fujitsu Technology Solutions GmbH
cyberintelligence.institute GmbH

25 Mio. Dollar Schaden durch eine gefälschte Videokonferenz, jeder Vierte fällt auf KI-Fakes herein: Deepfakes sind längst kein Zukunftsproblem mehr. In dieser Folge des Security-Insider Podcast erklärt Raphael Frick vom Fraunhofer SIT, wie Forensiker mit KI gegen KI-Fälschungen kämpfen und ob dieses Wettrüsten zu gewinnen ist.

Deepfakes erkennen, wenn das Auge versagt: Im Podcast erklärt Raphael Frick vom Fraunhofer SIT, wie KI-basierte Forensik Fälschungen entlarvt, die Menschen nicht mehr erkennen können.(Bild: Vogel IT-Medien)
Deepfakes erkennen, wenn das Auge versagt: Im Podcast erklärt Raphael Frick vom Fraunhofer SIT, wie KI-basierte Forensik Fälschungen entlarvt, die Menschen nicht mehr erkennen können.
(Bild: Vogel IT-Medien)

Sechs Finger an einer Hand, verzerrte Gesichter, unsinnige Hintergründe: Noch vor drei Jahren konnte man KI-generierte Bilder auf den ersten Blick entlarven. Diese Zeiten sind vorbei. Ak­tu­el­le Generatoren wie Z-Image Turbo erzeugen Bilder, die selbst geschulte Betrachter nicht mehr von echten Fotos unterscheiden können.

Und die Bedrohung geht längst über manipulierte Bil­der hinaus: Anfang 2024 verlor das Ingenieurbüro Arup 25 Millionen Dollar, weil Betrüger in einer Videokonferenz per Deepfake den Finanzvorstand und mehrere Kollegen täuschend echt simulierten. Laut TÜV-Verband ist bereits jeder vierte Nutzer auf KI-generierte Inhalte he­r­ein­ge­fal­len. Wenn das menschliche Auge versagt, braucht es technische Methoden, um Fäl­schung­en zu entlarven.

Evolution von Deepfakes (v.l.n.r.): Stable-Diffusion 1.4 (2022), Stable-Diffusion XL (2023), Flux.1 Dev (2024), Z-Image Turbo (2025). Für das Intro-Gespräch hat Melanie nur das rechte Foto bekommen.
(Bildquelle: Fraunhofer SIT)

Genau daran arbeitet Raphael Frick. Er forscht am Fraunhofer-Institut für Sichere In­for­ma­ti­ons­tech­no­lo­gie (SIT) in Darmstadt in der Abteilung „Media Security and IT Forensics“ an neu­ar­ti­gen Erkennungsmethoden für KI-generierte und manipulierte Bilder und Videos. Sein Schwer­punkt liegt auf Deep-Learning-basierten Detektionsverfahren und der multimodalen Analyse von Falschinformationen in sozialen Netzwerken. Unter anderem hat er 2024 mit „DiffSeg“ eine Methode zur Erkennung von Diffusion-basiertem Inpainting entwickelt, die auf der renommierten CVPR-Konferenz vorgestellt wurde. Im Podcast spricht er über das Wett­rüs­ten zwischen immer besseren Fälschungstools und forensischen Er­ken­nungs­me­tho­den, erklärt wie KI gegen KI eingesetzt wird und gibt eine ehrliche Einschätzung, ob die Forensik dieses Rennen gewinnen kann.

Im Gespräch mit Raphael Frick

Raphael Frick ist Wissenschaftler am Fraunhofer‑Institut für Sichere In­for­ma­ti­ons­tech­no­lo­gie (SIT). Er arbeitet seit mehreren Jahren in der Abteilung „Medien Sicherheit & IT Forensik“ und promoviert darüber hinaus an der TU Darmstadt. Sein Schwerpunkt liegt auf der Ent­wick­lung neuer Verfahren zur Erkennung KI generierter und manipulierter Bilder und Videos, ins­be­son­de­re zur Aufdeckung digitaler Betrugsformen wie CEO Frauds oder Iden­ti­täts­miss­brauch. Zudem untersucht er, wie sich Bild , Text und Kontextinformationen kombinieren lassen, um Falsch­in­for­ma­ti­o­nen in sozialen Netzwerken frühzeitig zu erkennen und ihre Verbreitung besser zu verstehen.

Fraunhofer SIT

Weiterführende Links zum Podcast-Thema

Mehr Infos bei uns auf Security-Insider:

Externe Infos zum Podcast:

Den Security-Insider Podcast gibt es auf Spotify, Apple Podcasts, Deezer, YouTube, Amazon Music und auf Podimo. Abonnieren Sie den Security-Insider Podcast unter: https://www.security-insider.de/podcast/!

Sie haben Themenvorschläge und Anregungen für kommende Podcast-Folgen? Schreiben Sie uns eine E-Mail!

(ID:50831818)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte