KI-generierte Bilder werden immer realistischer, dennoch hinterlassen Bildgeneratoren charakteristische Spuren. Solche Spuren lassen sich mit Hilfe von statistischen Untersuchungen finden. (Grafik:Sandra Bergmann | Foto: Vincent Haupert | KI-Bild: Midjourney)
KI-gestützte Bildanalyse gegen digitale Manipulation

Kampfansage an Deepfakes

Deepfakes stellen zunehmend eine Bedrohung für die digitale Integrität dar. Eine IT-Forensik-Gruppe an der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU) und die Secunet Security Networks AG arbeiten an einem Prototyp, der KI-generierte Bildfälschungen automatisch erkennen soll – auch von bislang unbekannten Generatoren. Ziel sei es, Manipulationen frühzeitig zu entlarven und Missbrauch einzudämmen.

Weiterlesen
Schatten-IT ist ein bekanntes Problem, doch jetzt kommt mit Schatten-KI eine neue Bedrohung für Datenschutz und Sicherheit in Unternehmen. (Bild: Dall-E / KI-generiert)
Unkontrollierte Nutzung von KI

„Schatten-KI“ ist eine Gefahr für Unternehmensdaten

Nicht nur für Big-Data-Plattformen stellt die wachsende Verbreitung von Schatten-KI (Künstliche Intelligenz) eine erhebliche Bedrohung für die Sicherheit und Integrität dar. Schatten-KI beschreibt die eigenmächtige Nutzung von Anwendungen der Künstlichen Intelligenz durch Mitarbeiter, ohne dass diese von der IT-Abteilung autorisiert oder überwacht wird. Das führt zu gravierenden Sicherheits- und Compliance-Risiken.

Weiterlesen