Podcast zu KI-Pentesting: So testen Profis LLMs und Chatbots

Security-Insider Podcast – Folge 125 „Wie werde ich eine Leiche los?“ So testen Pentester die Grenzen von KI

16.10.2026 Von Melanie Staudacher und Peter Schmitz 2 min Lesedauer

Anbieter zum Thema

Wie testen Pentester die Grenzen von KI-Systemen aus? Kevin Bernhard und Dr. Erlijn van Genuchten geben im Podcast Einblicke aus der Praxis und verraten, welche Risiken meist unterschätzt werden.

Um die Sprachmodelle und KI-Systeme auf Herz und Nieren zu prüfen, dürfen Pentester schon mal kreativ werden, zum Beispiel mit Fragen wie „Wie werde ich eine Leiche los?“(Bild: Vogel IT-Medien) — Um die Sprachmodelle und KI-Systeme auf Herz und Nieren zu prüfen, dürfen Pentester schon mal kreativ werden, zum Beispiel mit Fragen wie „Wie werde ich eine Leiche los?“
(Bild: Vogel IT-Medien)

Chatbots, große und kleine Sprachmodelle und schließlich Agenten: Die Weiterentwicklung der Künstlichen Intelligenz war in den vergangenen Jahren täglich sichtbar. Anwendern nimmt die KI lästige Aufgaben ab, wie zum Beispiel das Zusammenfassen oder Übersetzen von Texten. Und auch Entwickler arbeiten längst mit KI, um schneller mehr Code zu schreiben oder diesen auf Sicherheitslücken zu prüfen. Doch KI schafft auch Risiken für Unternehmen. Denn sie kann nicht nur folgenreiche Fehler machen, sondern auch selbst zu Ziel von Cyberangriffen werden. Um diese neuen Angriffsflächen zu identifizieren, kommen Penetrationstester ins Spiel.

In dieser Folge des Security-Insider Podcasts sprechen wir mit Kevin Bernhard und Dr. Erlijn van Genuchten, beide sind Pentester, jedoch mit unterschiedlichen Schwerpunkten. Während Bernhard für die Telekom MMS den Fachbereich Web- und Application-Pentest leitet, ist van Genuchten selbstständige Ethical Hackerin. Beide haben langjährige Erfahrung mit dem Testen von KI-Systemen und beraten ihre Kunden. Im Interview erzählen die beiden von Fällen aus der Praxis, wofür sie Künstliche Intelligenz einsetzen, wovon sie lieber (noch) die Finger lassen und welche Tipps sie für die Absicherung der Modelle haben.

Im Gespräch mit...

Kevin Bernhard ist Penetrationtester bei Telekom MMS und leitet den Fachbereich Web-/Application-Pentest. Mit mehr als acht Jahren Erfahrung berät und unterstützt er Unternehmen bei der Identifikation und Bewertung von Schwachstellen in Webapplikationen, Webschnittstellen und KI-Anwendungen, insbesondere großen Sprachmodellen. Weitere Schwerpunkte liegen im Testen von Software-Clients und in der Netzwerksicherheit.

Telekom MMS

Dr. Erlijn van Genuchten ist Cybersecurist, Hackerin und Speakerin mit einem interdisziplinären Hintergrund in IT, Psychologie und Bildungswissenschaften sowie einer Promotion. Sie verbindet technisches Know-how mit einem ganzheitlichen Verständnis für Menschen, Gesellschaft und die Herausforderungen moderner Technologien. Van Genuchten erforscht und vermittelt, wie Künstliche Intelligenz sicher, verantwortungsvoll und menschenzentriert entwickelt und eingesetzt werden kann, mit Sicherheit und Ethik im Mittelpunkt.

privat

Weiterführende Links zum Podcast-Thema

Mehr Infos bei uns auf Security-Insider:

Chancen und Risiken beim Einsatz von Large Language Models

So nutzen Angreifer Halluzinationen von KI-Modellen für Angriffe

Claude Mythos markiert eine Zäsur für die Cybersicherheit

Anthropic sperrt Top-KI-Modell nach Regierungs-Anordnung

Anthropic darf KI-Modelle wieder exportieren

KI-generierter Code erzeugt schneller Sicherheitslücken, als er sie beseitigt

Externe Infos zum Podcast:

Mehr zum Project Glasswing von Anthropic

Den Security-Insider Podcast gibt es auf Spotify, Apple Podcasts, Deezer, YouTube, Amazon Music und auf Podimo. Abonnieren Sie den Security-Insider Podcast unter: https://www.security-insider.de/podcast/!

Sie haben Themenvorschläge und Anregungen für kommende Podcast-Folgen? Schreiben Sie uns eine E-Mail!

(ID:50890121)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Business E-mail

Bitte geben Sie eine gültige E-Mailadresse ein.

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Stand: 08.12.2025

Es ist für uns eine Selbstverständlichkeit, dass wir verantwortungsvoll mit Ihren personenbezogenen Daten umgehen. Sofern wir personenbezogene Daten von Ihnen erheben, verarbeiten wir diese unter Beachtung der geltenden Datenschutzvorschriften. Detaillierte Informationen finden Sie in unserer Datenschutzerklärung.

Einwilligung in die Verwendung von Daten zu Werbezwecken

Ich bin damit einverstanden, dass die Vogel IT-Medien GmbH, Max-Josef-Metzger-Straße 21, 86157 Augsburg, einschließlich aller mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen (im weiteren: Vogel Communications Group) meine E-Mail-Adresse für die Zusendung von Newslettern und Werbung nutzt. Auflistungen der jeweils zugehörigen Unternehmen können hier abgerufen werden.

Der Newsletterinhalt erstreckt sich dabei auf Produkte und Dienstleistungen aller zuvor genannten Unternehmen, darunter beispielsweise Fachzeitschriften und Fachbücher, Veranstaltungen und Messen sowie veranstaltungsbezogene Produkte und Dienstleistungen, Print- und Digital-Mediaangebote und Services wie weitere (redaktionelle) Newsletter, Gewinnspiele, Lead-Kampagnen, Marktforschung im Online- und Offline-Bereich, fachspezifische Webportale und E-Learning-Angebote. Wenn auch meine persönliche Telefonnummer erhoben wurde, darf diese für die Unterbreitung von Angeboten der vorgenannten Produkte und Dienstleistungen der vorgenannten Unternehmen und Marktforschung genutzt werden.

Meine Einwilligung umfasst zudem die Verarbeitung meiner E-Mail-Adresse und Telefonnummer für den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern wie z.B. LinkedIN, Google und Meta. Hierfür darf die Vogel Communications Group die genannten Daten gehasht an Werbepartner übermitteln, die diese Daten dann nutzen, um feststellen zu können, ob ich ebenfalls Mitglied auf den besagten Werbepartnerportalen bin. Die Vogel Communications Group nutzt diese Funktion zu Zwecken des Retargeting (Upselling, Crossselling und Kundenbindung), der Generierung von sog. Lookalike Audiences zur Neukundengewinnung und als Ausschlussgrundlage für laufende Werbekampagnen. Weitere Informationen kann ich dem Abschnitt „Datenabgleich zu Marketingzwecken“ in der Datenschutzerklärung entnehmen.

Falls ich im Internet auf Portalen der Vogel Communications Group einschließlich deren mit ihr im Sinne der §§ 15 ff. AktG verbundenen Unternehmen geschützte Inhalte abrufe, muss ich mich mit weiteren Daten für den Zugang zu diesen Inhalten registrieren. Im Gegenzug für diesen gebührenlosen Zugang zu redaktionellen Inhalten dürfen meine Daten im Sinne dieser Einwilligung für die hier genannten Zwecke verwendet werden. Dies gilt nicht für den Datenabgleich zu Marketingzwecken.

Recht auf Widerruf

Mir ist bewusst, dass ich diese Einwilligung jederzeit für die Zukunft widerrufen kann. Durch meinen Widerruf wird die Rechtmäßigkeit der aufgrund meiner Einwilligung bis zum Widerruf erfolgten Verarbeitung nicht berührt. Um meinen Widerruf zu erklären, kann ich als eine Möglichkeit das unter https://contact.vogel.de abrufbare Kontaktformular nutzen. Sofern ich einzelne von mir abonnierte Newsletter nicht mehr erhalten möchte, kann ich darüber hinaus auch den am Ende eines Newsletters eingebundenen Abmeldelink anklicken. Weitere Informationen zu meinem Widerrufsrecht und dessen Ausübung sowie zu den Folgen meines Widerrufs finde ich in der Datenschutzerklärung.