Mobile-Menu

gesponsertInsider Research im Gespräch Wenn der Agent entscheidet. Sicherheit, Verantwortung und Haftung im Zeitalter autonomer KI-Systeme

2 min Lesedauer

Gesponsert von

Insider Research
SentinelOne GmbH

Unternehmen lassen KI-Agenten Rechnungen prüfen, Bestellungen auslösen und Systeme abfragen und verlassen sich dabei auf die Schutzmechanismen der Sprachmodelle. Felix Blanke, Director Solutions Engineering bei SentinelOne, hält diese Rechnung für riskant. In der digitalen Sonderausgabe von Security-Insider erklärt er, welche Kontrollen in der eigenen Infrastruktur nötig bleiben.

Wenn der Agent entscheidet. Sicherheit, Verantwortung und Haftung im Zeitalter autonomer KI-Systeme, ein Interview von Thomas Joos, Insider Research, mit Felix Blanke von SenitnelOne.(Bild: Vogel IT-Medien / SentinelOne / Joos)
Wenn der Agent entscheidet. Sicherheit, Verantwortung und Haftung im Zeitalter autonomer KI-Systeme, ein Interview von Thomas Joos, Insider Research, mit Felix Blanke von SenitnelOne.
(Bild: Vogel IT-Medien / SentinelOne / Joos)

Angriffe brauchen heute weniger Fachwissen als vor fünf Jahren. Der CrowdStrike Global Threat Report 2026 weist für das Datenjahr 2025 eine Zunahme KI-gestützter Angriffsoperationen um 89 Prozent gegenüber 2024 aus. Blanke beschreibt im Gespräch, dass Angreifer Personal, Geld und Rechenleistung heute aus der Cloud beziehen und mit geringem Einsatz eine hohe Zahl von Angriffen erreichen.

Der Schutz von KI-Agenten beginnt mit einer Inventur

Parallel wächst die Zahl der Helfer im eigenen Unternehmen. Die KPMG-Befragung Global AI Pulse aus dem 2. Quartal 2026 unter 204 Führungskräften von Unternehmen ab einer Milliarde Dollar Umsatz weist 53 Prozent mit KI-Agenten im Einsatz aus; volle Sicht auf deren Betriebskosten hat gut ein Viertel. Blanke nennt die Inventur deshalb den ersten Schritt, denn Schutz greift nur bei Programmen, die jemand kennt und einem Verantwortlichen zuordnet.

BSI-Präsidentin Claudia Plattner schildert in ihrem Blogbeitrag vom Juli 2026 den Ausbruch eines Agenten aus seiner Testumgebung und fragt nach vernünftigen Rechte- und Rollenvergaben für KI. Das Gespräch führt die Frage weiter zu Mikrosegmentierung, minimalen Rechten und einer Laufzeitüberwachung, die eine Verhaltensänderung innerhalb von Minuten meldet. Unbequem bleibt eine Beobachtung aus Blankes Kundengesprächen, denn die Sicherheitsteams wachsen langsamer als die Zahl der virtuellen Mitarbeiter.

Im Gespräch mit Thomas Joos, Fachjournalist für Security-Insider, erklärt Felix Blanke, Director Solutions Engineering bei SentinelOne, unter anderem:

  • Was hat sich in diesem Jahrzehnt am Verhalten der Angreifer am stärksten verändert?
  • Wie viele Geschäftsführer wissen, wie viele KI-Agenten in ihrem Unternehmen laufen?
  • Warum stößt ein über Jahre gepflegtes Regelwerk an seine Grenze, sobald ein KI-Modell seine Antwort aus Wahrscheinlichkeiten erzeugt?
  • Wie belastbar sind die Schutzmechanismen, die der Hersteller direkt in das Modell einbaut?
  • Berechtigungen und Netzsegmente liegen bei den eigenen Leuten. Was macht die Absicherung dort belastbarer?
  • Wie bleibt ein Agent arbeitsfähig, während unerlaubte Verbindungen nach außen abbrechen?
  • Was sollte ein Sicherheitsverantwortlicher am selben Vormittag tun, um den Stand im eigenen Unternehmen zu kennen?

Die Folge steht bei Captivate, Apple Podcasts, Spotify, TuneIn und Deezer bereit, das Video läuft im YouTube-Kanal von Insider Research. Abonnieren Sie die Reihe, dann erreicht Sie jede neue Ausgabe automatisch.

Weitere Informationen:

KI-Agenten sicher einführen: Guardrails und Security by Design

KI-Agenten absichern: Risiken durch Manipulation

Wenn eine KI aus ihrer Sandbox ausbricht, Blogbeitrag des BSI vom 24.07.2026

CrowdStrike Global Threat Report 2026

(ID:50956482)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte