Mehr Offenheit und weniger Hype bei KI Zeit für Künstliche Intelligenz in der IT-Sicherheit!

Autor / Redakteur: Michael Veit / Peter Schmitz

Im vergangenen Jahrzehnt hat sich künstliche Intelligenz (KI) vom fantastischen Stilmittel klassischer Science-Fiction-Filme zu einer der erfolgreichsten neuen Technologien gewandelt – und zu einem der industrie­übergreifend meistgenannten Schlagworte. In der Cybersecurity waren die Fortschritte durch KI vergleichsweise gemischt und oftmals recht ineffizient.

Firmen zum Thema

Die im Bereich Cybersecurity vorherrschende Kultur aus Geheimhaltung und Marketinghype hat erhebliche negative Auswirkungen auf die KI-Entwicklung im Bereich IT-Sicherheit.
Die im Bereich Cybersecurity vorherrschende Kultur aus Geheimhaltung und Marketinghype hat erhebliche negative Auswirkungen auf die KI-Entwicklung im Bereich IT-Sicherheit.
(© everythingpossible - stock.adobe.com)

Heute kommt KI in nahezu jeder Branche – Fertigung, Landwirtschaft, Gesundheitswesen, Transport, Bankwesen, Finanzen, Einzelhandel – zum Einsatz oder ist zumindest in Planung. Es ist der wichtigste Technologietrend unserer Zeit und überall zu finden, von sprachgesteuerten Verbrauchergeräten bis hin zu Fabrikrobotern. Wir wissen dies, weil viele der in diesen Bereichen tätigen Unternehmen mit ihrer Nutzung von KI werben. Und was wirkt schon moderner als die Ankündigung eines neuen KI-basierten Projekts? Dabei spielt der Nutzen von KI als Marketing-Tool eine ebenso große Rolle wie ihre Effizienz für Produkte und Dienstleistungen.

Genau wie in anderen Bereichen hat sich KI in den letzten fünf Jahren auch als Treiber für Innovationen in der Cybersecurity erwiesen. Allerdings waren die Fortschritte hier vergleichsweise gemischt und oftmals recht ineffizient. So verlassen sich Cybersecurity-Unternehmen heute beispielsweise noch immer vorwiegend auf nicht KI-gestützte Systeme, um Schwachstellen in ihrer Codebasis oder raffinierte Angreifer in ihren Netzwerken ausfindig zu machen. Dieser mangelnde Fortschritt ist durch eine Kultur der Geheimhaltung in Kombination mit leeren Marketingversprechen bedingt, die den Einsatz von KI in der Cybersecurity-Branche prägen. Diese Entwicklung steht in starkem Kontrast zu anderen Anwendungsbereichen von KI, wie Computervision, Spracherkennung oder das Verständnis natürlicher Sprache, in denen Unternehmen eine Art gemeinsamer Ausgangsbasis in Form von offenen Benchmarks, Konferenzen und Workshops geschaffen haben. So werden Innovationen geteilt und treiben den Fortschritt an.

Die im Bereich Cybersecurity vorherrschende Kultur aus Geheimhaltung und Marketinghype hat erhebliche negative Auswirkungen auf die KI-Entwicklung im Bereich IT-Sicherheit. Auf der einen Seite werden Unternehmen, die eigene KI-Forschung betreiben, davon abgehalten, ihre Erkenntnisse zu teilen, weil sie wissen, dass auch ihre Wettbewerber dies nicht tun würden. Auf der anderen Seite ermöglicht die mangelnde Transparenz in Hinblick auf KI-Technologien es Trittbrettfahrern, sich ungestraft mit wenig effizienten KI-Systemen auf dem Markt zu positionieren.

Geheimniskrämerei

Die internationalen Technologieriesen wie Google, Amazon und Facebook sind im Vergleich viel offener, was ihre KI-Forschung anbelangt. Hauptgrund hierfür ist ihr Bedarf an Spitzentalenten, darunter auch die besten KI-Forscher aus dem akademischen Bereich. Jedoch nehmen diese Leute ein Stellenangebot oft nur an, wenn sie weiterhin ihre Arbeiten veröffentlichen dürfen, was wiederum zu größerer Offenheit in Bezug auf ihre Forschungsergebnisse zu KI führt.

Dagegen wird im Sicherheitsbereich ein Geheimnis um KI gemacht. So behaupten zahlreiche Cybersecurity-Unternehmen, mit KI zu arbeiten, während sie in Wirklichkeit eher das Einmaleins der Statistik anwenden. Diese Unternehmen versuchen den Anschein zu erwecken, dass sie hinter verschlossenen Türen einen geheimen Algorithmus zur Anwendung bringen. Tatsächlich versuchen sie nur davon abzulenken, was hinter den Kulissen vor sich geht.

Hinzu kommt ein gewisses Maß an Verschleierung und sogar Herablassung. So behaupten viele Sicherheitsunternehmen, KI und Machine Learning einzusetzen, doch auf die Frage nach den Grundlagen dafür hört man oft Antworten wie: „Das würden Sie nicht verstehen. Vertrauen Sie uns einfach. Es ist zu komplex, um es zu erklären. Wir können das nicht offenlegen, weil unsere Konkurrenten uns dann kopieren würde.“ Diese defensive Haltung schadet nicht nur der Glaubwürdigkeit der Sicherheitsbranche als Ganzes; sie lässt außerdem echte KI-Innovatoren unter dem von diesen unseriösen Akteuren verursachten Wirbel leiden.

Wenn Cybersecurity-Firmen sich scheuen, Details zu ihrer KI-Technologie zu veröffentlichen, wird es schwieriger, echte Innovationen von leeren Marketingversprechen zu unterscheiden. Um echte Fortschritte bei der Nutzung von KI zur Lösung der schwierigsten Probleme der Cybersecurity, wie das Erkennen von Stealth-Angriffen auf Netzwerke oder von schlechtem Code in Software-Lieferketten, erzielen zu können, müssen Innovatoren für Cybersecurity-KI sich die Offenheit und wissenschaftliche Kultur der allgemeinen KI-Community aneignen.

Branchensilos behindern Innovation, Wissensaustausch fördert sie

Zweifellos wirkt sich die Neigung der Sicherheitsbranche zur Schaffung von Silos negativ auf Innovationen aus. Wenn Unternehmen Informationen veröffentlichen und teilen, hat dies erhebliche Vorteile für die Gemeinschaft. Sprachmodellierung und maschinelle Übersetzung sind zwei Beispiele für Anwendungen, die in den letzten fünf Jahren enorme Innovationen hervorgebracht haben, weil sich die Unternehmen, die Hunderte von Millionen in diese Entwicklung investiert haben, in die Karten schauen lassen. Sie legen vielleicht nicht alles über ihre Projekte offen, also vielleicht keinen Quellcode und keine Datensätze, aber sie teilen genug, um die branchenweite Entwicklung voranzubringen. In der Cybersecurity findet dies aktuell nicht wirklich statt.

Dieser Mangel an Innovation schadet nicht nur den Anbietern, sondern auch den Käufern. Wenn Käufer kaum Anhaltspunkte im Markt finden, um Anbieter und Lösungen zu vergleichen, fehlen ihnen die Informationen, die sie brauchen, um besser informierte Einkaufsentscheidungen zu treffen.

Umgekehrt gilt, dass mehr Offenheit der Sicherheitsanbieter über ihre Lösungen, Methoden und vor allem ihre KI-Anwendungen zwei neue Möglichkeiten für die Branche eröffnet: Zum einen erhalten Käufer mehr Informationen für bessere Entscheidungen, nicht nur über die erworbenen Sicherheitslösungen, sondern auch über ihre allgemeine Sicherheitsaufstellung und eventuelle Lücken (zum Beispiel: „Ich habe Anbieter X gekauft, aber jetzt weiß ich, dass ich Anbieter Y als Ergänzung brauche“).

Und zum anderen fallen die Vorteile auch auf den Anbieter zurück. Je mehr Anbieter ihre KI-Forschungsergebnisse und -Anwendungen veröffentlichen, desto mehr können sie aus ihren jeweiligen Fehlern lernen, ihre Stärken gegenseitig ergänzen, neue Testumgebungen schaffen, sich als glaubwürdig etablieren und Standards definieren, um die Funktion dieser Lösungen in der Produktion zu messen. Mehr Offenheit über KI im Sicherheitsbereich wird also die entsprechenden KI-Konzepte aller Anbieter erheblich stärken – und damit für Käufer attraktiver machen.

Cybersecurity darf kein intransparenter Markt sein

Diese engstirnige Denkweise muss ein Ende haben. Andernfalls wird unsere Branche zu einem intransparenten Markt werden, in dem die Produkte mit der geringsten Qualität Erfolg haben, weil ihre Entwicklung weniger kostet, was dem Ruf der Cybersecurity im Allgemeinen und dem von KI in der Cybersecurity im Besonderen schadet.

Kluge regulatorische Vorgaben könnten eine Option darstellen, um die Informationsstrategie der Anbieter bezüglich ihrer Lösungen und der Nutzung von KI in einheitliche Bahnen zu lenken. Eine weitere Option wäre dagegen, dass Unternehmen einfach proaktiv den Schritt der Öffnung gehen. Je offener die Anbieter sind, desto mehr werden sie andere Anbieter inspirieren, es ihnen gleichzutun und konkretere Angaben an die Käufer zu machen – dies würde gleichzeitig einen Anreiz für die Anbieter schaffen, neue Methoden zur Innovation von KI-Anwendungen in der Cybersecurity zu entwickeln.

Das ist es, was Sophos und unser Team aus SophosAI-Datenwissenschaftlern antreibt. Sophos ist im Bereich der Cybersecurity-KI mit einer Reihe von Initiativen aktiv, mit dem Ziel, die Community zu mehr Offenheit und weniger sinnlosem Hype zu bewegen. Dazu gehören auch Verpflichtungen zur Veröffentlichung wissenschaftlicher Artikel zu den in den Produkten eingesetzten KI-Systemen, die Bereitstellung breiter und hochwertiger Benchmarks für andere Forschungsgruppen aus dem privaten und akademischen Bereich sowie die Offenlegung der Quellen der Technologien für die allgemeine Forschungsgemeinschaft.

Über den Autor: Michael Veit ist Technology Evangelist bei Sophos.

(ID:47442898)