KI in der Cybersecurity

Künstliche Intelligenz – Freund oder Feind?

| Autor / Redakteur: Stu Sjouwerman / Peter Schmitz

In den kommenden Jahren wird künstliche Intelligenz nicht nur in defensiven, sondern immer häufiger auch in angreifenden Rollen Verwendung finden.
In den kommenden Jahren wird künstliche Intelligenz nicht nur in defensiven, sondern immer häufiger auch in angreifenden Rollen Verwendung finden. (Bild: gemeinfrei / Pixabay)

Durch Algorithmen können Maschinen aus Erfahrung lernen und sich an neue Situationen anpassen, indem sie große Datenmengen verarbeiten. Dabei erkennen sie Muster in den Daten und können so menschenähnliche Aufgaben erfüllen. Phishing-Angriffe, die auf künstlicher Intelligenz basieren, können so zu einer strategischen Waffe in den Händen von Cyberkriminellen werden.

Mit der Verbreitung der künstlichen Intelligenz (KI), die die digitale Welt immer stärker prägt, werden Kriminelle versuchen, KI-Phishing Angriffe häufiger auszuführen. Die KI ist eine massive Bedrohung im Bereich Cyber-Sicherheit, da sie dazu verwendet werden kann, hoch individualisierte Phishing-Angriffe in großem Maßstab durchzuführen. Dies bedeutet, dass Malware oder Ransomware beispielsweise auf einmal an Millionen von Menschen weltweit leicht verschickt werden können und unentdeckt bleiben.

In der Regel führen Phishing-KIs normale Standard-Phishing-Aufgaben wie Imitation und Monitoring durch: KI-Chatbots könnten Benutzer dazu verleiten, auf bösartige Links zu klicken oder werden dafür verwendet, das Verhalten von Führungskräften für ein präziseres, effektiveres und automatisiertes Spear-Phishing zu überwachen.

Mit KI die Gefahr im Unbekannten aufspüren

Podcast zu Künstlicher Intelligenz (KI)

Mit KI die Gefahr im Unbekannten aufspüren

16.05.19 - Artificial Intelligence (AI) kann dabei helfen, auch neuartige Risiken in Echtzeit zu bewerten und noch unbekannte Attacken abzuwehren. Auf der AI Innovation Night in München sprach Oliver Schonschek, Insider Research, mit Matthias Canisius, Regional Director CEE bei SentinelOne, über die Chancen von AI für die Security. lesen

Gunter Ollmann, CSO (Cloud and AI Security Division) bei Microsoft, erwartet, dass in den nächsten zwei bis drei Jahren die ersten Beispiele für KI-basierte Malware auftauchen werden. Ollmann identifiziert 6 verschiedene Arten von KI-Malware, die relativ einfach zu entwickeln sein sollten:

  • 1. Automatisierte Kompromittierung von Systemen und Netzwerken, die keine häufige Kommunikation zwischen der Malware und dem Command and Control (C&C)-Server des Angreifers erfordert.
  • 2. Identifizierung der wertvollsten Daten auf kompromittierten Systemen durch Datenkennzeichnung und -klassifizierung, wozu auch Machine Learning (ML) gehört.
  • 3. Einsatz eines Gesprächs zur Teilnahme an E-Mail- und Chat-Kommunikation auf kompromittierten Geräten während der Maskierung als Zielbenutzer, um Mitarbeiter mit Social Engineering zu qualifizieren.
  • 4. Verwendung von KI-gesteuerter Sprache zur Textübersetzung, um wertvolle Informationen aus dem System aufzunehmen, die mit dem Mikrofon einer kompromittierten Maschine aufgenommen werden können.
  • 5. Verwendung von eingebetteter kognitiver KI, um verschiedene Merkmale von potentiellen Opfern zu bestimmen und Payloads einzusetzen, wenn die „Opfer“ bestimmte Kriterien erfüllen.
  • 6. Erstellung eines "Bio-Profils", der Benutzer basierend auf ihren Verhaltensmerkmalen, um fortschrittliche Verhaltensüberwachungssysteme zu umgehen.

Laut Ollman sind diese Arten von KI bereits kommerziell verfügbar und jede kann als ein Code in bösartige Payloads eingebettet werden. Bei der enormen Menge an Daten, die bei Datenschutzverletzungen gestohlen wurden und sehr persönliche Informationen enthalten, ist es nicht schwer, diese in E-Mails zu integrieren, die sie als sehr vertrauenswürdig und völlig legitim erscheinen lassen. Darüber hinaus wird jeder zum Ziel, da Kriminelle zunehmend daran interessiert sind, ausgeklügelte Ansätze wie KI zu verwenden. Sowohl Menschen im Privaten, wie auch kleine und große Unternehmen werden ins Visier genommen. Einige Branchen könnten stärker betroffen sein: kritische Infrastrukturen wie das Gesundheitswesen, Banken und Finanzen, die Wasser- und Energieversorgung und die Telekommunikation wären sicherlich Ziele für KI-basierte Phishing-Angriffe.

Was bringt KI für die Cyber Security?

Neues eBook „Künstliche Intelligenz und Sicherheit“

Was bringt KI für die Cyber Security?

27.02.18 - Kaum eine Technologie beeinflusst gegenwärtig die Diskussion über Cyber Security so stark wie die Künstliche Intelligenz (KI). Doch wo kann KI der Security wirklich helfen? Nur in der Angriffserkennung und Abwehr? Stellt KI vielleicht sogar selbst ein IT-Sicherheitsrisiko dar? Das neue eBook gibt Antworten. lesen

Es ist sehr offensichtlich, dass KI eine gefährliche Bedrohung darstellt, aber wenn die Münze umgedreht wird, merkt man, dass die KI wie jede andere mächtige Waffe im Guten wie auch im Schlechten eingesetzt werden kann. Im Rahmen der Cyber-Sicherheit durchsuchen Algorithmen des maschinellen Lernens große Datenmengen nach Mustern von früheren Phishing-Angriffen. Sie werden dann darauf reagieren, wenn sie Abweichungen finden. Die KI kann abnormale Aktivitäten erkennen, wenn ein Konto gefährdet ist und eine E-Mail, die sich in der ersten Phase des Angriffs befindet, automatisch als Spear-Phishing klassifizieren. Das höhere Verarbeitungsniveau, welches die KI anbietet, wird ein verbessertes Vorhersagemodell ermöglichen, das nicht nur Angriffe identifiziert, bevor sie auftreten, sondern auch einen schnellen, lokalisierten Schutz in Netzwerken und Systemen verfügbar macht. Einige Unternehmen setzen bereits diese Technologie ein, um sich gegen mögliche große und schädliche (KI) Angriffe abzusichern.

Google zum Beispiel nutzt bereits maschinelles Lernen, um Spam zu blockieren und Phishing zu erkennen. Etwa 1,5 Milliarden Menschen nutzen jeden Monat den Google Gmail-Service, darunter ca. 5 Millionen Unternehmen, die den Gmail als Teil der G-Suite verwenden. Googles Open-Source-Framework für maschinelles Lernen, TensorFlow, ist ein fortgeschrittener integrierter Schutzdienst und hilft den Unternehmen, Spam-Kategorien zu blockieren, die bisher sehr schwer zu erkennen waren. Das System scannt eingehende E-Mails auf bildbasierte Nachrichten, E-Mails mit versteckten eingebetteten Inhalten sowie Nachrichten aus neuen Domänen, die blockiert werden können, wenn sie versuchen, Spam innerhalb des legitimen Datenverkehrs zu verstecken. Laut Google werden täglich rund 100 Millionen Spam-Nachrichten daran gehindert, in die Posteingänge von Gmail-Nutzern einzufließen.

Die Sicherheitsautomatisierung ist besonders vorteilhaft, um Bedrohungen mit geringem Risiko zu bewältigen, sie allein kann aber nicht für die Sicherheit eines ganzen Unternehmens verantwortlich sein. Das KI-System von Google blockiert tatsächlich nur eine extra Spam-E-Mail pro 10 Benutzer, was eigentlich nicht viel ist. Dies zeigt deutlich, dass keine Technologie in der Lage sein wird, Phishing vollständig zu verhindern. Die Branche hat sich nicht schnell genug entwickelt, dass Unternehmen sich ausschließlich auf KI verlassen sollten. Die KI führt bestimmte Aufgaben aus und sie basiert auf bestimmten Bedingungen. Wenn sich die Aufgaben nur geringfügig ändern, scheitert das gesamte System, was wiederum eine Sicherheitslücke im Netzwerk verursachen kann. Grundsätzlich hat die KI ihre eigene Logik - sie verfügt nicht über die nötige Präzision und Entscheidungsfreiheit, um letztlich komplexere menschliche Analysen zu übernehmen.

Security reloaded: Die Ära der Künstlichen Intelligenz

IT-SECURITY Management & Technology ­Conference 2019

Security reloaded: Die Ära der Künstlichen Intelligenz

01.05.19 - In Verbindung mit dem Internet-of-Things entsteht durch Künstliche Intelligenz (KI) ein ganz neues Gefahrenpotenzial. Die IT-Security Management & Technology ­Conference 2019 nimmt die neuen Herausforderungen unter die Lupe. lesen

Ein entscheidendes Element in der Cyber-Sicherheit ist die kontinuierliche Schulung der Benutzer, da Hacker immer kreativer werden, wenn es darum geht, Menschen zu manipulieren. Mitarbeiter müssen sich wirklich bewusst sein, dass jede E-Mail in ihrem Posteingang ein potenzieller Betrug sein könnte. User sollten ein gesundes Maß an Skepsis haben, wenn sie E-Mails öffnen und lesen. Es gibt eine Reihe von Abweichungen, nach denen gesucht werden sollte, darunter generische Anreden, falsche Domainnamen, unbekannte Absender, Nachrichten mit übermäßiger Dringlichkeit und Anhänge mit ausführbaren Erweiterungen. Zum Training der Anwender gibt es gibt Security Awareness Programme, die mittels simulierter Phishing-Angriffe, die Mitarbeiter wachsam halten und auf ähnliche Angriffe vorbereiten.

Fazit

In den kommenden Jahren wird KI sowohl in defensiven als auch in angreifenden Rollen verwendet werden. Raffinierte Angriffe werden sich schneller entwickeln, aber gleichzeitig werden auch Sicherheitsexperten einen besseren Einblick, Erkenntnisse und Szenarien für die Schutzplanung haben, was zu schnelleren Ergebnissen führen sollte. Trotz des technologischen Fortschritts müssen sich Unternehmen nicht nur auf Maschinen verlassen, da diese genauso fehlerhaft sind wie die Menschen, die sie programmiert haben. Unternehmen müssen sich auf den Aufbau einer menschlichen Verteidigungslinie konzentrieren, um auf die sichere Seite zu sein.

Über den Autor: Stu Sjouwerman ist CEO bei KnowBe4.

Kommentare werden geladen....

Kommentar zu diesem Artikel

Der Kommentar wird durch einen Redakteur geprüft und in Kürze freigeschaltet.

Anonym mitdiskutieren oder einloggen Anmelden

Avatar
Zur Wahrung unserer Interessen speichern wir zusätzlich zu den o.g. Informationen die IP-Adresse. Dies dient ausschließlich dem Zweck, dass Sie als Urheber des Kommentars identifiziert werden können. Rechtliche Grundlage ist die Wahrung berechtigter Interessen gem. Art 6 Abs 1 lit. f) DSGVO.
  1. Avatar
    Avatar
    Bearbeitet von am
    Bearbeitet von am
    1. Avatar
      Avatar
      Bearbeitet von am
      Bearbeitet von am

Kommentare werden geladen....

Kommentar melden

Melden Sie diesen Kommentar, wenn dieser nicht den Richtlinien entspricht.

Kommentar Freigeben

Der untenstehende Text wird an den Kommentator gesendet, falls dieser eine Email-hinterlegt hat.

Freigabe entfernen

Der untenstehende Text wird an den Kommentator gesendet, falls dieser eine Email-hinterlegt hat.

copyright

Dieser Beitrag ist urheberrechtlich geschützt. Sie wollen ihn für Ihre Zwecke verwenden? Infos finden Sie unter www.mycontentfactory.de (ID: 45966477 / Monitoring und KI)