KI in der Cybersecurity Künstliche Intelligenz – Freund oder Feind?

Durch Algorithmen können Maschinen aus Erfahrung lernen und sich an neue Situationen anpassen, indem sie große Datenmengen verarbeiten. Dabei erkennen sie Muster in den Daten und können so menschenähnliche Aufgaben erfüllen. Phishing-Angriffe, die auf künstlicher Intelligenz basieren, können so zu einer strategischen Waffe in den Händen von Cyberkriminellen werden.

Anbieter zum Thema

Arvato Systems

SEPPmail - Deutschland GmbH

SoSafe GmbH

Mit der Verbreitung der künstlichen Intelligenz (KI), die die digitale Welt immer stärker prägt, werden Kriminelle versuchen, KI-Phishing Angriffe häufiger auszuführen. Die KI ist eine massive Bedrohung im Bereich Cyber-Sicherheit, da sie dazu verwendet werden kann, hoch individualisierte Phishing-Angriffe in großem Maßstab durchzuführen. Dies bedeutet, dass Malware oder Ransomware beispielsweise auf einmal an Millionen von Menschen weltweit leicht verschickt werden können und unentdeckt bleiben.

In der Regel führen Phishing-KIs normale Standard-Phishing-Aufgaben wie Imitation und Monitoring durch: KI-Chatbots könnten Benutzer dazu verleiten, auf bösartige Links zu klicken oder werden dafür verwendet, das Verhalten von Führungskräften für ein präziseres, effektiveres und automatisiertes Spear-Phishing zu überwachen.

#gesponsert

Podcast zu Künstlicher Intelligenz (KI)

Mit KI die Gefahr im Unbekannten aufspüren

Gunter Ollmann, CSO (Cloud and AI Security Division) bei Microsoft, erwartet, dass in den nächsten zwei bis drei Jahren die ersten Beispiele für KI-basierte Malware auftauchen werden. Ollmann identifiziert 6 verschiedene Arten von KI-Malware, die relativ einfach zu entwickeln sein sollten:

• 1. Automatisierte Kompromittierung von Systemen und Netzwerken, die keine häufige Kommunikation zwischen der Malware und dem Command and Control (C&C)-Server des Angreifers erfordert.

• 2. Identifizierung der wertvollsten Daten auf kompromittierten Systemen durch Datenkennzeichnung und -klassifizierung, wozu auch Machine Learning (ML) gehört.

• 3. Einsatz eines Gesprächs zur Teilnahme an E-Mail- und Chat-Kommunikation auf kompromittierten Geräten während der Maskierung als Zielbenutzer, um Mitarbeiter mit Social Engineering zu qualifizieren.

• 4. Verwendung von KI-gesteuerter Sprache zur Textübersetzung, um wertvolle Informationen aus dem System aufzunehmen, die mit dem Mikrofon einer kompromittierten Maschine aufgenommen werden können.

• 5. Verwendung von eingebetteter kognitiver KI, um verschiedene Merkmale von potentiellen Opfern zu bestimmen und Payloads einzusetzen, wenn die „Opfer“ bestimmte Kriterien erfüllen.

• 6. Erstellung eines "Bio-Profils", der Benutzer basierend auf ihren Verhaltensmerkmalen, um fortschrittliche Verhaltensüberwachungssysteme zu umgehen.

Laut Ollman sind diese Arten von KI bereits kommerziell verfügbar und jede kann als ein Code in bösartige Payloads eingebettet werden. Bei der enormen Menge an Daten, die bei Datenschutzverletzungen gestohlen wurden und sehr persönliche Informationen enthalten, ist es nicht schwer, diese in E-Mails zu integrieren, die sie als sehr vertrauenswürdig und völlig legitim erscheinen lassen. Darüber hinaus wird jeder zum Ziel, da Kriminelle zunehmend daran interessiert sind, ausgeklügelte Ansätze wie KI zu verwenden. Sowohl Menschen im Privaten, wie auch kleine und große Unternehmen werden ins Visier genommen. Einige Branchen könnten stärker betroffen sein: kritische Infrastrukturen wie das Gesundheitswesen, Banken und Finanzen, die Wasser- und Energieversorgung und die Telekommunikation wären sicherlich Ziele für KI-basierte Phishing-Angriffe.

Neues eBook „Künstliche Intelligenz und Sicherheit“

Was bringt KI für die Cyber Security?

Es ist sehr offensichtlich, dass KI eine gefährliche Bedrohung darstellt, aber wenn die Münze umgedreht wird, merkt man, dass die KI wie jede andere mächtige Waffe im Guten wie auch im Schlechten eingesetzt werden kann. Im Rahmen der Cyber-Sicherheit durchsuchen Algorithmen des maschinellen Lernens große Datenmengen nach Mustern von früheren Phishing-Angriffen. Sie werden dann darauf reagieren, wenn sie Abweichungen finden. Die KI kann abnormale Aktivitäten erkennen, wenn ein Konto gefährdet ist und eine E-Mail, die sich in der ersten Phase des Angriffs befindet, automatisch als Spear-Phishing klassifizieren. Das höhere Verarbeitungsniveau, welches die KI anbietet, wird ein verbessertes Vorhersagemodell ermöglichen, das nicht nur Angriffe identifiziert, bevor sie auftreten, sondern auch einen schnellen, lokalisierten Schutz in Netzwerken und Systemen verfügbar macht. Einige Unternehmen setzen bereits diese Technologie ein, um sich gegen mögliche große und schädliche (KI) Angriffe abzusichern.

Google zum Beispiel nutzt bereits maschinelles Lernen, um Spam zu blockieren und Phishing zu erkennen. Etwa 1,5 Milliarden Menschen nutzen jeden Monat den Google Gmail-Service, darunter ca. 5 Millionen Unternehmen, die den Gmail als Teil der G-Suite verwenden. Googles Open-Source-Framework für maschinelles Lernen, TensorFlow, ist ein fortgeschrittener integrierter Schutzdienst und hilft den Unternehmen, Spam-Kategorien zu blockieren, die bisher sehr schwer zu erkennen waren. Das System scannt eingehende E-Mails auf bildbasierte Nachrichten, E-Mails mit versteckten eingebetteten Inhalten sowie Nachrichten aus neuen Domänen, die blockiert werden können, wenn sie versuchen, Spam innerhalb des legitimen Datenverkehrs zu verstecken. Laut Google werden täglich rund 100 Millionen Spam-Nachrichten daran gehindert, in die Posteingänge von Gmail-Nutzern einzufließen.

Die Sicherheitsautomatisierung ist besonders vorteilhaft, um Bedrohungen mit geringem Risiko zu bewältigen, sie allein kann aber nicht für die Sicherheit eines ganzen Unternehmens verantwortlich sein. Das KI-System von Google blockiert tatsächlich nur eine extra Spam-E-Mail pro 10 Benutzer, was eigentlich nicht viel ist. Dies zeigt deutlich, dass keine Technologie in der Lage sein wird, Phishing vollständig zu verhindern. Die Branche hat sich nicht schnell genug entwickelt, dass Unternehmen sich ausschließlich auf KI verlassen sollten. Die KI führt bestimmte Aufgaben aus und sie basiert auf bestimmten Bedingungen. Wenn sich die Aufgaben nur geringfügig ändern, scheitert das gesamte System, was wiederum eine Sicherheitslücke im Netzwerk verursachen kann. Grundsätzlich hat die KI ihre eigene Logik - sie verfügt nicht über die nötige Präzision und Entscheidungsfreiheit, um letztlich komplexere menschliche Analysen zu übernehmen.

IT-SECURITY Management & Technology ­Conference 2019

Security reloaded: Die Ära der Künstlichen Intelligenz

Ein entscheidendes Element in der Cyber-Sicherheit ist die kontinuierliche Schulung der Benutzer, da Hacker immer kreativer werden, wenn es darum geht, Menschen zu manipulieren. Mitarbeiter müssen sich wirklich bewusst sein, dass jede E-Mail in ihrem Posteingang ein potenzieller Betrug sein könnte. User sollten ein gesundes Maß an Skepsis haben, wenn sie E-Mails öffnen und lesen. Es gibt eine Reihe von Abweichungen, nach denen gesucht werden sollte, darunter generische Anreden, falsche Domainnamen, unbekannte Absender, Nachrichten mit übermäßiger Dringlichkeit und Anhänge mit ausführbaren Erweiterungen. Zum Training der Anwender gibt es gibt Security Awareness Programme, die mittels simulierter Phishing-Angriffe, die Mitarbeiter wachsam halten und auf ähnliche Angriffe vorbereiten.

Fazit

In den kommenden Jahren wird KI sowohl in defensiven als auch in angreifenden Rollen verwendet werden. Raffinierte Angriffe werden sich schneller entwickeln, aber gleichzeitig werden auch Sicherheitsexperten einen besseren Einblick, Erkenntnisse und Szenarien für die Schutzplanung haben, was zu schnelleren Ergebnissen führen sollte. Trotz des technologischen Fortschritts müssen sich Unternehmen nicht nur auf Maschinen verlassen, da diese genauso fehlerhaft sind wie die Menschen, die sie programmiert haben. Unternehmen müssen sich auf den Aufbau einer menschlichen Verteidigungslinie konzentrieren, um auf die sichere Seite zu sein.

Über den Autor: Stu Sjouwerman ist CEO bei KnowBe4.

(ID:45966477)