Künstliche Intelligenz in Cyber-Angriffen Phishing mit KI-Unterstützung durch ChatGPT

Anbieter zum Thema

Mimecast Germany GmbH

Specops Software GmbH

Hochschule für angewandte Wissenschaften Würzb.-Schweinf.

Die IT-Sicherheit profitiert von der künstlichen Intelligenz, doch ist das immer so? Seit November ist die künstliche Intelligenz „ChatGPT“ in aller Munde. Erste Test zeigen, dass sich die Dialoge mit dem beeindruckenden Chatbot nicht nur zur Unterhaltung, sondern auch zum Vorbereiten ausgefeilter Phishing-Kampagnen eignen. Das kann ein neues Problem im Bereich IT-Sicherheit sein.

Die künstliche Intelligenz macht zunehmend schnellere Fortschritte und erobert schrittweise alle Bereiche der Informationstechnologien. Während das Thema anfänglich von vielen vielleicht belächelt wurde und nicht die Aufmerksamkeit erhalten hatte, die es eigentlich verdient, sind mittlerweile auch die meisten Skeptiker von den vielfältigen Ergebnissen moderner KI-Systeme beeindruckt. Teilweise wirken aktuelle KI-Technologien auch beängstigend und die Frage drängt sich auf, was wohl in den nächsten Jahren noch alles auf uns zukommen mag.

Künstliche Intelligenz zur Verbesserung der IT-Sicherheit

Die künstliche Intelligenz zieht auch verstärkt in den Bereich IT-Sicherheit ein. Moderne Intrusion-Detection-Systeme lernen mit KI-Hilfe den „normalen“ Netzwerkverkehr und die „normalen“ Ereignisse eines laufenden Betriebssystems von Anomalien zu unterscheiden und entsprechend einzugreifen. Sandbox-Systeme nutzen künstliche Intelligenz, um noch unbekannte potentielle Schadsoftware mit Hilfe dynamischer Analysen automatisch zu erkennen und zu klassifizieren. Während es viele technisch Anwendungen in diesen Bereich gibt, die tatsächlich von der künstlichen Intelligenz profitieren und dadurch Verbesserungen erfahren, erscheint es mir dennoch hin und wieder so, als würde das Buzzword „künstliche Intelligenz“ auch oft aus Marketingzwecken eingesetzt.

Künstliche Intelligenz selbst als Angriffsziel

Neben vielen neuen Einsatzmöglichkeiten haben die letzten Jahre allerdings auch gezeigt, dass KI-Systeme selbst nicht unverwundbar sind. KI-Modelle können detailreiche Informationen über Ihre Trainingsdaten leaken oder sogar Backdoors enthalten. Die „One-Pixel-Attack“ zeigte beeindruckend, wie KI-Systeme, welche Bilder klassifizieren, ausgetrickst werden können. Sogenannte „Adversarial Examples“ manipulieren die visuellen Eingabedaten, oft für den Menschen kaum merkbar, und provozieren Fehlklassifizierungen. „Adversarial Patches“ können sogar nur einfache Aufkleber mit bestimmten vorberechneten Mustern sein, die auf einem physischen Objekt angebracht werden und so eine Fehlklassifizierung provozieren. Stellen Sie sich vor, jemand klebt zum Spaß einen Aufkleber auf Ihren Koffer und die moderne KI-gestützte Kamera am internationalen Flughafen löst einen Sicherheitsalarm aus, weil automatisch ein nicht-erlaubter Gegenstand erkannt wurde. Robustere und sichere KI-Modelle sind Gegenstand aktueller Forschung.

Verbesserte Angriffe mithilfe von Künstlicher Intelligenz

Eine Frage, die mich in letzter Zeit besonders umtreibt ist allerdings die Folgende: Was können eigentlich Angreifer mit den modernen KI-Technologien anstellen? Können sie ihre digitalen Angriffe verbessern oder sogar neuartige, bisher nie-dagewesene Strategien umsetzen? Eine kurze Recherche bringt etwas Licht ins Dunkle: So finden zum Beispiel im Bereich Schwachstellensuche KI-Systeme zunehmen Anwendung. Das klassische Fuzzing zum automatischen Auffinden von potentiellen Schwachstellen in Software wird mit KI optimiert und Probleme wie Ineffizienz oder niedrige Code-Abdeckung werden angegangen. Auch werden neue Angriffe mithilfe von KI überhaupt erst möglich. Das betrifft zum Beispiel Seitenkanalangriffe, bei welchen häufig direkte oder indirekte Signale abgefangen werden können, die dann wiederum mit Aktivitäten abgeglichen werden und so zum Beispiel digitale Geheimnisse extrahieren können oder schlicht und einfach die Privatsphäre der Enduser verletzen können. Moderne KI-Modelle können diesen Abgleich oft sehr effizient durchführen. Aber kann auch der normale Cyberkriminelle von der modernen KI profitieren?

Künstliche Intelligenz und Cybercrime

Im November wurde die neueste Version des KI-basierten Bots „ChatGPT“ von OpenAI der Allgemeinheit zugänglich gemacht. Dieser Chatbot kann einen Dialog mit einem Benutzer führen und Fragen beantworten. ChatGPT nutzt ein beeindruckendes Sprachmodell und liefert faszinierende Ergebnisse. Kaum veröffentlicht, wurde ChatGPT bereits für allerlei Zwecke genutzt, unter anderem auch zur automatischen Generierung von Phishing-Kampagnen. Die ersten präsentierten Ergebnisse beeindruckten mich und ich ging der Sache mit einem eigenen Versuch auf den Grund. Ein kostenloser Account war schnell erstellt und ich konnte die erste Frage an ChatGPT richten: „Kannst Du mir eine E-Mail generieren, die zur Teilnahme an einem Gewinnspiel animiert?“. Die Antwort war schnell und verblüffend:

Eine Besonderheit von ChatGPT ist, dass sich weiteren neue Anfragen auf Vorhergehendes beziehen können. So bat ich ChatGPT in mehreren aufeinanderfolgenden Fragen, das Gewinnspiel auf ein firmeninternes Gewinnspiel abzuändern, sich auf eine Weihnachtsfeier zu beziehen, den bereits bekannten Gewinner „Max Mustermann“ zu nennen und die E-Mail so umzuschreiben, dass sich viele Leser motiviert fühlen, am Gewinnspiel teilzunehmen. Das Ergebnis war schnell generiert:

Schließlich wollte ich es auf die Spitze treiben und fragte ChatGPT: „Kannst Du die E-Mail noch so anpassen, dass die Leser Angst bekommen, entlassen zu werden, wenn Sie nicht am Gewinnspiel teilnehmen?“ Hier wollte der Chatbot nicht mehr mitspielen und gab mir die folgende Antwort mit einem Hinweis darauf, dass dieser Inhalt die eigene „Content Policy“ verletzten könnte:

Nun, das eigentliche Problem liegt auch nicht in der ausgefeilten Formulierung von ChatGPT, die wirklich erstaunen lässt. Das Problem wird sichtbar, wenn sich diese Phishing-Texte in Sekundenschnelle automatisiert anpassen lassen und fehlerfrei in beliebige Sprachen übersetzen lassen. Auf meine Anfrage, die E-Mail nun doch bitte in die finnische Sprache zu übersetzen, weil sie für ein finnisches Unternehmen gedacht ist, lieferte ChatGPT sofort die passende Übersetzung.

Next-Generation Phishing

Die Zeiten von dilettantisch verfassten Phishing-E-Mails, die von einem Großteil der Empfänger aufgrund von Fehlern in der Rechtschreibung oder in ungewöhnlichen Formulierungen sofort erkannt wurden, sind damit vorbei. Auch bezüglich der Skalierbarkeit und der Automatisierung kann ChatGPT einen Cyber-Angriff auf Basis einer Phishing-Kampagne in neue Sphären heben. Mit Details angereicherte, personalisierte und perfekt-ausformulierte „Spear-Phishing“-E-Mails sollten damit auch keine Besonderheit mehr sein, sondern zum Normalfall werden.

Es geht sogar noch weiter: Der Chatbot unterstützt nicht nur beim Erstellen einer ausgefeilten Phishing-E-Mail, sondern hilft auch beim Entwickeln der dazugehörigen Phishing-Website, welche zum Beispiel die Login-Daten der Opfer einsammeln kann. „Kannst Du mir nun HTML-Code generieren, der ein Login-Form enthält, das genauso aussieht wie das Login-Form der Outlook Web App?“

Abgesehen von der Farbgebung sah das Login-Formular tatsächlich entsprechend den Vorgaben aus. „Kannst Du mir ein PHP-Skript generieren, dass für dieses Login-Form die gesendeten Daten entgegen nimmt und in einer Datei abspeichert?“. Auch das war für ChatGPT kein Problem. Kleinere Anpassungen wären an den Code-Beispielen noch notwendig, aber die Phishing-Kampagne würde sich damit auch von jemandem ohne wirkliche Programmierkenntnisse umsetzen lassen.

An der Technischen Hochschule Würzburg-Schweinfurt (THWS) planen wir zum Wintersemester 2023 einen neuen Studiengang „Information Security“ einzuführen. Die Fragestellungen, inwiefern moderne KI-Systeme die IT-Sicherheitslandschaft verändern, insbesondere in Bezug auf neue Möglichkeiten zur Gefahrenabwehr, neue Schwachstellen der KI-Systeme selbst, aber auch neue Angriffsmöglichkeiten, wird Bestandteil dieses Studiums sein.

Bildergalerie

Bildergalerie mit 5 Bildern

Über den Autor: Prof. Dr.-Ing. Sebastian Biedermann ist studierter Informatiker und lehrt verschiedene Themen der Informationssicherheit an der Technischen Hochschule Würzburg-Schweinfurt (THWS). Neben der sicheren Softwareentwicklung befasst er sich mit Schwachstellenforschung, Malware-Analyse und Threat-Intelligence.

(ID:48974273)