KI-gestützte Cyberbedrohungen Wie Kriminelle Künstliche Intelligenz für Angriffe nutzen

Anbieter zum Thema

Fsas Technologies GmbH

SEPPmail - Deutschland GmbH

FTAPI Software GmbH

Künstliche Intelligenz bringt nicht nur Vorteile für Organisationen und Nutzer mit sich. Cyberkriminelle können mithilfe von KI-Technologien leichter in Unternehmenssysteme eindringen, Daten stehlen und Schaden verursachen.

In der Welt der Cyberkriminalität haben KI-Technologien in den letzten Monaten für erhebliche Veränderungen gesorgt. Von der BlueVoyant-Plattform gesammelte Bedrohungsdaten zeigen, dass Angreifer zunehmend moderne (und oft auf KI basierende) Technologien nutzen, um bösartigen Code zu schreiben und äußerst überzeugende Phishing-E-Mails zu erstellen. In naher Zukunft können wir die Entstehung und Verbreitung von KI-gestützter Malware, zunehmend akkurater Dokumentenfälschung und Desinformations­kampagnen erwarten. Ein wichtiges Thema in diesem Jahr ist der Aufschwung der KI in allen Bereichen. Unternehmen in fast jeder Branche versuchen, KI für ihre eigenen Zwecke zu nutzen, und auch in der Cyberkriminalität wird KI zu einem integralen Bestandteil der Taktiken von Angreifern. Es ist unerlässlich, ein Bewusstsein dafür zu schaffen, wofür Bedrohungsakteure diese neuen Technologien verwenden können, denn nur so ist es möglich, sich effektiver gegen die neuen Gefahren verteidigen zu können. Aus diesem Grund sollen im Folgenden einige der viel diskutierten negativen Seiten und Sorgen in Bezug auf den Einsatz von KI im Cyberraum beleuchtet werden.

Neue Serie: KI in der IT-Sicherheit

So funktionieren Large Language Models (LLMs)

Verkauf von bei KI-Diensten verwendeten Nutzerdaten

Gestohlene Zugangsdaten für ChatGPT werden im Darknet genauso gehandelt wie Zugangsdaten für andere Online-Dienste. Dazu verwenden Cyberkriminelle Software zum Informationsdiebstahl, um sensible Daten von ungeschützten Geräten zu erhalten. Eine solche Software kann zum Beispiel leicht eingesetzt werden, wenn Benutzer eine ältere Version des Betriebssystems verwenden oder den automatischen Schutz auf ihrem Gerät deaktiviert haben. Viele Benutzer registrieren sich bei dem Anbieter OpenAI mit ihrer Firmen-E-Mail-Adresse. Die Threat Intelligence der BlueVoyant-Plattform zeigt, dass diese Zugangsdaten im Darknet zu einem leicht höheren Preis gehandelt werden als Daten von privaten E-Mail-Adressen, was angesichts der zu erwartenden Beute natürlich Sinn macht – gelingt es einem Hacker in ein Firmennetzwerk einzudringen, können wertvolle Daten gestohlen und hohe Lösegelder verlangt werden.

Einsatz von WormGPT und anderen Open-Source KI-Tools

Obwohl bei der Entwicklung von ChatGPT Vorkehrungen getroffen wurden, um den Einsatz des Dienstes für illegale Aktivitäten zu verhindern, gibt es andere KI-Tools, die solche Einschränkungen nicht haben. WormGPT zum Beispiel ist ein Dienst, der den Entwicklern zufolge die Arbeit von Sicherheitsexperten unterstützen soll. Die Software ermöglicht ihnen, Malware zu testen, die mit einem solchen Tool erstellt werden kann, um sich effektiver dagegen zu verteidigen. Laut der Website unterstützen oder empfehlen die Entwickler die Verwendung des Tools nicht zur Begehung von Straftaten. Tatsache ist jedoch, dass WormGPT durchaus auch für illegale Aktivitäten verwendet werden kann. Darüber hinaus hat die Threat Intelligence unserer Plattform ergeben, dass eine Variante erstellt wurde, die explizit für den kriminellen Einsatz geschaffen wurde und als Abonnement im Dark Web erhältlich ist. Damit lässt sich bösartiger Code in verschiedenen Programmiersprachen schreiben, um Cookies oder andere nützliche Informationen von ahnungslosen Benutzergeräten zu stehlen. WormGPT kann auch als ein Werkzeug zur Durchführung von Phishing-Kampagnen genutzt werden. Angreifer können mithilfe des Dienstes sehr überzeugende E-Mails mit authentisch wirkenden Formulierungen verfassen, wodurch es schwieriger für potenzielle Opfer wird, einen Betrugsversuch zu erkennen. Außerdem kann das Tool dazu verwendet werden, legitime Dienste ausfindig zu machen, die für illegale Aktivitäten genutzt werden können. Ein Beispiel dafür sind SMS-Dienste, die auch für Phishing-Kampagnen verwendet werden können.

KI in der IT-Sicherheit

BurpGPT hilft bei Penetrationstests

„Smart Malware“ und Fälschungen sind im Kommen

Alles deutet darauf hin, dass sich in naher Zukunft weitere Trends im Cyberspace abzeichnen werden, da die KI mit der Zeit immer fortschrittlicher wird. Es ist davon auszugehen, dass neue Technologien es Cyberkriminellen ermöglichen werden, durch KI unterstützte Malware zu erstellen, um sensible Daten zu stehlen und Antivirensoftware zu umgehen. Derartige „smarte“ Malware kann dann – zumindest in der Theorie – selbstständig handeln und intelligente Entscheidungen treffen. Das führt dazu, dass die Kommunikation mit ihr reduziert wird und die Angreifer sich besser verstecken und einer Enttarnung entgehen können. Auch bei der Fälschung von Dokumenten können Cyberkriminelle auf KI zurückgreifen. Da immer häufiger Online-Transaktionen unter Vorlage von Fotos von Ausweisdokumenten durchgeführt werden, wird der Prozess der Dokumentenüberprüfung immer wichtiger. Fortgeschrittene Tools, die KI nutzen, machen es Kriminellen leichter, Dokumente zu fälschen, welche dann in der Lage sind Internetfilter zu umgehen und so für illegale Zwecke genutzt werden können. Beispielsweise können Angreifer leicht ein Bankkonto mit gefälschten Dokumenten eröffnen und das erhaltene Geld für kriminelle Aktivitäten nutzen. Wie bei Phishing-Angriffen können auch Desinformationskampagnen von einem System profitieren, das künstliche Intelligenz gut einsetzen kann. KI-Tools unterstützen bösartige Akteure dabei, überzeugende Falschinformationen in verschiedenen Sprachen zu verbreiten.

Best Practices für den Schutz von Unternehmen und Nutzern

Angesichts der sich ständig weiterentwickelnden KI-Bedrohungen ist es sowohl für Privatpersonen als auch für Unternehmen von entscheidender Bedeutung, ihre Abwehrmaßnahmen zu verstärken. Nutzer müssen sicherstellen, dass sie ihre Software regelmäßig aktualisieren, um sich vor bekannten Schwachstellen zu schützen. Ein weiterer proaktiver Schritt ist die Einführung starker Passwörter für jeden Dienst. Die Verwendung einer Zwei-Faktor-Authentifizierung, die eine zusätzliche Sicherheitsebene bietet, wird ebenfalls immer wichtiger. Über diese Maßnahmen hinaus ist es von Vorteil, sich stets über die neuesten Arten von Online-Betrugsversuchen zu informieren. Für Unternehmen spielt das Vermitteln von aktuellem Cybersecurity-Wissen an ihre Mitarbeiter eine wesentliche Rolle. Da Cyberkriminelle KI für schädliche Zwecke nutzen, sollten Unternehmen außerdem durch die Integration von KI-gesteuerten Schutztools gegensteuern. Der Grundsatz des Zero Trust, also keinem Benutzer oder Gerät ohne gründliche Überprüfung zu vertrauen, wird zu einem grundlegenden Ansatz für die Unternehmenssicherheit. Angesichts des wachsenden Risikos ausgeklügelter Dokumentenfälschungen sollten Unternehmen auch fortschrittliche Überprüfungsmechanismen einsetzen.

Was künstliche Intelligenz für die Zukunft bringt

KI und IT-Sicherheit – Partner oder Feinde?

KI wird den Menschen nicht ersetzen

Eine weitverbreitete Sorge in verschiedenen Branchen hinsichtlich künstlicher Intelligenz ist, dass menschliche Arbeit überflüssig wird. In der Cyberkriminalität sind solche Befürchtungen nach Ansicht der Experten noch nicht aufgekommen. Im Gegenteil: Der IT-Fachkräftemangel hat sich verschärft und die Nachfrage nach Fachleuten, die sich mit generativer KI beschäftigen und die Bereitschaft haben, ihre Fachkenntnisse zur Bekämpfung illegaler Aktivitäten einzusetzen, deutlich erhöht. Da Unternehmen auf der ganzen Welt weiterhin KI-Tools in ihre Arbeitsabläufe integrieren, wird auch die „dunkle Seite" der KI einen Aktivitätsanstieg verzeichnen. Sicherheitsteams müssen sich auf den kommenden Anstieg von KI-getriebenen Cyberbedrohungen vorbereiten. Dabei kann es sich um fortgeschrittene Phishing-Angriffe, Malware oder groß angelegten Passwort-Diebstahl handeln. Auf diese Weise kann KI die Nachfrage nach Cybersicherheitsexperten erhöhen.

Abschließend gilt es zu bedenken, dass KI zwar von Kriminellen missbraucht werden kann, aber gleichzeitig auch eine große Chance für eine Verbesserung der Sicherheit von Unternehmen darstellt. So ermöglichen KI-basierte Sicherheitslösungen beispielsweise das Korrelieren riesiger Datenmengen aus verschiedenen Quellen, um Netzwerke in der gesamten Lieferkette effektiver zu schützen. Genauso kann KI eingesetzt werden, um die Reaktion auf Vorfälle und die Einschätzung von Bedrohungen durch Managed Security Provider zu beschleunigen und zu präzisieren. Fest steht: KI wird in sehr vielen Bereichen Einsatz finden. Die Technologie ist ein mächtiges Werkzeug und kann - im Falle kriminellen Missbrauchs - Schaden anrichten, aber andererseits ist KI auch der Schlüssel dazu, die Arbeit von Sicherheitsexperten effektiv zu unterstützen und zu optimieren.

Über den Autor: Andy Fourie ist VP of Sales EMEA bei BlueVoyant.

(ID:50147271)