Ära hyper-personalisierter Cyber-Angriffe und Identitätsdiebstahl Deepfake-basierte, bösartige Digital Twins im Anmarsch

Anbieter zum Thema

TREND MICRO Deutschland GmbH

Fsas Technologies GmbH

FAST LTA GmbH

Trend Micro, Anbieter von Sicherheitssoftware, stellt seine Vorhersagen für das neue Jahr vor. Darin warnen die Experten vor hochgradig individualisierten, KI-gestützten Betrugs-, Phishing- und Beeinflussungskampagnen im Jahr 2025.

Der Trend Micro-Bericht „The Easy Way In/Out: Securing The Artificial Future“ zu den Prognosen für 2025 warnt insbesondere vor dem Potenzial von bösartigen „digitalen Zwillingen“. Dabei werden gestohlene oder geleakte persönliche Informationen verwendet, um ein Large Language Model (LLM) zu trainieren, welches das Wissen, die Persönlichkeit und den Schreibstil des Opfers nachahmt. In Kombination mit gefälschten Video- und Audiodateien sowie kompromittierten biometrischen Daten können solche LLMs missbraucht werden, um Identitäten vorzutäuschen und Freunde, Kollegen oder Familienmitglieder des Opfers in eine Betrugsfalle zu locken.

Deepfakes und KI können auch in großangelegten, hyperpersonalisierten Angriffen zum Einsatz kommen, um:

• Betrugsmaschen wie „Business Email Compromise“, „Business Process Compromise” und das Einschleusen falscher Mitarbeiter zu skalieren

• Opfer von „Pig Butchering“, also dem Online-Beziehungs- und Investitionsbetrug, gezielt zu identifizieren und anzusprechen, bevor eine menschliche Kontaktperson die Täuschung vertieft

• die Informationssammlung mittels Open Source Intelligence für Bedrohungsakteure zu erleichtern

• die Entwicklung von Fähigkeiten bei der Vorbereitung auf einen Cyber-Angriff zu verbessern und somit erfolgreichere Attacken zu erzielen

• authentisch wirkende Social-Media-Identitäten zu kreieren, die für Online-Betrug sowie zur Verbreitung von Fehl- und Desinformation eingesetzt werden.

Unternehmen, die in diesem Jahr verstärkt KI einsetzen, sollten folgende Bedrohungen im Auge behalten:

• Ausnutzung von Schwachstellen und Manipulation von KI-Agenten, um schädliche oder verbotene Aktionen durchzuführen

• Unbeabsichtigtes Leaken von Informationen aus Systemen für generative KI (Gen AI)

• Ressourcenverschwendung durch fehlerhafte oder missbräuchlich genutzte KI-Agenten, die zu Dienstunterbrechungen führen kann

Der Bericht hebt zudem weitere Bereiche hervor, die im Jahr 2025 gefährdet sind. Dazu zählen:

Schwachstellen

• Fehler in der Speicherverwaltung sowie Speicherbeschädigungs-Bugs, Schwachstellenketten und Exploits, die auf APIs (Schnittstellen) abzielen

• Vermehrte Container-Ausbrüche

• Ältere Schwachstellen wie Cross-Site Scripting (XSS) und SQL-Injections

• Die Möglichkeit, dass eine einzelne Schwachstelle in einem weit verbreiteten System mehrere Modelle und Hersteller betrifft, beispielsweise in vernetzten Fahrzeugen

Ransomware

Bedrohungsakteure entwickeln zunehmend Strategien, um EDR-Tools (Endpoint Detection & Response) zu umgehen, etwa durch:

• Kill Chains, die Umgebungen nutzen, in denen meist keine EDR-Tools installiert sind, zum Beispiel Cloud-Systeme oder mobile, Edge- und IoT-Geräte

• das Deaktivieren von Antivirus- / EDR-Systemen

• BYOVD-Techniken (Bring Your Own Vulnerable Driver)

• Verstecken von Shellcodes in unauffälligen Ladeprogrammen

• Umleitungen in Windows-Subsystemen, um die EDR/AV-Erkennung zu umgehen

• Im Ergebnis können sie damit schnellere Angriffe mit weniger Schritten durchführen, die schwerer zu erkennen sind.

(ID:50283682)