Definition DarkBart Was ist DarkBart?

DarkBart ist ein Chatbot mit Künstlicher Intelligenz für Cyberkriminelle. Er orientiert sich, was seine grundlegenden Fähigkeiten angeht, angeblich am Vorbild des Google Chatbots Bard (mittlerweile in Gemini umbenannt), lässt sich aber im Gegensatz zu seinem Vorbild für kriminelle Aktivitäten einsetzen.

DarkBart ist der Name eines bösartigen Chatbots. Er basiert auf einem großen Sprachmodell mit Künstlicher Intelligenz und lässt sich für cyberkriminelle Aktivitäten wie das Erstellen und Durchführen von Phishing- und Social-Engineering-Kampagnen, Aufspüren und Ausnutzen von Schwachstellen oder Erstellen von bösartigem Programmcode einsetzen. Ein unter dem Pseudonym CanadianKingpin12 auftretende Person soll der Entwickler des bösartigen Chatbots sein.

Angeblich orientiert sich DarkBart, was die grundlegenden Fähigkeiten angeht, an Google Bard (inzwischen umbenannt in Google Gemini). Im Gegensatz zu Google Bard besitzt er aber keine Sicherheitsvorkehrungen oder ethische Grenzen und generiert bösartigen Output unterschiedlichster Art. Das ist der Grund, weshalb DarkBart teilweise als dunkle Version des Google-Chatbots Bard bezeichnet wird. Sprachmodelle und Chatbots für kriminelle Machenschaften zu entwickeln, bereitzustellen und einzusetzen ist in cyberkriminellen Kreisen ein Trend. So kursieren im Darknet und in einschlägigen Foren oder Telegram-Kanälen seit 2023 gleich mehrere bösartige Chatbot-Angebote wie WormGPT oder FraudGPT. Ihre Nutzung ist kostenpflichtig und, wie in cyberkriminellen Kreisen üblich, in Kryptowährungen zu bezahlen.

Die Fähigkeiten und Einsatzmöglichkeiten von DarkBart

Die grundlegenden sprachlichen Fähigkeiten von DarkBart sind mit denen öffentlich zugänglicher beziehungsweise kommerzieller, nicht krimineller Chatbots vergleichbar. Der bösartige Chatbot besitzt generative Fähigkeiten und kann sprachlich, grammatikalisch und orthografisch einwandfreie Texte generieren oder Fragen beantworten. Er versteht Programmcode in verschiedenen Programmiersprachen und ist in der Lage, selbst Programmcode zu schreiben. Welche Sprachen DarkBart beherrscht, ist unbekannt. Da keine Sicherheitsvorkehrungen vorgesehen sind, die das Generieren von bösartigem Output verhindern, und der Chatbot keine ethischen Grenzen kennt, ist er für unterschiedlichste kriminelle Machenschaften einsetzbar. Laut dem Entwickler kann er in Echtzeit auf Daten aus dem Internet zugreifen und verfügt über eine Integration von Google Lens. Dadurch lassen sich Bilder oder abfotografierte Texte als Eingabe für den Chatbot verwenden. Ein API-Zugang, mit dem sich cyberkriminelle Workflows automatisieren lassen, soll ebenfalls in Arbeit sein.

Einsatzmöglichkeiten des bösartigen Chatbots sind beispielsweise:

• Unterstützen beim Erstellen und Durchführen von personalisierten und strategisch ausgefeilten Phishing-Kampagnen oder Social-Engineering-Angriffen

• Aufspüren von Schwachstellen in Computersystemen oder Kritischen Infrastrukturen

• Erstellen von bösartigem Programmcode und Verteilen von Malware

• Bereitstellen von Informationen über Zero-Day-Schwachstellen

• Automatisieren cyberkrimineller Workflows

Funktionsweise und Training des Chatbots

Über die technischen Details von DarkBart ist nur wenig bekannt. Inwieweit er sich am Vorbild Google Bard orientiert, ist ebenfalls unklar. Dem Chatbot liegt ein großes Sprachmodell zugrunde, das vermutlich mit Material aus dem Darknet oder aus anderen cyberkriminellen Quellen trainiert und feinabgestimmt wurde. Welches Sprachmodell genutzt und welches Material aus welchen Quellen verwendet wurde, ist unbekannt. Einige Sicherheitsexperten vermuten, dass das von südkoreanischen Forschern entwickelte und trainierte Large Language Model (LLM) DarkBERT für DarkBart missbraucht worden sein könnte. DarkBERT ist eigentlich für akademische Zwecke und die Cyberkriminalitätsforschung oder -bekämpfung vorgesehen. Cyberkriminelle könnten sich unerlaubten Zugang zu diesem Modell verschafft haben. Der Zugriff auf DarkBart erfolgt über eine Chatbot-Oberfläche oder über eine eventuell verfügbare API-Schnittstelle. Sicherheitsmechanismen, die verhindern, dass bösartiger Output produziert wird, oder ethische Grenzen sind nicht implementiert.

Gefahren und Risiken durch bösartige Chatbots wie DarkBart

Bösartige Chatbots für Cyberkriminelle bringen unter anderem diese Gefahren und Risiken mit sich:

• Auch unerfahrene und technisch wenig versierte Personen können zu Cyberkriminellen werden.

• Die Einstiegsschwelle für Cyberkriminalität sinkt.

• Die mit Künstlicher Intelligenz durchgeführten Betrugskampagnen haben bessere Erfolgsaussichten, da Texte wie E-Mails fehlerfrei und überzeugend formuliert sind, die Kampagnen sich personalisieren und internationalisieren lassen und der Chatbot strategisch vorgehen kann.

• Über API-Schnittstellen lassen sich cyberkriminelle Workflows hochgradig automatisieren.

• Anzahl und Umfang von bösartigen Cyberaktivitäten könnten steigen.

• Der Chatbot kennt in Sachen Betrug und kriminellen Handlungen keine ethischen Grenzen.

• Schwachstellen und Sicherheitslücken lassen sich leichter auffinden und ausnutzen (auch in Kritischen Infrastrukturen).

• DarkBart erleichtert das Programmieren und Verteilen von Malware.

(ID:49996915)