Berk Kutsal ♥ Security-Insider

Berk Kutsal

Redakteur

Artikel des Autors

Cisco analysiert acht Open-Weight-LLMs und zeigt: Multi-Turn-Angriffe sind bis zu zehnmal erfolgreicher als Single-Turn-Jailbreaks. (Bild: KI-generiert)
LLM-Sicherheit

Cisco-Studie: Multi-Turn-Angriffe knacken Open-Weight-LLMs

Open-Weight-LLMs gelten als Treiber der KI-Innovation – eröffnen Angreifern aber ebenso neue Angriffsflächen. Eine Sicherheitsanalyse von Cisco AI Defense zeigt: Acht verbreitete Open-Weight-Modelle aus den USA, China und Europa lassen sich in mehrstufigen Dialogen deutlich leichter aushebeln als in klassischen Singl-Turn-Jailbreak-Szenarien. Für Produktivumgebungen empfehlen die Autoren zusätzliche Schutzschichten und systematische Sicherheitstests.

Weiterlesen
Die G7-Cybersecurity Working Group in Ottawa (Kanada) besteht aus den Cybersicherheitsbehörden Kanadas, Frankreichs, Deutschlands, Italiens, Japans, Großbritanniens, USA und der EU. (Bild: BSI)
SBOM für KI

BSI fordert Transparenz bei KI-Lieferketten

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) will mit einem neuen Vorschlag die Lieferketten von KI-Systemen offenlegen. Die „SBOM for AI“ soll helfen, Sicherheitslücken zu erkennen, Compliance zu sichern – und die Komplexität von KI beherrschbarer zu machen. Die G7 haben das Konzept bereits auf dem Tisch.

Weiterlesen
Zertifizierung für KI und Cybersicherheit

DEKRA startet integrierten „Digital Trust“ Service

Mit dem „Digital Trust“ Service bündelt Dekra Zertifizierungs- und Prüfverfahren für Cybersicherheit, funktionale Sicherheit und Künstliche Intelligenz (KI) in einem integrierten Ansatz. Das Angebot richtet sich an Unternehmen, die ihre digitalen Produkte regelkonform absichern und schneller zur Marktreife bringen wollen. Ein Schlüsselfaktor soll dabei sein: die Vereinfachung regulatorischer Prozesse.

Weiterlesen
Transparenz wird zum Risiko: DeepSeek-R1 und CoT Reasoning

Wie Hacker KI austricksen

Das KI-Modell DeepSeek-R1 setzt auf Chain-of-Thought (CoT) Reasoning, um Denkprozesse transparent zu machen. Doch diese Transparenz birgt Risiken: Sicherheitslücken ermöglichen Prompt-Injection-Angriffe, das Auslesen interner System-Prompts und das Offenlegen sensibler Daten wie API-Schlüssel. Trend Micro schlägt Alarm – und zeigt, warum Unternehmen beim Einsatz von generativer KI neue Sicherheitsstrategien brauchen.

Weiterlesen
US-Justizministerium will Milliardenfusion verhindern

Steht die HPE-Übernahme von Juniper Networks vor dem Aus?

Die Übernahme von Juniper Networks durch Hewlett Packard Enterprise (HPE) für 14 Milliarden US-Dollar scheint doch nicht perfekt und wird vom US-Justizministerium blockiert. Während HPE und Juniper die Fusion als strategisch und innovativ bewerten, befürchtet das US-Justizministerium eine Wettbewerbsverzerrung. HPE zeigt sich kämpferisch und will gegen die Entscheidung vorgehen.

Weiterlesen
KI, Regulierung und Demokratie

Machtfaktor KI: Die neue Frontlinie in der Geopolitik

Künstliche Intelligenz ist längst ein geopolitisches Machtinstrument. Auf der Münchner Sicherheitskonferenz diskutierten Vertreter aus Politik, Wissenschaft und Wirtschaft über die Herausforderungen von KI für demokratische Prozesse. BSI-Präsidentin Claudia Plattner plädierte für eine Regulierung, die Innovation nicht hemmt, sondern lenkt. Dabei stellte sie heraus, dass technologische Kompetenz in Kombination mit wirtschaftlicher und militärischer Stärke eine zentrale Rolle für die Zukunft spiele.

Weiterlesen
KI-Governance am Scheideweg

Wer steuert die KI, wenn niemand ans Steuer will?

Unternehmen setzen auf KI, doch die Verantwortung bleibt auf der Strecke. Laut einer neuen Studie von NTT DATA hinkt die Governance der Technologie hinterher. Fehlende Richtlinien, regulatorische Unsicherheiten und eine unvorbereitete Belegschaft lassen die Schere zwischen Innovation und Sicherheit weiter auseinandergehen. Doch wie lange kann dieser Spagat noch gutgehen?

Weiterlesen
Private 5G: Sicherheit im industriellen Umfeld im Fokus

NTT DATA und Palo Alto Networks: Zero Trust für Private 5G

Industrieunternehmen setzen verstärkt auf Private-5G-Netze, um OT- und IT-Systeme sicher zu vernetzen. Doch die zunehmende Vernetzung erhöht auch das Risiko von Cyberangriffen. NTT DATA und Palo Alto Networks präsentieren nun eine Sicherheitslösung, die durch Zero Trust, maschinelles Lernen und Next-Generation Firewalls Angriffe auf industrielle 5G-Netze verhindern soll.

Weiterlesen
Wenn Sicherheit nur eine Illusion ist

OT/IoT-Sicherheit: Unternehmen zocken mit ihrer Zukunft

Wer glaubt, dass seine OT- und IoT-Netzwerke sicher sind, sollte sich den aktuellen Report von Nozomi Networks Labs genauer ansehen. Die Zahlen sind alarmierend: 94 Prozent der drahtlosen Netzwerke sind nicht ausreichend geschützt, Angreifer dringen tief in kritische Infrastrukturen ein, und Unternehmen wiegen sich in trügerischer Sicherheit. Wer jetzt nicht handelt, spielt Cybersecurity-Roulette mit fatalen Konsequenzen.

Weiterlesen
Sicherheitsrisiken in privaten 5G-Netzen unterschätzt

Private 5G-Netze unter Beschuss

Private 5G-Netzwerke gewinnen in kritischen Infrastrukturen rasant an Bedeutung. Doch eine aktuelle Studie von Trend Micro und CTOne warnt: Sicherheitslücken und fehlende Fachkenntnisse setzen Unternehmen erheblichen Cyberrisiken aus. Besonders der Einsatz von KI-gestützter Sicherheitssoftware erfordert spezifische Schutzmaßnahmen – die bislang oft vernachlässigt werden. Die Folgen könnten gravierend sein.

Weiterlesen
KI-gestützte Bildanalyse gegen digitale Manipulation

Kampfansage an Deepfakes

Deepfakes stellen zunehmend eine Bedrohung für die digitale Integrität dar. Eine IT-Forensik-Gruppe an der Friedrich-Alexander-Universität Erlangen-Nürnberg (FAU) und die Secunet Security Networks AG arbeiten an einem Prototyp, der KI-generierte Bildfälschungen automatisch erkennen soll – auch von bislang unbekannten Generatoren. Ziel sei es, Manipulationen frühzeitig zu entlarven und Missbrauch einzudämmen.

Weiterlesen
SBOM für KI

BSI fordert Transparenz bei KI-Lieferketten

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) will mit einem neuen Vorschlag die Lieferketten von KI-Systemen offenlegen. Die „SBOM for AI“ soll helfen, Sicherheitslücken zu erkennen, Compliance zu sichern – und die Komplexität von KI beherrschbarer zu machen. Die G7 haben das Konzept bereits auf dem Tisch.

Weiterlesen
LLM-Sicherheit

Cisco-Studie: Multi-Turn-Angriffe knacken Open-Weight-LLMs

Open-Weight-LLMs gelten als Treiber der KI-Innovation – eröffnen Angreifern aber ebenso neue Angriffsflächen. Eine Sicherheitsanalyse von Cisco AI Defense zeigt: Acht verbreitete Open-Weight-Modelle aus den USA, China und Europa lassen sich in mehrstufigen Dialogen deutlich leichter aushebeln als in klassischen Singl-Turn-Jailbreak-Szenarien. Für Produktivumgebungen empfehlen die Autoren zusätzliche Schutzschichten und systematische Sicherheitstests.

Weiterlesen