Mobile-Menu

Neue Funktionen für die Plattform von Aqua Security Schutz von LLM-Applikationen vom Code bis zur Cloud

Von Bernhard Lück 2 min Lesedauer

Anbieter zum Thema

Aqua Security
sysob IT-Distribution GmbH & Co. KG
Fsas Technologies GmbH
FAST LTA GmbH

Aqua Security hat eine Lösung zur Absicherung von KI-Anwendungen, die auf LLMs basieren, entwickelt. Die Schutzfunktionen für die Cloud Native Application Protection Platform umfassen Code-Integrität, Überwachung in Echtzeit und Sicherheitsrichtlinien für generative KI.

Aqua Security könne auf generative KI bezogene Angriffe erkennen und Sicherheitslücken bis zu bestimmten Codezeilen zurückverfolgen.(Bild: © Aryan – stock.adobe.com / KI-generiert)
Aqua Security könne auf generative KI bezogene Angriffe erkennen und Sicherheitslücken bis zu bestimmten Codezeilen zurückverfolgen.
(Bild: © Aryan – stock.adobe.com / KI-generiert)

Immer mehr Unternehmen setzen künstliche Intelligenz (KI) in Form von Large Language Models (LLMs) ein, um Standardabläufe zu optimieren und zu beschleunigen. Dadurch vergrößert sich allerdings auch die Angriffsfläche und es entstehen neue Angriffsvektoren. Aqua Security reagiert darauf mit einer Lösung zur Absicherung von KI-Anwendungen, die auf LLMs basieren.

Mit den neuen Funktionen in Aqua Securitys Cloud Native Application Protection Platform (CNAPP) sei eine Absicherung vom Code bis zur Cloud und somit über den gesamten Lebenszyklus einer Cloud-Native-Anwendung hinweg möglich. Unternehmen könnten so die Vorteile solcher KI-Modelle nutzen und zugleich Bedrohungen minimieren.

Die neuen CNAPP-Funktionen im Detail:

  • Code-Integrität: Mit fortschrittlicher Code-Scanning-Technologie werde die unsichere Nutzung von LLMs im Anwendungscode identifiziert und entschärft, einschließlich unautorisiertem Datenzugriff, Fehlkonfigurationen und Schwachstellen, die spezifisch für LLM-gestützte Anwendungen seien. So könne Aqua beispielsweise den nicht autorisierten Zugriff auf LLM-Ausgaben erkennen, die möglicherweise versuchen, bösartigen Code auszuführen und Angriffe zu initiieren.
  • Überwachung in Echtzeit: Die Laufzeitschutzfunktionen von Aqua Security könnten LLM-betriebene Anwendungs-Workloads aktiv überwachen und unautorisierte Aktionen, die LLMs versuchen könnten, verhindern, z.B. die Ausführung von bösartigem Code aufgrund von Prompt-Injection-Angriffen.
  • Sicherheitsrichtlinien für generative KI: Spezifische Sicherheitsrichtlinien für generative KI sollen Entwicklern von LLM-gestützten Anwendungen als Leitplanken dienen und die unsichere Nutzung von LLMs verhindern. Diese Richtlinien basieren auf Praktiken aus den OWASP Top 10 für LLMs und anderen anerkannten Industriestandards.

Gilad Elyashar, Chief Product Officer von Aqua Security, sieht einen „dringenden Bedarf an Sicherheitstools, die es Unternehmen ermöglichen, diese Technologie vertrauensvoll zu nutzen, ohne die Innovation zu bremsen“. Er sieht eine weitverbreitete Einführung von LLM-gestützten Anwendungen ohne vollständigem Verständnis der Sicherheitsrisiken und -implikationen: „Das immense Versprechen von LLM-Anwendungen steht im Gegensatz zu den neuen Angriffsvektoren, wie z.B. Prompt Injections, unsicheren LLM-Interaktionen und unautorisiertem Datenzugriff. OWASP hat die Top-10-Liste für LLM-Anwendungen erstellt, um das Bewusstsein für diese Risiken zu schärfen.“ Aqua Security orientiert sich deshalb an genau diesen OWASP-Empfehlungen.

(ID:50088748)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte