KI-Tools in der Softwareentwicklung Die heikle Balance von KI in der Softwareentwicklung

Anbieter zum Thema

Checkmarx GmbH

PresseBox - unn | UNITED NEWS NETWORK GmbH

sysob IT-Distribution GmbH & Co. KG

FTAPI Software GmbH

Die Verwendung von KI-Tools zur Codegenerierung hat in Entwicklerteams weltweit stark zugenommen. Doch die damit verbundenen Sicherheitsrisiken bereiten vielen Experten Sorgen, wie eine Studie von Checkmarx zeigt. Diese beleuchtet die Herausforderungen, denen sich Unternehmen stellen müssen, um den Balanceakt zwischen Produktivitätssteigerung und Sicherheit zu meistern.

Die rasante Entwicklung und Verbreitung von Künstlicher Intelligenz (KI) hat die Softwareentwicklung in vielen Unternehmen grundlegend verändert. Die Studie „7 Steps to Safely Adopt GenAI in Application Security“ von Checkmarx zeigt, dass mittlerweile fast alle Entwicklerteams weltweit KI-Tools nutzen, um Code zu generieren. Doch dieser Trend geht mit erheblichen Sicherheitsbedenken einher: 80 Prozent der befragten Sicherheitsverantwortlichen äußern Zweifel an der Sicherheit des KI-generierten Codes.

CISOs zwischen Produktivität und Sicherheitsbedenken

Die Studie beleuchtet ein zentrales Dilemma, vor dem CISOs weltweit stehen: Einerseits eröffnet der Einsatz von KI-Tools große Chancen, die Produktivität in der Softwareentwicklung zu steigern. Entwicklerteams können durch den Einsatz dieser Technologien schneller und effizienter arbeiten, was in einem solch wettbewerbs­intensiven Business von unschätzbarem Wert ist. Andererseits bringen diese Tools auch Risiken mit sich, die nicht so einfach zu kontrollieren sind – „KI-Halluzinationen“ etwa. Diese Risiken zu managen, ohne den technologischen Fortschritt zu bremsen, ist eine der größten Herausforderungen für CISOs.

Fehlende Governance als Sicherheitsrisiko

Die Studie zeigt außerdem deutlich, dass viele Unternehmen bisher keine adäquaten Richtlinien zur Nutzung von KI in der Softwareentwicklung etabliert haben. Nur 29 Prozent der befragten Unternehmen gaben an, eine Form von Governance für den Einsatz von KI-Tools implementiert zu haben.

Noch gravierender ist, dass in 70 Prozent der Unternehmen keine zentralisierte Strategie für den Umgang mit generativer KI besteht. Die Entscheidungen über den Einsatz solcher Tools werden oft dezentral in den einzelnen Fachabteilungen getroffen, was das Risiko unsicherer Implementierungen erhöht. Ohne klare Richtlinien besteht die Gefahr, dass KI-Tools in einer Weise eingesetzt werden, die langfristig zu Sicherheitslücken führt.

Skepsis gegenüber KI-Tools

Ein weiteres zentrales Ergebnis der Studie ist die Diskrepanz zwischen der weitverbreiteten Nutzung von KI-Tools und dem Vertrauen in ihre Sicherheit. Obwohl 99 Prozent der Unternehmen angeben, dass KI-Tools zur Codegenerierung verwendet werden, äußern 80 Prozent der befragten Sicherheitsverantwortlichen erhebliche Bedenken hinsichtlich der Sicherheit des damit erzeugten Codes. Diese Skepsis resultiert vor allem daraus, dass generative KI derzeit noch nicht in der Lage ist, bewährte Secure Coding Practices konsequent einzuhalten.

Einige Unternehmen haben begonnen, diese Herausforderungen durch den Einsatz dedizierter Sicherheitslösungen zu adressieren. Diese Tools sollen helfen, den durch KI generierten Code besser zu überwachen und zu sichern. So denken etwa 47 Prozent der befragten CISOs darüber nach, KI-Lösungen zu implementieren, die eigenständig Änderungen am Code vornehmen können, um Sicherheitslücken zu schließen. Dennoch bleibt eine tiefe Skepsis bestehen: 6 Prozent der Befragten gaben an, einer KI, die sicherheitsrelevante Prozesse in bestehenden Herstellerlösungen beeinflusst, nicht zu vertrauen.

Sicherheitsstrategien für die Zukunft

Angesichts dieser Ergebnisse stellt sich die Frage, wie Unternehmen künftig mit der Nutzung von KI in der Softwareentwicklung umgehen sollten. Klar ist, dass CISOs eine zentrale Rolle dabei spielen müssen, klare und durchsetzbare Governance-Richtlinien zu entwickeln, die den sicheren Einsatz von KI-Tools gewährleisten. Gleichzeitig müssen sie sicherstellen, dass die Entwicklerteams weiterhin von den Produktivitätsgewinnen profitieren können, die diese Technologien bieten.

Fazit

Die Checkmarx Studie zeigt auf, dass es kein einfaches Rezept gibt, wie Unternehmen den Einsatz von KI in der Softwareentwicklung sicher gestalten können. Vielmehr ist eine sorgfältige Abwägung der von Fall zu Fall unterschiedlichen Chancen und Risiken notwendig, um eine Balance zwischen Innovation und Sicherheit zu erreichen.

(ID:50146660)