Mensch und Maschine im Gleichgewicht Warum Agentic AI ohne menschliche Kompetenz keine Sicherheit bietet

Anbieter zum Thema

SkillSoft Deutschland NETg GmbH

Fsas Technologies GmbH

FAST LTA GmbH

FTAPI Software GmbH

Agentic AI automatisiert Prozesse und trifft Entscheidungen eigenständig – doch echte Sicherheit entsteht erst, wenn Technik und menschliche Kompetenz zusammenwirken. Wer KI-Systeme ohne ausreichendes Wissen oder Bewusstsein nutzt, riskiert Fehlentscheidungen, Datenverlust und Kontrollverlust. Nur durch gezielte Schulung und klare Governance wird Agentic AI zur Chance statt zur Bedrohung.

Agentic AI verändert Effizienz und Automatisierung grundlegend – doch echte Sicherheit entsteht erst, wenn Unternehmen technische Schutzmechanismen mit den Fähigkeiten ihrer Mitarbeiter kombinieren.

Eigenständige Intelligenz: Chancen und neue Risiken

Agentic AI beschreibt eine neue Generation künstlicher Intelligenz: Systeme, die nicht nur auf Eingaben reagieren, sondern eigenständig planen, entscheiden und handeln. Sie verbinden große Sprachmodelle mit Geschäftslogik, verarbeiten kontextuelle Daten und automatisieren ganze Workflows. Im Gegensatz zu einfacher generativer KI wird Agentic AI nicht nur für einzelne Aufgaben eingesetzt, sondern ist ein aktiver Teil des Arbeitsprozesses.

Für den Einsatz von Agentic AI ist ein tiefer Zugriff auf unternehmenskritische Daten erforderlich. Ohne klare Kontrolle drohen Missbrauch, Datenlecks oder Regelverstöße, die potenziell gravierende Folgen für Reputation, Finanzen und Compliance haben können.

Die übersehene Schwachstelle: der ungeschützte Zugang

Ein oft unterschätzter Risikofaktor liegt nicht in der Technologie selbst – sondern in ihrem Zugang. Wenn Mitarbeitende ohne entsprechendes Bewusstsein oder Training Agentic AI nutzen, entstehen Schwachstellen auf individueller, Team- und Organisationsebene. Gerade in dynamischen Arbeitsumgebungen, in denen neue Technologien schnell eingeführt werden, ist das Risiko besonders hoch.

In einem aktuellen Vorfall wurde die Live-Datenbank eines Kunden durch einen KI-Agenten gelöscht, obwohl diesem mitgeteilt wurde, dass er den Code während einer Sperrung nicht ändern solle. Ohne ausreichende Sicherheitsvorkehrungen kann für KI schnell der „Wilde Westen“ entstehen. Auch wenn es sich hierbei um einen Extremfall handelt, ist ein solches Szenario dennoch auch anderswo möglich.

Ein KI-Agent, der z. B. im Kundenservice oder im Recruiting eingesetzt wird, kann weitreichende Entscheidungen treffen – etwa bei Bewerbungsverfahren oder Ressourcenverteilungen. Wer trägt in diesen Fällen die Verantwortung? Unternehmen müssen hier sowohl technische Sicherheitsmaßnahmen als auch organisatorische Klarheit schaffen.

Integration heißt Kombination: Technik plus Power Skills

Technologie allein reicht nicht aus, um Agentic AI sicher zu nutzen. Erst wenn technisches Know-how mit den entsprechenden menschlichen Kompetenzen kombiniert wird, wird das System resilient. Zwei Kompetenzfelder sind dabei zentral:

• Technische Fähigkeiten wie Prompt Engineering, Daten-Governance und Compliance-Wissen sind essenziell, um Agentic AI sicher zu bedienen und ihre Funktionsweise zu verstehen.

• „Power Skills“ wie kritisches Denken, ethisches Urteilsvermögen und digitales Bewusstsein ermöglichen es, Entscheidungen der KI einzuordnen, zu hinterfragen und richtig einzuordnen.

Diese Fähigkeiten befähigen Mitarbeiter nicht nur, sichere Nutzer zu werden, sondern auch souveräne Akteure bei der Nutzung von KI. Agentic AI bedeutet keine Entmündigung, sondern verlangt nach Mitgestaltung.

Upskilling als Pflicht: Lernen für Mensch und Maschine

Die Einführung von Agentic AI verändert die Anforderungen an alle Unternehmensbereiche – von den Mitarbeitenden bis zur Führungsetage. Lern- und Entwicklungsstrategien (L&D) müssen sich darauf einstellen. Upskilling ist keine Option mehr, sondern die erste Verteidigungslinie.

Besonders relevant ist das für Funktionen wie HR, wo KI u. a. in der Personalplanung, Kompetenzanalyse und Karriereentwicklung eingesetzt wird. Mithilfe von Skills-Daten kann Agentic AI individuelle Lernpfade vorschlagen, passende Mentoren zuordnen und Entwicklungsmöglichkeiten erkennen – vorausgesetzt, die Mitarbeiter wissen, wie sie diese Werkzeuge nutzen.

Wirksame Formate für diese Entwicklung sind u. a. praxisnahe Simulationen, adaptives Lernen und interaktive Plattformen, die „Learning in the flow of work“ ermöglichen. Dabei erleben Mitarbeitende Weiterbildung nicht als isoliertes Tool, sondern als integralen Bestandteil ihres Arbeitsalltags.

Voraussetzungen für erfolgreiche Integration

Agentic AI lässt sich nicht „einfach so“ implementieren. Es braucht einen strategischen Rahmen, der Technologie, Organisation und Menschen intelligent miteinander verzahnt. Grundlage hierfür sind ein umfassendes Benchmarking der bestehenden Kompetenzen und ein effektives Trainingsprogramm. Der aktuelle Skillsoft-Bericht zu IT-Fähigkeiten und Gehältern zeigt: Mehr als ein Fünftel der IT-Entscheider ist der Ansicht, dass ihre Schulungsprogramme nicht effektiv sind. Weitere 20 Prozent sind nicht in der Lage, die benötigten Fähigkeiten vorherzusehen.

Ein effektives Trainingsprogramm ist die halbe Miete. Unternehmen sollten kontinuierliche Lernstrukturen etablieren – etwa durch Workshops, Webinare, interne Lernplattformen und Peer-to-Peer-Formate. Adaptive Lernsysteme helfen dabei, die Inhalte an den individuellen Wissensstand anzupassen. Wichtig ist auch die Verzahnung mit der IT: Nur wenn die Personalabteilung und die Technologieabteilung gemeinsam arbeiten, entstehen tragfähige Lösungen.

Führung, Kultur und Verantwortung

Auch Führungskräfte spielen eine entscheidende Rolle bei der erfolgreichen Einführung von Agentic AI. Spezielle Leadership-Programme sollten sie dazu befähigen, ihre Teams durch technologische Umbrüche zu begleiten, Risiken zu erkennen und Mitarbeitende gezielt zu unterstützen. Klar strukturierte Change-Management-Strategien helfen dabei, den Übergang reibungslos zu gestalten. Dazu gehören transparente Kommunikation, der Abbau von Ängsten und die Förderung einer positiven Lernkultur.

Zudem sind klare ethische und regulatorische Richtlinien notwendig. Datenschutz, Fairness, Bias-Prävention und Compliance sind keine nachgelagerten Fragen, sondern müssen integraler Bestandteil aller Agentic-AI-Initiativen sein. Nur so lässt sich intern wie extern Vertrauen aufbauen.

Mit Struktur, Kompetenz und Kultur zum Erfolg

Um das volle Potenzial von Agentic AI zu nutzen, ist strategisches Vorgehen erforderlich: eine durchdachte technische Integration, gezielte Kompetenzentwicklung und eine Kultur der kontinuierlichen Weiterentwicklung. Die zentrale Erkenntnis lautet: Der Mensch bleibt entscheidend – als Anwender, als Entscheider und als aktiver Gestalter.

Organisationen, die nicht nur neue Technologien einführen, sondern auch in ihre Menschen investieren, werden langfristig erfolgreicher sein. So wird Agentic AI nicht zur Bedrohung, sondern zur Chance, Unternehmen agiler, lernfähiger und widerstandsfähiger zu machen.

Über den Autor: Murali Sastry ist Chief Technology Officer bei Skillsoft, wo er globale Teams in den Bereichen Engineering, Cloud Operations, Customer Support und Program Management leitet, um skalierbare, KI-native Lernplattformen zu entwickeln. Er hat über 20 Jahre Erfahrung in der Überführung von neuen Technologien in transformative Unternehmenslösungen – von Personalisierung und SaaS bei IBM bis zu seiner heutigen Arbeit an agentischer KI.

(ID:50600838)