Mobile-Menu

Leitfaden des BSI zur Umsetzung des EU-AI-Act Qualitätssicherung von KI-Trainingsdaten

Von Ira Zahorsky 1 min Lesedauer

Anbieter zum Thema

Bundesamt für Sicherheit i.d.Informationstechnik
Fsas Technologies GmbH
FAST LTA GmbH
FTAPI Software GmbH

Damit KI-Anwendungen wie ChatGPT vertrauenswürdig sind, sollten sie den hohen Qualitätsanforderungen der EU-KI-Verordnung entsprechen. Mit dem modularen Leitfaden des BSI sollen KI-Anbieter die Vorgaben leichter umsetzen können.

Anwendungen mit Künstlicher Intelligenz müssen hohen Qualitätsanforderungen entsprechen, damit sie vertrauenswürdig sind, meint BSI-Präsidentin Claudia Plattner.(Bild: Dall-E / KI-generiert)
Anwendungen mit Künstlicher Intelligenz müssen hohen Qualitätsanforderungen entsprechen, damit sie vertrauenswürdig sind, meint BSI-Präsidentin Claudia Plattner.
(Bild: Dall-E / KI-generiert)

Der EU-AI-Act, die europäische Verordnung über Künstliche Intelligenz (KI-Verordnung) trat am 1. August 2024 in Kraft. Sie soll „die verantwortungsvolle Entwicklung und Verwendung Künstlicher Intelligenz in der EU fördern“, so die EU-Kommission. Daher legt sie „klare Anforderungen fest, die KI-Entwickler und -Betreiber je nach der spezifischen Verwendung der KI zu erfüllen haben“. Das betrifft auch Qualitätsanforderungen an KI-Trainingsdaten und soll Aspekte wie Relevanz, Fehlerfreiheit und Vollständigkeit abdecken. „Wir müssen sicherstellen, dass Anwendungen mit Künstlicher Intelligenz hohen Qualitätsanforderungen entsprechen. Nur so können wir vertrauenswürdige KI herstellen und nutzen“, ist BSI-Präsidentin Claudia Plattner überzeugt.

Unter dem kryptischen Namen QUAIDAL (Qualitycriteria for AI Trainingsdata in AI Lifecycle) hat das Bundesamt für Sicherheit in der Informationstechnik (BSI) nun einen Katalog zur Qualitätssicherung von Trainingsdaten in KI-Anwendungen veröffentlicht. Der Leitfaden richtet sich insbesondere an Anbieter von Hochrisiko-KI-Systemen und soll die abstrakten Anforderungen in konkrete Maßnahmen überführen. „Das BSI bietet mit diesem Katalog eine ganz konkrete Hilfestellung, die an der Basis ansetzt“, so Plattner. Der Leitfaden ist modular gestaltet. So sollen Projektverantwortliche und Entwicklungsteams frühzeitig passende Maßnahmen zur Sicherstellung der Datenqualität auswählen und deren Umsetzung systematisch nachweisen können.

Für künftige technologische Entwicklungen hat das BSI die Möglichkeit zur Erweiterung des Konzepts mit berücksichtigt. Außerdem kann die Community Vorschläge für eigene Bausteine, Maßnahmen und Metriken einbringen.

(ID:50476665)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte