Mobile-Menu

SBOM für KI BSI fordert Transparenz bei KI-Lieferketten

Von Berk Kutsal 2 min Lesedauer

Anbieter zum Thema

BSI Bundesamt f. Sicherheit in der Informationstechnik
FAST LTA GmbH

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) will mit einem neuen Vorschlag die Lieferketten von KI-Systemen offenlegen. Die „SBOM for AI“ soll helfen, Sicherheitslücken zu erkennen, Compliance zu sichern – und die Komplexität von KI beherrschbarer zu machen. Die G7 haben das Konzept bereits auf dem Tisch.

Die G7-Cybersecurity Working Group in Ottawa (Kanada) besteht aus den Cybersicherheitsbehörden Kanadas, Frankreichs, Deutschlands, Italiens, Japans, Großbritanniens, USA und der EU.(Bild: BSI)
Die G7-Cybersecurity Working Group in Ottawa (Kanada) besteht aus den Cybersicherheitsbehörden Kanadas, Frankreichs, Deutschlands, Italiens, Japans, Großbritanniens, USA und der EU.
(Bild: BSI)

Auf dem Treffen der G7-Cybersecurity-Gruppe im Mai in Ottawa präsentierte das BSI gemeinsam mit der italienischen Behörde ACN ein technisches Rahmenwerk, das die Transparenz von KI-Systemen deutlich erhöhen soll.

Ziel ist eine Software Bill of Materials (SBOM) für Künstliche Inrelligenz (KI) – ein maschinenlesbarer Katalog, der dokumentiert, woraus ein KI-System besteht, wie es trainiert wurde und in welcher Infrastruktur es läuft. Der Vorstoß könnte ein zentraler Baustein werden, um sogenannte „Secure AI Supply Chains“ zu etablieren.

BSI-Präsidentin Claudia Plattner: „Der Austausch in der G7 Cybersecurity Working Group bietet eine Chance, für die dringendsten Herausforderungen unserer Zeit einen gemeinsamen Ansatz zu finden. Und das ist gut so: Silo-Denken hilft uns nicht weiter. Mit der Arbeit zu ‚SBOM for AI‘ haben wir einen ersten, konkreten Beitrag zur Transparenz von KI-Systemen geleistet.“

Klassische SBOMs listen Softwarekomponenten und Abhängigkeiten auf – ein bewährtes Mittel gegen Sicherheitsrisiken in der Software-Supply-Chain. Bei KI reiche das nicht. Trainingsdaten, Modelle, Fine-Tuning, Evaluierung und Laufzeitumgebung bestimmen maßgeblich die Integrität.

Wer hier Transparenz schaffe, kann etwa poisoned datasets, kompromittierte Modelle oder fehlerhafte KPIs früher erkennen.

Maschinenlesbar, digital signiert, tief gestaffelt

Das Konzept des BSI sieht sieben zentrale Cluster vor: Modellinformationen, Trainingsmethoden, Datensätze, Sicherheitseigenschaften, Systemarchitektur, Leistungskennzahlen und Infrastruktur. Für jedes Cluster sollen Mindestinformationen vorliegen – automatisiert erstellt, digital signiert und revisionssicher gespeichert.

So könne etwa bei einem Sicherheitsvorfall schnell ermittelt werden, ob ein betroffenes Modell auf veralteten oder kompromittierten Daten basiert.

Zwar existieren bereits Formate wie SPDX oder CycloneDX für klassische SBOMs. Für KI-Modelle seien diese aber nicht ausgelegt. Gleiches gelte für verbreitete Artefakte wie Datasheets for Datasets oder Model Cards. Die Vorschläge aus Deutschland und Italien zielen daher auf eine Harmonisierung, mit Fokus auf Interoperabilität und Automatisierung.

Die Idee klingt technisch solide – in der Praxis könnte sie an unternehmerischer Zurückhaltung scheitern. Viele Firmen betrachten Trainingsdaten, Modellmetriken oder Hyperparameter als Betriebsgeheimnis. Eine verpflichtende Offenlegung könnte Wettbewerbsnachteile erzeugen oder regulatorische Zielkonflikte verschärfen – gerade im globalen Umfeld.

Nächste Schritte im G7-Rahmen

Der Vorschlag wird aktuell im G7-Kontext weiter evaluiert. Geplant sind zunächst eine Bestandsaufnahme bestehender Standards, gefolgt von konkreten Empfehlungen für Tools und Formate. Spätestens im zweiten Halbjahr 2025 sollen technische Richtlinien vorliegen.

Der BSI-Entwurf versteht sich dabei ausdrücklich als „Food for Thoughts“ – also als Diskussionsgrundlage, nicht als verbindlicher Standard.

(ID:50456473)

Jetzt Newsletter abonnieren

Täglich die wichtigsten Infos zur IT-Sicherheit

Mit Klick auf „Newsletter abonnieren“ erkläre ich mich mit der Verarbeitung und Nutzung meiner Daten gemäß Einwilligungserklärung (bitte aufklappen für Details) einverstanden und akzeptiere die Nutzungsbedingungen. Weitere Informationen finde ich in unserer Datenschutzerklärung. Die Einwilligungserklärung bezieht sich u. a. auf die Zusendung von redaktionellen Newslettern per E-Mail und auf den Datenabgleich zu Marketingzwecken mit ausgewählten Werbepartnern (z. B. LinkedIn, Google, Meta).

Aufklappen für Details zu Ihrer Einwilligung

Weiterführende Inhalte