Cyberagentur schreibt Forschungsprojekt zur digitalen Forensik aus Manipulationen intelligenter Systeme aufspüren

Anbieter zum Thema

Fujitsu Technology Solutions GmbH

Pathlock Deutschland | akquinet enterprise solutions GmbH

valvisio international AG

Agentur für Innovation in der Cybersicherheit GmbH

Wie lassen sich Manipulationen an einem KI-basierten System erkennen, das sich selbst ständig weiterentwickelt und immer wieder überschreibt? In einem neuen Projekt der Cyberagentur sollen Tools und Methodiken erforscht werden, um solche böswilligen Eingriffe in intelligente Systeme künftig rechtssicher nachweisen zu können.

Die rechtssichere Aufdeckung von Manipulationen an KI-Systemen ist noch kaum erforscht, künftig aber hoch relevant für die staatliche Sicherheit – und damit ein Fall für die Agentur für Innovation in der Cybersicherheit (Cyberagentur). Im neuen Projekt „Forensik intelligenter Systeme“ der Cyberagentur sollen vorhandene und grundlegend neue forensische Vorgehensweisen, Werkzeuge und gesetzliche Standards für den rechtlichen Nachweis von Manipulationen in KI-Systemen erforscht werden. Dabei werden die Anwendungsbereiche Bildverarbeitung, Textverarbeitung und autonome Systeme betrachtet.

Im Projekt sollen rechtlich fundierte Erkenntnisse zur Analyse von Spuren in KI-Systemen gewonnen und entsprechende Tools entwickelt werden, um Manipulationen an diesen Systemen aufzudecken, Tatbestände festzustellen und die Täter zu finden. Die Forschungsansätze dazu müssen transparent, fair und erklärbar sein.

Letztlich sollen Methoden zur „Forensic Readiness“ und „Forensic-by-Design“ entwickelt werden. „Bei Erfolg sind aus den wissenschaftlich gewonnenen Erkenntnissen gesetzliche Rahmenbedingungen sowie Anforderungen und Standards zu formulieren und umzusetzen“, heißt es.

Sicherheitsbehörden und Streitkräfte der Bundesrepublik sollen so mit rechtlicher Handlungssicherheit und Vorgehensweisen für das in allen Gesellschaftsschichten eingreifende Gebiet der KI befähigt werden. Systeme, die im Ergebnis des Projekts entwickelt werden, könnten entsprechend von den Polizeibehörden genutzt werden.

Interdisziplinäre Forschung nötig

Interessenten aus Hochschulen und Universitäten, Unternehmen, Start-ups, Organisationen der Bereiche IT-Forensik, Künstliche Intelligenz oder Strafverfolgung und weiteren Institutionen sind aufgerufen, sich an der Ausschreibung zu beteiligen.

Aufgrund der Komplexität des Themas „Forensik intelligenter Systeme“ brauche es interdisziplinäre Forschung, die Cyberagentur verweist daher ausdrücklich auf die Möglichkeit, Expertisen aus den verschiedenen Forschungsbereichen zu bündeln und Konsortien zu bilden.

Um diese Vernetzung zu fördern, hat die Agentur im Vorfeld ein Partnering-Event organisiert. An der virtuellen Veranstaltung im April nahmen 32 Expertinnen und Experten aus 18 verschiedene Institutionen – Unternehmen, Universitäten und Hochschulen – teil. Die Teilnahme an der Ausschreibung steht aber darüberhinaus allen Interessierten offen.

(ID:49725680)