Forensik intelligenter Systeme (FIS)

Gerichtsfeste KI-Forensik für mehr Sicherheit und Vertrauen

Künstliche Intelligenz wird zunehmend in sicherheitskritischen Bereichen eingesetzt – gleichzeitig steigt das Risiko gezielter Manipulationen. Das Forschungsprogramm „Forensik intelligenter Systeme“ (FIS) entwickelt Methoden und Werkzeuge, um Angriffe auf kontinuierlich lernende KI-Systeme frühzeitig zu erkennen und gerichtsfest nachzuweisen.

Gemeinsam mit führenden Partnern aus Forschung und Wissenschaft arbeitet Atos im Auftrag der Agentur für Innovation in der Cybersicherheit GmbH an einer neuen Generation forensisch überprüfbarer KI.

Projektziele

Im Rahmen des Projekts wird eine Simulationsumgebung zur Analyse realer Angriffsszenarien aufgebaut, prototypische Forensik-Tools zur Erkennung von Manipulationen entwickelt, KI-Algorithmen für eine frühzeitige Detektion angepasst und juristisch verwertbare digitale Spuren systematisch gesichert.

Das Programm wird im Auftrag der Agentur für Innovation in der Cybersicherheit GmbH durchgeführt.

Beteiligt sind:

Fraunhofer-Institut für Angewandte und Integrierte Sicherheit AISEC
Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS
Institut für Internet-Sicherheit
Universität zu Köln

Ziel ist es, neue forensische Ansätze zu entwickeln, die Angriffe auf KI-Systeme technisch analysierbar und juristisch verwertbar machen.

Mehr Sicherheit für Staat und Gesellschaft

FIS stärkt die digitale Resilienz staatlicher Institutionen, erhöht die Vertrauenswürdigkeit intelligenter Systeme und leistet einen Beitrag zur technologischen Souveränität in Europa.

Ziel ist eine KI, die nicht nur leistungsfähig, sondern auch transparent, überprüfbar und rechtssicher ist.

Finanziert durch: