Prüfstandards und Prüfwerkzeuge für die Entwicklung und den Einsatz von Künstlicher Intelligenz in medizinischen Diagnose- und Prognosesystemen (KI-MED)

Das Projekt soll den Reifegrad vorhandener KI-Methoden und Daten in der Medizin untersuchen. Hierbei wird eine Recherche vorhandener Trainingsdaten, KI-Modelle, Standards und Normen, Methoden der KI-Explainability, KI-Sicherheit und Robustheit sowie gegebenenfalls vorhandener Prüfwerkzeuge durchgeführt und Anforderungen an KI-Modelle und Trainingsdaten ausgearbeitet, die einen sicheren und effizienten Betrieb ermöglichen sollen. Insbesondere wird die Robustheit von KI-Modellen und Trainingsdaten evaluiert und auf Basis der Ergebnisse wird ein umfangreiches Prüfwerkzeug zur Bewertung von KI-Modellen und Trainingsdaten entwickelt, welches von einer externen Prüfstelle evaluiert wird. Diese validierten Anforderungen und das Prüfwerkzeug sollen durch das BSI mit Unterstützung des Auftragnehmers in Standardisierungsgremien eingebracht werden. Der Auftragnehmer verfasst eine wissenschaftliche Studie, welche sämtliche Ergebnisse des Projektes beinhaltet.