Link direkt zur Servicenavigation Link direkt zur Hauptnavigation Link direkt zum Inhalt

TraCIM: Qualitätsbewertung und Prüfung von KI-Algorithmen im medizinischen Umfeld

Ein Demonstrator der Physikalisch-Technischen Bundesanstalt (PTB) zur Validierung von KI-Systemen in gesundheitskritischen Anwendungen

PTB
© PTB
PTB

Beschreibung des Demonstrators

Der Demonstrator PTB TraCIM zeigt, wie KI-Algorithmen, insbesondere in der Medizin, qualitativ bewertet und geprüft werden können. Ziel ist es, die Leistungsfähigkeit solcher Systeme objektiv messbar zu machen und ihre sichere Anwendung zu ermöglichen. Im Zentrum stehen Ansätze zur Validierung von Eigenschaften wie Robustheit, Erklärbarkeit („Explainable AI“) und Vorhersagesicherheit. Durch geeignete Metriken und Benchmarks werden sowohl die Vorhersagegüte als auch Unsicherheiten und Erklärungen methodisch überprüft.

Business Case aus Anwendersicht

Der Einsatz von Künstlicher Intelligenz in der Medizin verspricht eine effizientere Diagnostik und individuellere Therapien. Gleichzeitig ist die Sicherheit dieser Systeme von zentraler Bedeutung, da sie direkt auf die Gesundheit von Patienten wirken. Der Demonstrator liefert Ansätze zur Qualitätssicherung über den gesamten Lebenszyklus medizinischer KI-Systeme hinweg. Die entwickelten Prüfmethoden unterstützen Entwickler, Kliniken und Regulierungsbehörden dabei, fundierte Entscheidungen über den Einsatz solcher Technologien zu treffen.

Zum Projekt

Der TraCIM-Demonstrator ist Teil des Pilotprojekts „Künstliche Intelligenz in der Medizin“. Im Fokus stehen technologische Lösungen zur Qualitätssicherung von KI in gesundheitskritischen Anwendungen. Die PTB entwickelt in diesem Rahmen geeignete Metriken zur Leistungsbewertung und evaluiert Verfahren der erklärbaren KI (XAI) mit klar definierten Benchmarks. Ziel ist es, die Grundlage für verlässliche Prüfprozesse zu schaffen, die mit der hohen Verantwortung medizinischer Anwendungen vereinbar sind.

Laufzeit

01.01.20 - 31.12.25