KI-Zertifizierung
Vortrag von Lene Ganschow vom 16.03.2021
Die Zertifizierung von KI bringt - im Vergleich zu herkömmlicher Software - einige besondere Herausforderungen mit sich. Beispielsweise sind KI-Systeme oft schwer nachvollziehbar. Sowohl für KI-Entwickler:innen als auch Nutzer:innen ist nicht immer klar, aus welchen Gründen eine konkrete Entscheidung getroffen wurde. Derartige Anwendungen werden auch als Black Box-Systeme bezeichnet. Einen großen Einfluss auf das KI-Modell hat die verwendete Datengrundlage, sodass diese bei einer Zertifizierung ebenfalls genau untersucht werden muss. Besonders herausfordernd ist zudem die Zertifizierung von selbstlernenden Systemen, die in der praktischen Anwendung weiterlernen und sich so kontinuierlich verbessern sollen. Dieser Ansatz birgt großes Potenzial, gleichzeitig muss jedoch auch hier aus regulatorischer Sicht gewährleistet werden, dass die KI weiterhin gute Ergebnisse liefert.
Hinsichtlich der Zertifizierung von KI im Medizinbereich existieren Ansätze, die die beschriebenen Herausforderungen adressieren. Vom Johner Institut wurde 2019 eine Checkliste veröffentlicht, die konkrete Prüfkriterien für die Zulassung von KI-Systemen im Medizinbereich beinhaltet. Auf der Grundlage dieser Checkliste erarbeiteten die Benannten Stellen einen entsprechenden Fragenkatalog, der bei der Zertifizierung derzeit eingesetzt wird. In Deutschland ist es derzeit nicht möglich, selbstlernende KI-Systeme im Medizinbereich zu zertifizieren. In den USA wurden jedoch bereits erste Ansätze von der FDA formuliert.
- Seite empfehlen:
- Druckansicht