Kooperation des FDT mit dem Zentrum für vertrauenswürdige Künstliche Intelligenz zum Thema Erklärbarkeit von KI in der Medizin

Workshop in Kleingruppen in der ZVKI-Werkstatt #1

© Fraunhofer HHI

Knapp 20 ausgewählte Expertinnen und Experten aus verschiedenen Branchen und Forschungsbereichen fanden sich an jenem Freitag im Showroom des Forum Digitale Technologien zusammen, um gemeinsam der Frage nachzugehen, wie Patienten und Patientinnen über den Einsatz von KI-Systemen im medizinischen Kontext besser informiert werden können und inwiefern Werkzeuge für erklärbare KI hierbei Hilfestellung leisten können.

KI-Anwendungen bieten eine große Chance für die Medizin und werden immer häufiger in der Praxis erprobt. Beispielsweise können sie als Entscheidungsunterstützung genutzt werden, um Krebszellen zu erkennen oder medizinische Daten besser auszuwerten. Einen echten Mehrwert für medizinisches Fachpersonal sowie Patienten und Patientinnen bieten die Anwendungen jedoch nur dann, wenn die Ergebnisse transparent und nachvollziehbar sind. Denn nur so kann das Vertrauen in die Technologie gestärkt und deren Akzeptanz erreicht werden.

Einblicke in die aktuelle Forschung

Zum theoretischen Einstieg in die Thematik präsentierte Philipp Kellmeyer, Leiter des Human-Technology Interaction Labs und Neurologe am Universitätsklinikum Freiburg, seine Sicht zu aktuellen Herausforderungen für die Erklärbarkeit von KI in der Medizin, während Valerie Krug vom AI_Lab an der Otto-von-Guericke-Universität Magdeburg einen kurzen Überblick über die Methoden von XAI gab.

Anschließend teilten Christian Geißler vom DAI-Labor der TU Berlin und Roland Roller vom DFKI wertvolle Erkenntnisse und Erfahrungen aus ihrer Forschungsarbeit mit den Werkstatt-Teilnehmenden.

Christian Geißler leitet im Rahmen des BMWK-geförderten Forschungsprojekts EMPAIA den Themenbereich Erklärbarkeit von KI. Er stellte am Beispiel der Pathologie dar, welche Anforderungen Fachärzte und -ärztinnen an KI-Anwendungen haben. Eine nahtlose Integration in die Arbeitsprozesse spielt dabei gleichermaßen eine zentrale Rolle für die Akzeptanz von KI-basierten Lösungen wie ausreichende Eingriffsmöglichkeiten und die Entscheidungshoheit der Mediziner und Medizinerinnen über die Diagnose. Dabei wurde deutlich, dass Erklärbarkeitsansätze für KI immer sehr kontextspezifisch sind und die Adressierten sowie deren Ziele berücksichtigen müssen. Gute, nachvollziehbare Erklärungen für Anwendende und Betroffene stellen nach wie vor eine Herausforderung dar.

In seinem Vortrag rückte Roland Roller, Forscher in der Sprachtechnologie-Gruppe am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI), vor allem den Fokus auf die Perspektive der behandelten Personen. In den von ihm vorgestellten Projekten vALID und PRIMA-AI wird untersucht, wie sich der Einsatz von KI auf die Beteiligung von Patienten und Patientinnen auswirkt und wie dadurch die Arzt-Patient-Interaktion verändert wird. Im Rahmen von PRIMA-AI ist unter anderem die Entwicklung eines Ethik- und Governance-Rahmens vorgesehen, der für die Anwendung von KI-Lösungen in der medizinischen Diagnostik genutzt werden kann.

Ergebnisse der Werkstatt

In der darauffolgenden Gruppenarbeit hatten die Teilnehmenden die Möglichkeit, sich auf die spezifischen Informations- und Erklärungsbedarfe von sowohl medizinischem Fachpersonal als auch Patienten und Patientinnen einzulassen und geeignete Maßnahmen und Formate zu erarbeiten.

Folgende erste Erkenntnisse gingen daraus hervor:

Personen in medizinischer Behandlung haben unterschiedliche Informationsbedürfnisse. Daher ist eine flexible Anpassung der Erklärungen nach Zielgruppe und individuellem Bedarf erforderlich. Erklärungen sollten multimodal, also in verschiedenen Detailgraden, aufbereitet werden können.

Es wurde betont, dass Erklärungen anwendungsbezogen und kontextabhängig sind. Die Experten und Expertinnen der ZVKI-Werkstatt erachteten es zudem als wichtig, dass neben den KI-Systemen an sich auch die dazugehörigen Erklärungen geprüft und zertifiziert werden, um das Vertrauen in die Technologie zu erhöhen.

Auch der Faktor Mensch ist für das Vertrauen in KI von großer Bedeutung. Das Vertrauen in die behandelnden Mediziner und Medizinerinnen und ihre Einschätzung beeinflusst auch die Haltung, die Patienten und Patientinnen gegenüber KI-Anwendungen entwickeln.

Insgesamt waren sich die Teilnehmenden jedoch einig, dass KI-Systeme ein großes Potenzial haben, Diagnostik und medizinische Behandlung zu optimieren, wenn sie korrekt ausgeführt und angewendet werden.

Die ausführlichen Ergebnisse der ZVKI-Werkstatt werden demnächst als Thesenpapier vom Zentrum für vertrauenswürdige Künstliche Intelligenz (ZVKI) veröffentlicht.

Über das Forum Digitale Technologien

Das Forum Digitale Technologien ist Vernetzungsplattform und Ausstellungsfläche für ausgewählte Forschungsprojekte und Innovationen im Bereich digitaler Technologien aus Deutschland. Das Forum bietet herausragenden Forschungsprojekten eine Plattform für mehr Sichtbarkeit und fördert den Austausch und den Wissenstransfer auf nationaler und internationaler Ebene.

• Eröffnung der ZVKI-Werkstatt durch F. Busse und N. Mesheva
  © Fraunhofer HHI
• Projektvorstellung EMPAIA durch C. Geißler
  © Fraunhofer HHI
• Projektvorstellung von vALID und PRIMA-AI durch R. Roller
  © Fraunhofer HHI
• Projektvorstellung von vALID und PRIMA-AI durch R. Roller
  © Fraunhofer HHI
• Workshop in Kleingruppen in der ZVKI-Werkstatt #1
  © Fraunhofer HHI
• Workshop in Kleingruppen in der ZVKI-Werkstatt #1
  © Fraunhofer HHI
• Workshop in Kleingruppen in der ZVKI-Werkstatt #1
  © Fraunhofer HHI