„Wir müssen an allen Ecken und Enden um Vertrauen werben“ – Rückblick auf die Jahresveranstaltung des Forum Digitale Technologien 2022 zum Thema Vertrauen in KI und digitale Infrastrukturen

Panel zu Menschzentrierter KI auf der FDT Jahresveranstaltung (v. l. n. r. M. Huber, A. Löser, A. Ngonga, N. Öksüz-Köster)

© Fraunhofer HHI

Bewegen wir uns in eine Vertrauenskrise? Und welche besonderen Herausforderungen und Lösungsmöglichkeiten bestehen hinsichtlich der Dimension Vertrauen bei der Entwicklung von Anwendungen Künstlicher Intelligenz und digitaler Infrastrukturen in verschiedenen Branchen und Anwendungskontexten? Diese und viele weitere Fragen wurden bei der Jahresveranstaltung des Forum Digitale Technologien am 5. Oktober 2022 lebhaft analysiert und diskutiert, in Präsenz mit über 80 Besuchern im Showroom des Forums in Berlin und hybrid mit fast 300 Zuschauern via Livestream.

Anwendungsentwicklung ist auch immer Kommunikation und Beziehungsarbeit. (Alexa von Busse, Moderatorin)

Im Zentrum der Fachveranstaltung berichteten Vertreter*innen aus 11 BMWK-Förderprojekten, Initiativen und Kompetenznetzwerken in vier Themenblöcken über ihre Praxiserfahrungen, Learnings und Herausforderungen zu zentralen Aspekten digitaler Souveränität – u. a. zu vertrauenswürdiger KI, Zuverlässigkeit, Akzeptanz, Gestaltung menschzentrierter KI, Transparenz und Erklärbarkeit. Eingerahmt wurde dies durch einen Eröffnungsvortrag von Marco-Alexaner Breit (BMWK) zur politischen Dimension des Themenkomplexes „Vertrauen in Technologie“ und einem Abschlusspanel zu den Herausforderungen bei der Markteinführung von KI-Anwendungen. Ein Fachimpuls von Tom Kraus (VDI/VDE Innovation + Technik) setzte inhaltliche Leitplanken zum Themenkomplex. Der zugrunde liegende „Leitfaden für das Qualitätsmanagement bei der Entwicklung von KI-Produkten und Services“ wird in Kürze veröffentlicht. In den Vernetzungspausen suchten die Teilnehmer*innen den persönlichen Austausch. Der Wissenstransfer wurde durch eine Mini-Expo und durch die Bereitstellung von ausgewählten aktuellen Publikationen im Themenfeld unterstützt und angeregt.

Vertrauen kann man nicht anfassen, wiegen, schneiden. (Thomas Niessen, Kompetenznetzwerk Trusted Cloud)

Neben domainspezifischen Anforderungen an KI, z. B. in der Medizintechnik, und zukunftsweisenden Ansätzen zur Datenverfügbarkeit, wie dem föderierten Lernen in der Industrie 4.0, ließen sich über die vielfältigen Themen und Anwendungsebenen hinweg auch übergreifende Problemfelder und Zielkonflikte identifizieren. Dies spiegelte sich in den zu den Themenblöcken abgeholten Stimmungsbildern des Publikums wider. Hier wurde z. B. der Konflikt zwischen Datenverfügbarkeit für KI-Anwendungen und dem Anspruch auf Datenschutz in der täglichen Arbeit als überwiegend sehr relevant gevotet. Als wichtigster Indikator für Vertrauenswürdigkeit in digitale Infrastrukturen wurde vorrangig der Aspekt der Sicherheit genannt. Als maßgeblicher Indikator für die breite Akzeptanz von KI-Anwendungen stand Mehrwert & User-Experience weit oben während bei der Bewertung der Zuverlässigkeit von KI-Systemen das Interesse an Privacy gleichauf mit Best-Practices zur Entwicklung lag.

Wir müssen Strukturen bauen für föderiertes vertrauenswürdiges Teilen von Daten unter Wahrung der eigenen Datenhoheit und Datensouveränität. (Jürgen Bretfeld, Förderprojekt PAIRS)

Die Sprecher*innen der Forschungsprojekte konnten hier im Dialog erste Antworten aufzeigen, sei es bei der Schaffung von nutzerzentrierten Systemen unter Wahrung der Datenhoheit, bei Übersetzungsleistungen für transparente KI-Anwendungen oder bei Fragen zur Erhöhung der Qualität von Trainingsdaten. Klar wurde allerdings auch, dass „one-size-fits-all Lösungen“ eher Wunschdenken darstellen und vielmehr Incentives und Feedback zentral sind, um Vertrauen bei Kunden und Endanwendern zu schaffen und markttaugliche Lösungen anzubieten.

Das Abschlusspanel griff die geteilten Erkenntnisse und Erfahrungen des Tages auf und erweiterte den Blickwinkel auf das komplexe Zusammenspiel von Politik, Industrie und Gesellschaft.

Was ist eigentlich der Benchmark, auch bei menschlichen Entscheidungen? (Nicole Büttner-Thiel, MerantixLABS)

Marco Alexander Breit vom BMWK stellte die Frage in den Raum, ob wir in Deutschland noch eine technikaffine Gesellschaft sind und wie der Widerspruch zwischen Kunden- und Bürgerseele in Bezug auf einen vertrauensvollen Umgang mit KI-Technologien zu vereinen wäre. Letztlich bleibt das Zusammenspiel von Menschen und Technik entscheidend. Nicole Büttner-Thiel von MerantixLABS warb um einen entspannteren und fallbezogenen Umgang mit neuen Technologien und einen verstärkten Fokus auf gesellschaftlichen Mehrwert und Potentiale. Ihr Appell zu einer genuinen Beschäftigung mit dem Thema Vertrauen in KI gipfelte in der Aussage „good news, there is room for humans.“ Ulli Waltinger vom Siemens AI Lab gab zu bedenken, dass wir uns im Stadium von expliziter zu datengetriebener Programmierung befinden und es per se keine „unbiased AI“ gäbe. Filiz Elmas vom DIN e.V. verwies auf den kommunikativen und integrativen Charakter von Normung und das erprobte Zusammenspiel von staatlicher Regelsetzung für Schutzziele und technischer Normierung. Einig war sich das Panel in dem Punkt, dass KI-Entwicklung nicht außerhalb demokratischer Entscheidungsprozesse vonstattengehen soll. Konsens bestand ebenfalls darin, dass innovative Ansätze bezüglich Testumgebungen wie z. B. KI-Reallabore zur Entwicklung von tragfähigen Lösungen vorangetrieben werden sollten.

Als Fazit der Veranstaltung kann stellvertretend die Aussage von Slawomir Stanczak vom Projekt CampusOS stehen, der anmerkte, dass das Thema Vertrauen und digitale Sicherheit eine große Chance für deutsche Unternehmen darstellt, sich mit resilienten Lösungen für die Herausforderungen im Umgang mit KI zu positionieren. Die Forschungsprojekte mit Unterstützung der Innovationslandschaft, das zeigte die Veranstaltung, befinden sich hierzu auf einem guten Weg.

Über das Forum Digitale Technologien

Das Forum Digitale Technologien ist Vernetzungsplattform und Ausstellungsfläche für ausgewählte Forschungsprojekte und Innovationen im Bereich digitaler Technologien aus Deutschland. Das Forum bietet herausragenden Forschungsprojekten eine Plattform für mehr Sichtbarkeit und fördert den Austausch und den Wissenstransfer auf nationaler und internationaler Ebene.

Die Veranstaltungen und Demonstratoren des Forums fokussieren sich auf die technischen Schnittstellen und gesellschaftlichen Spannungsfelder aktueller Technologietrends: Internet of Things, Big Data, Künstliche Intelligenz und Sicherheit und Vertrauen im Digitalen Raum.

Der Showroom des Forums bietet eine Ausstellungsfläche für Projekte aus den Technologieprogrammen des Bundesministeriums für Wirtschaft und Klimaschutz sowie weiterer Förderprogramme des Bundes.

• Moderation der FDT Jahresveranstaltung (v.l.n.r. J. Thoms, A.v. Busse)
  © Fraunhofer HHI
• Eröffnungsvortrag der FDT Jahresveranstaltung (M.-A. Breit)
  © Fraunhofer HHI
• Impressionen der FDT Jahresveranstaltung
  © Fraunhofer HHI
• Panel zu Menschzentrierter KI auf der FDT Jahresveranstaltung (v. l. n. r. M. Huber, A. Löser, A. Ngonga, N. Öksüz-Köster)
  © Fraunhofer HHI
• Impressionen der FDT Jahresveranstaltung
  © Fraunhofer HHI
• Panel zu KI und Privacy auf der FDT Jahresveranstaltung (v. l. n. r. M. Böhm, J. Bretfeld, A.v. Busse)
  © Fraunhofer HHI
• Impressionen der FDT Jahresveranstaltung
  © Fraunhofer HHI
• Input zu Vertrauen in digitale Infrastrukturen auf der FDT Jahresveranstaltung (I. Adamski)
  © Fraunhofer HHI
• Abschluss-Panel der FDT Jahresveranstaltung (v. l. n. r. M.A. Breit, N. Büttner-Thiel, F. Elmas, U. Waltinger, A.v. Busse)
  © Fraunhofer HHI