Wir bitten Sie an dieser Stelle um Ihre Einwilligung für die Nutzung unseres Videodienstes. Nähere Informationen zu allen Diensten finden Sie, wenn Sie die Pluszeichen rechts aufklappen. Sie können Ihre Einwilligungen jederzeit erteilen oder für die Zukunft widerrufen. Rufen Sie dazu bitte diese Einwilligungsverwaltung über den Link am Ende der Seite erneut auf.
Diese Webseite setzt temporäre Session Cookies. Diese sind technisch notwendig und deshalb nicht abwählbar. Sie dienen ausschließlich dazu, Ihnen die Nutzung der Webseite zu ermöglichen.
Diese Webseite nutzt die Open-Source-Software Matomo für die statistische Auswertung von Besucherzugriffen. Matomo verwendet Cookies, die auf Ihrem Rechner gespeichert werden und die unsererseits eine Analyse der Benutzung der Webseite ermöglichen. Die durch den Cookie erzeugten Informationen werden auf dem Server des Bundesministeriums für Forschung, Technologie und Raumfahrt in Deutschland gespeichert. Ihre IP-Adresse wird sofort nach der Verarbeitung und vor deren Speicherung anonymisiert. Die von Matomo erfassten Daten werden niemals auf andere Server übertragen oder an Dritte weitergegeben.
Das Ministerium präsentiert seine Arbeit auf dieser Webseite auch in Form von Videos. Diese werden vom deutschen Anbieter TV1 mit Hilfe des JW-Players mit Sitz in den USA ausgeliefert. Bitte willigen Sie in die Übertragung Ihrer IP-Adresse und anderer technischer Daten an den JW-Player ein, und erlauben Sie JW-Player, Cookies auf Ihrem Endgerät zu setzen, wenn Sie unser Video-Angebot nutzen wollen. Verantwortlich für diese Verarbeitung Ihrer Daten ist das Bundesministerium für Forschung, Technologie und Raumfahrt. Unsere Datenschutzbeauftragte erreichen Sie unter datenschutz@bmftr.bund.de. Als Rechtsgrundlage dient uns Ihre Einwilligung nach § 25 Abs. 1 TTDSG i. V. m. Artikel 6 Abs. 1 lit. a) DSGVO und § 3 Abs. 1 EGovG. Wir haben sichergestellt, dass Sie Ihre Einwilligung jederzeit für die Zukunft widerrufen können. Über die Einwilligungsverwaltung am Ende der Seite können Sie jederzeit steuern, ob Sie den Videodienst JW-Player zur Übertragung freigeben oder nicht.
Ausführliche Informationen über Ihre Betroffenenrechte und darüber, wie wir Ihre Privatsphäre schützen, entnehmen Sie bitte unserer Datenschutzerklärung.
Künstliche Intelligenz: Von der „Black Box“ zur „White Box“
Mit dem Siegeszug der Künstlichen Intelligenz (KI) als Kerntechnologie des digitalen Wandels stieg in den letzten Jahren auch die Vielfalt und Komplexität von KI-Systemen. Damit taten sich neue Herausforderungen in Bezug auf die Nachvollziehbarkeit von KI-Entscheidungen auf, die vor allem dort gefordert ist, wo von KI-Systemen kritische Entscheidungen getroffen werden. Vier Vertreter der Projekte FabOS, KEEN, KI-SIGS und Service-Meister des KI-Innovationswettbewerbs und eine Expertin der Bertelsmann-Stiftung diskutierten am 10. Juni Konzepte und praxisrelevante Methoden rund um die Erklärbarkeit von KI sowie die Notwendigkeit einer Zertifizierung von KI-Systemen.
Einwilligung zum Videodienst JW-Player
Das Ministerium präsentiert seine Arbeit auf dieser Webseite auch in Form von Videos. Diese werden vom deutschen Anbieter TV1 mit Hilfe des JW-Players mit Sitz in den USA ausgeliefert. Bitte willigen Sie in die Übertragung Ihrer IP-Adresse und anderer technischer Daten an den JW-Player ein, und erlauben Sie JW-Player, Cookies auf Ihrem Endgerät zu setzen, wenn Sie unser Video-Angebot nutzen wollen. Verantwortlich für diese Verarbeitung Ihrer Daten ist das Bundesministerium für Forschung, Technologie und Raumfahrt. Unsere Datenschutzbeauftragte erreichen Sie unter . Als Rechtsgrundlage dient uns Ihre Einwilligung nach § 25 Abs. 1 TTDSG i. V. m. Artikel 6 Abs. 1 lit. a) DSGVO und § 3 Abs. 1 EGovG. Wir haben sichergestellt, dass Sie Ihre Einwilligung jederzeit für die Zukunft widerrufen können. Über die Einwilligungsverwaltung am Ende der Seite können Sie jederzeit steuern, ob Sie den Videodienst JW-Player zur Übertragung freigeben oder nicht.
KI Erklärbarkeit
„Wie wird die KI transparent“ – mit dieser Frage startete am 10. Juni die Webkonferenz zu Erklärbarkeit und Transparenz von KI, zu der sich ca. 220 Interessierte eingewählt hatten. Die Einführung in die Problematik und in gängige Praxismethoden, mit denen „Black Box“-KI-Systeme erklärbar werden, übernahm Prof. Marco Huber vom Fraunhofer IPA, der am KI-Projekt FabOS mitwirkt. Demnach gilt bei KI-Systemen die Faustregel: Je komplexer die KI aufgebaut ist und je höher die Ansprüche an das System in Hinblick auf seine Leistungsfähigkeit, desto undurchsichtiger wird im Allgemeinen das Lernverhalten der Algorithmen. Die Krux dabei: viele moderne KI-Systeme setzen notwendigerweise auf komplexere KI-Methoden wie beispielsweise neuronale Netze, da einfachere und leichter erklärbare KI-Systeme die anspruchsvollen Aufgaben oft nicht erfüllen können.
Wichtig ist die Nachvollziehbarkeit, um ungewollte Tendenzen in den Trainingsdaten oder Fehler in den Algorithmen aufzudecken. Das sichert die Zuverlässigkeit der eingesetzten KI-Systeme, die besonders dort ohne Alternative sind, wo Algorithmen kritische Entscheidungen treffen und Sicherheitsstandards eingehalten werden müssen. Warum erklärbare KI in vielen Bereichen also kein „nice-to-have“ sondern ein „must-have“ ist und mit welchen methodischen Ansätzen KI transparent und nachvollziehbar wird, erläuterten Prof. Alexander Löser, Prof. Philipp Rostalski und Prof. Leon Urbas am Beispiel ihrer KI-Projekte Service-Meister, KI-SIGS und KEEN.
Diskussion um KI-Zertifizierung Lajla Fetic von der Bertelsmann-Stiftung und der AI Ethics Impact Group griff anschließend einen Aspekt auf, der bereits in den Vorträgen angeklungen und später zentraler Gegenstand der Podiumsdiskussion wurde: Die Zertifizierung von KI-Systemen. Sie betonte, dass es dringend Regeln für die Gestaltung und den Einsatz von algorithmischen Systemen braucht: Technologie ist nicht neutral, sondern kann genauso ungewollte Voreingenommenheit oder Fehler aufweisen wie Menschen. Dieser Forderung stimmten nicht nur die weiteren Experten der Runde zu, sondern in einer digital eingeschobenen Kurzumfrage auch fast 80 Prozent der Konferenzteilnehmer.
Im Anschluss entwickelte sich eine rege Diskussion dazu, wie Regeln für die Ausgestaltung und den Einsatz von intelligenten Algorithmen letztendlich umgesetzt und ggf. in Zertifizierungssysteme für KI übertragen werden können. Dabei waren sich die Experten einig: Es ist keine leichte Aufgabe, etwa die Erklärbarkeit von KI oder auch die Fairness einzelner Entscheidungen als Vorbedingungen für eine Zertifizierung messbar zu machen. Eine Herausforderung der kommenden Jahre wird darin bestehen, Schwellwerte für eine entsprechende Zertifizierung im jeweiligen Anwendungsgebiet festzulegen. Dabei ist es sinnvoll, die Anforderungen an KI-Zertifizierungen an den Anwendungskontext anzupassen.
Klar war am Ende der Konferenz auch: Bis es einen „KI-TÜV“ gibt, werden noch einige Jahre an Forschung und Diskussion ins Land gehen, denn die Diskussion um das „Wie“ der Zertifizierung steht noch am Anfang. Dass ein Zertifizierungssystem für KI jedoch notwendigerweise kommen wird, darüber waren sich alle Diskutanten einig.
