Wir bitten Sie an dieser Stelle um Ihre Einwilligung für die Nutzung unseres Videodienstes. Nähere Informationen zu allen Diensten finden Sie, wenn Sie die Pluszeichen rechts aufklappen. Sie können Ihre Einwilligungen jederzeit erteilen oder für die Zukunft widerrufen. Rufen Sie dazu bitte diese Einwilligungsverwaltung über den Link am Ende der Seite erneut auf.
Diese Webseite setzt temporäre Session Cookies. Diese sind technisch notwendig und deshalb nicht abwählbar. Sie dienen ausschließlich dazu, Ihnen die Nutzung der Webseite zu ermöglichen.
Das Ministerium präsentiert seine Arbeit auf dieser Webseite auch in Form von Videos. Diese werden vom deutschen Anbieter TV1 mit Hilfe des JW-Players mit Sitz in den USA ausgeliefert. Bitte willigen Sie in die Übertragung Ihrer IP-Adresse und anderer technischer Daten an den JW-Player ein, und erlauben Sie JW-Player, Cookies auf Ihrem Endgerät zu setzen, wenn Sie unser Video-Angebot nutzen wollen. Verantwortlich für diese Verarbeitung Ihrer Daten ist das Bundesministerium für Wirtschaft und Energie. Unsere Datenschutzbeauftragte erreichen Sie unter datenschutzbeauftragte@bmwk.bund.de. Als Rechtsgrundlage dient uns Ihre Einwilligung nach § 25 Abs. 1 TTDSG i. V. m. Artikel 6 Abs. 1 lit. a) DSGVO und § 3 Abs. 1 EGovG. Wir haben sichergestellt, dass Sie Ihre Einwilligung jederzeit für die Zukunft widerrufen können. Über die Einwilligungsverwaltung am Ende der Seite können Sie jederzeit steuern, ob Sie den Videodienst JW-Player zur Übertragung freigeben oder nicht.
Ausführliche Informationen über Ihre Betroffenenrechte und darüber, wie wir Ihre Privatsphäre schützen, entnehmen Sie bitte unserer Datenschutzerklärung.
Das Konzept der vertrauenswürdigen KI, das bereits seit 2019 die Entwicklung rechtmäßiger, ethischer und robuster KI-Systeme in Europa befördern sollte, wurde von der EU als Leitprinzip etabliert und erfuhr durch den AI Act der EU eine rechtliche Verankerung. Der Rechtsakt, der seit dem 2. Februar 2025 in Kraft ist, zielt darauf ab, menschenzentrierte und vertrauenswürdige KI zu fördern, indem er einen risikobasierten Regulierungsrahmen schafft. Die Verordnung legt strenge Anforderungen an Transparenz, Rechenschaftspflicht und Nicht-Diskriminierung fest, die direkt mit den Prinzipien vertrauenswürdiger KI korrespondieren. Besonders Unternehmen, die Hoch-Risiko-Anwendungen in den Umlauf bringen, sind nun verpflichtet, robuste Prozesse zur Überwachung, Dokumentation und kontinuierlichen Verbesserung ihrer KI-Systeme zu implementieren. Diese Verschränkung von ethischen Prinzipien, gesetzlichen Vorgaben und Qualitätsmanagement-Praktiken schafft einen umfassenden Rahmen, der die Entwicklung sicherer und zuverlässiger KI-Anwendungen fördert und gleichzeitig das Vertrauen der Nutzer stärkt.
Lösungswege / -ansätze
Ein systematisches Qualitätsmanagement, das idealerweise den gesamten Entwicklungszyklus begleitet, berücksichtigt u.a. datenbezogene und technische Maßnahmen, gesetzliche Vorschriften, bestehende Standards und Normen sowie die Wirtschaftlichkeit des Entwicklungsprozesses. Domänenspezifische oder allgemeine Leitfäden bieten Orientierung.
Entwicklungsteams sollten eine sorgfältige Bewertung der potenziellen Risiken ihrer KI-Systeme durchführen (insbesondere bei Hochrisiko-Anwendungen), hochwertige (Trainings-)Datensätze sicherstellen und Risikominderungsmaßnahmen implementieren sowie eine angemessene menschliche Aufsicht einrichten.
Die klare Kennzeichnung KI-generierter Inhalte und die Bereitstellung von Erklärungen für KI-Entscheidungen erhöht die Transparenz, Wenn möglich sollten selbsterklärende (White-Box-)Modelle verwendet werden, die algorithmische Transparenz aufweisen, oder Modelle, die Erklärungen modellintrinsisch mitliefern. Bei opaken (Black-Box-)Modellen, die Transparenzanforderungen kunden- oder zulassungsseitig erfüllen müssen, sollten geeignete Erklärungen (wie z.B. Saliency Maps, Feature-Importance-Analysen, kontrafaktische Erklärungen) mittels etablierten Erklärungswerkzeugen (wie z.B. LIME, SHAP oder Integrated Gradients) generiert werden, um individuelle Entscheidungen möglichst nachvollziehbar zu machen.
Praxisbeispiele
AIQNET
Entwicklung vertrauenswürdiger KI-Services und Wegweiser zur Zertifizierung in der Gesundheitswirtschaft
Einwilligung zum Videodienst JW-Player
Das Ministerium präsentiert seine Arbeit auf dieser Webseite auch in Form von Videos. Diese werden vom deutschen Anbieter TV1 mit Hilfe des JW-Players mit Sitz in den USA ausgeliefert. Bitte willigen Sie in die Übertragung Ihrer IP-Adresse und anderer technischer Daten an den JW-Player ein, und erlauben Sie JW-Player, Cookies auf Ihrem Endgerät zu setzen, wenn Sie unser Video-Angebot nutzen wollen. Verantwortlich für diese Verarbeitung Ihrer Daten ist das Bundesministerium für Wirtschaft und Energie. Unsere Datenschutzbeauftragte erreichen Sie unter datenschutzbeauftragte@bmwk.bund.de. Als Rechtsgrundlage dient uns Ihre Einwilligung nach § 25 Abs. 1 TTDSG i. V. m. Artikel 6 Abs. 1 lit. a) DSGVO und § 3 Abs. 1 EGovG. Wir haben sichergestellt, dass Sie Ihre Einwilligung jederzeit für die Zukunft widerrufen können. Über die Einwilligungsverwaltung am Ende der Seite können Sie jederzeit steuern, ob Sie den Videodienst JW-Player zur Übertragung freigeben oder nicht.
Videostatement Martin Tettke (Berlin Cert GmbH)
ForeSight
Entwicklung vertrauenswürdiger KI-Services für die Gebäudewirtschaft
Einwilligung zum Videodienst JW-Player
Das Ministerium präsentiert seine Arbeit auf dieser Webseite auch in Form von Videos. Diese werden vom deutschen Anbieter TV1 mit Hilfe des JW-Players mit Sitz in den USA ausgeliefert. Bitte willigen Sie in die Übertragung Ihrer IP-Adresse und anderer technischer Daten an den JW-Player ein, und erlauben Sie JW-Player, Cookies auf Ihrem Endgerät zu setzen, wenn Sie unser Video-Angebot nutzen wollen. Verantwortlich für diese Verarbeitung Ihrer Daten ist das Bundesministerium für Wirtschaft und Energie. Unsere Datenschutzbeauftragte erreichen Sie unter datenschutzbeauftragte@bmwk.bund.de. Als Rechtsgrundlage dient uns Ihre Einwilligung nach § 25 Abs. 1 TTDSG i. V. m. Artikel 6 Abs. 1 lit. a) DSGVO und § 3 Abs. 1 EGovG. Wir haben sichergestellt, dass Sie Ihre Einwilligung jederzeit für die Zukunft widerrufen können. Über die Einwilligungsverwaltung am Ende der Seite können Sie jederzeit steuern, ob Sie den Videodienst JW-Player zur Übertragung freigeben oder nicht.
