Zentrum für vertrauenswürdige Künstliche Intelligenz (KI) soll Verbraucherinteressen in der digitalen Welt stärken

Das Bundesministerium der Justiz und für Verbraucherschutz (BMJV) wird künftig das neue Projekt „Zentrum für vertrauenswürdige KI“ fördern. Ziel des Zentrums ist es, Zivilgesellschaft, Wirtschaft und Wissenschaft in einem KI-Ökosystem zusammenzubringen – und so vertrauenswürdige Anforderungen und Eigenschaften von KI-Systemen zu definieren sowie darauf hinzuwirken, vertrauenswürdige KI-Systeme als Standard zu etablieren. Projektnehmer sind der Think Tank iRights.Lab, die Fraunhofer Gesellschaft sowie die Freie Universität Berlin.

Prof. Dr. Christian Kastrop, Staatssekretär im Bundesministerium der Justiz und für Verbraucherschutz erklärt: „KI birgt große Chancen für Innovation – aber nur, wenn Verbraucherinnen und Verbraucher und Zivilgesellschaft an der Entwicklung von KI-Systemen sowie der Debatte über KI-Anwendungen beteiligt sind. Denn KI-Systeme brauchen das Vertrauen der Verbraucherinnen und Verbraucher. Die Technologie braucht auch klare Regeln, etwa bei Stellenbewerbungen, der Kreditwürdigkeit oder bei personalisierter Werbung. Es ist daher wichtig, dass KI-Systeme transparent und nachvollziehbar sind sowie hohen gesellschaftlichen Standards genügen – beispielweise den Kriterien der Datenethikkommission. Das Zentrum für vertrauenswürdige KI soll durch die Entwicklung von Standards und gezielte Verbraucherinformationen zu mehr Transparenz und Vertrauen im Bereich KI beitragen. Dazu bringen wir Stakeholder aus Zivilgesellschaft, Wirtschaft und Wissenschaft in einem Ökosystem zusammen. So kann eine menschenzentrierte digitale Transformation gelingen.“

Verbraucherinteressen sollen in den Mittelpunkt von KI-Systemen gestellt werden

Das Zentrum für vertrauenswürdige KI soll namhafte Akteure aus Wissenschaft, Wirtschaft, Politik und Zivilgesellschaft zusammenbringen. Sie sollen dabei insbesondere über verbraucherrelevante Aspekte von Künstlicher Intelligenz informieren und bundesweite Verbraucherinformationskampagnen entwickeln. Dabei sollen die Akteure ihre jeweiligen Expertisen und Perspektiven einbringen. Parallel sollen ein Zertifizierungsschema für vertrauenswürdige KI entwickelt und ein breites Netzwerk zur Verbraucherinformation aufgebaut werden. Daneben sollen wissenschaftliche Studien initiiert und durchgeführt sowie Handlungs-empfehlungen für die Politik entwickelt werden. Weiterhin steht im Fokus des Projektes die Gründung eines eigenen Vereins Anfang nächsten Jahres, welcher die Projektziele auch nach Ende der Projektförderung weiterverfolgen soll. Insbesondere zivilgesellschaftliche Organisationen sind herzlich eingeladen, sich in dem zukünftigen Verein zu engagieren und dabei zu helfen, vertrauenswürdige KI-Systeme zu einem Standard zu machen.

Für das Vorhaben stehen bis Ende 2023 Mittel in Höhe von bis zu 4,5 Millionen Euro zur Verfügung. Die Förderung des Zentrums für vertrauenswürdige KI flankiert und ergänzt das Engagement des BMJV im Bereich der KI-Regulierung.

Bundesministerium für Justiz und Verbraucherschutz
Beitrag teilen: