Künstliche Intelligenz sicher gestalten: KI-Zertifizierung “Made in Germany”

Im Beisein von NRW-Digitalminister Prof. Dr. Andreas Pinkwart haben Arne Schönbohm, Präsident des Bundesamtes für Sicherheit in der Informationstechnik (BSI), und Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, heute eine Kooperationsvereinbarung unterzeichnet, um die Entwicklung einer KI-Zertifizierung “Made in Germany” voranzubringen. Ziel der Zusammenarbeit ist es, Prüfverfahren zu entwickeln, die als Basis für technische Standards und Normen dienen können. Dazu arbeiten die Kooperationspartner mit zahlreichen Partnern aus Deutschland und Europa zusammen. Als erstes großes Vorhaben im Rahmen der Kooperation startet Anfang 2021 das Flagship-Projekt “Zertifizierte KI” der Kompetenzplattform Künstliche Intelligenz Nordrhein-Westfalen KI.NRW. In dem Projekt legen unter anderem Unternehmen die konkreten Bedarfe an Prüfverfahren fest und führen Pilotprüfungen durch.

Künstliche Intelligenz (KI) ist eine wichtige Schlüsseltechnologie der Gegenwart. Intelligente Systeme können in nahezu allen Lebensbereichen zum Einsatz kommen und sind schon heute in der Lage, viele Aufgaben schneller und zuverlässiger zu erledigen als der Mensch. Damit Unternehmen mit dem Einsatz von KI entscheidende Wettbewerbsvorteile erzielen können, sollten KI-Systeme vertrauenswürdig sein und verlässlich funktionieren. Dazu braucht es prüfbare technische Standards und Normen, die eine neutrale Bewertung der Systeme ermöglichen und die auch Anwendenden sowie Verbraucherinnen und Verbrauchern Auskunft über zugesicherte Eigenschaften von KI-Technologien geben.

Das BSI und das Fraunhofer IAIS haben nun eine Kooperationsvereinbarung für die gemeinsame Entwicklung von Prüfverfahren unterzeichnet. Die Kooperation ermöglicht die intensive Zusammenarbeit von Expertinnen und Experten, um technische Produkt- und Prozessprüfungen von KI-Systemen in der Wirtschaft zu etablieren.

“Künstliche Intelligenz ist eine zentrale Technologie der Digitalisierung. KI-Methoden werden im Zuge der Digitalisierung zunehmend und im großen Maßstab auch für sicherheitskritische Aufgaben eingesetzt. Als Gestalter einer sicheren Digitalisierung in Deutschland befasst sich daher auch das BSI intensiv mit dem Thema und unterstützt die Bundesregierung dabei, den technologisch und wirtschaftlich erfolgreichen sowie gesellschaftlich akzeptierten Einsatz von KI-Lösungen in Deutschland voranzutreiben. Wichtig für die Akzeptanz neuer Technologien ist das Vertrauen der Anwendenden. Dies entsteht unter anderem durch transparente Prüfung, Bewertung und Zertifizierung von KI-Systemen. Grundlage für einheitliche Standards und Normen ist die Erarbeitung von Prüfverfahren, die wir nun mit unserem langjährigen Partner Fraunhofer IAIS angehen. Mit dem Wirtschaftsministerium NRW haben wir gleichzeitig einen verlässlichen Partner, der gute Rahmenbedingungen für Innovation schafft und fördert”, sagt Arne Schönbohm, Präsident des Bundesamtes für Sicherheit in der Informationstechnik BSI, Bonn.

“Das Fraunhofer IAIS legt großen Wert auf die Entwicklung vertrauenswürdiger KI-Lösungen und hat über die letzten Jahre seinen Forschungsschwerpunkt zur KI-Absicherung kontinuierlich ausgebaut. Mit der Erarbeitung unserer Prüfverfahren im Hinblick auf eine KI-Zertifizierung schaffen wir verlässliche Standards für die Entwicklung und Bewertung von KI-Systemen. Bereits im kommenden Jahr werden wir erste Prüfungen mit Unternehmen durchführen. Ich freue mich, dass wir mit dem BSI einen starken Partner mit langjähriger Erfahrung in der Etablierung von Standards in der IT an unserer Seite haben. Jetzt gilt es, gemeinsam die Weichen Richtung Zertifizierung zu stellen und die wesentlichen Akteure zusammen zu bringen”, sagt Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS, Sankt Augustin.

Bei der Weiterentwicklung der Prüfverfahren sollen Praxistauglichkeit und Marktfähigkeit in enger Abstimmung mit der Wirtschaft weiter verbessert werden. Dazu startet Anfang 2021 ein großes Flagship-Projekt, das vom Land Nordrhein-Westfalen im Rahmen der Kompetenzplattform KI.NRW gefördert wird. In dem Projekt arbeiten renommierte Partner aus Forschung und Anwendung zusammen, darunter die Universität Bonn, die Universität zu Köln, die RWTH Aachen, das Deutsche Institut für Normung DIN sowie zahlreiche DAX-30- und weitere Unternehmen aus unterschiedlichen Branchen wie Telekommunikation, Banken, Versicherungen, Chemie, und Handel. In branchen- und technologiebezogenen Anwenderkreisen definieren die Beteiligten konkrete Bedarfe, legen Kriterien und Maßstäbe für eine Prüfung in der Praxis fest und führen Pilotprüfungen durch. Mit diesem breiten Beteiligungsprozess wird sichergestellt, dass sich die Verfahren zu allgemein akzeptierten Standards für KI-Systeme und deren Überprüfung entwickeln und gleichzeitig durch rechtliche, ethische und philosophische Betrachtungen flankiert werden.

“Mit unseren herausragenden Kompetenzen und dem starken Netzwerk KI.NRW kann Nordrhein-Westfalen eine führende Rolle bei der Weiterentwicklung von Wirtschaft und Gesellschaft spielen. Damit das gelingt, machen wir den Einsatz der Künstlichen Intelligenz vertrauenswürdig und sicher. Dabei hilft uns eine unabhängige Zertifizierung von KI-Systemen: Sie stärkt das Vertrauen in moderne IT-Technologie und wird auch international als wichtiger Wettbewerbsvorteil erkannt. Mit der Entwicklung marktfähiger Prüfverfahren nähern wir uns dem Ziel mit großen Schritten. Dieses wichtige Projekt mit starken Partnern aus Nordrhein-Westfalen zeigt die große Innovationskraft, die zur Etablierung der Marke ‚KI Made in Germany‘ beiträgt”, sagt Prof. Dr. Andreas Pinkwart, Minister für Wirtschaft, Innovation, Digitalisierung und Energie des Landes Nordrhein-Westfalen.

Wichtige Grundlagen für die Entwicklung einer KI-Zertifizierung haben die Expertinnen und Experten des Fraunhofer IAIS bereits im vergangenen Jahr im Rahmen eines interdisziplinären Forschungsprojektes mit Wissenschaftlerinnen und Wissenschaftler aus den Bereichen Informatik, Recht und Philosophie geschaffen, die die zentralen Handlungsfelder identifiziert und erste Leitplanken für die Entwicklung eines Prüfkatalogs zur Zertifizierung von KI-Systemen formuliert haben. Die Ergebnisse wurden 2019 in dem Whitepaper “Vertrauenswürdiger Einsatz von Künstlicher Intelligenz” publiziert.

Bundesamt für Sicherheit in der Informationstechnik
Letzte Artikel von Bundesamt für Sicherheit in der Informationstechnik (Alle anzeigen)