Ein über 160 Seiten starker KI-Prüfkatalog befähigt Unternehmen, Anforderungen an die Vertrauenswürdigkeit intelligenter Systeme für die Entwicklung individueller KI-Anwendungen zu operationalisieren. Er kann von unabhängigen Prüforganisationen als Grundlage für künftige Produktprüfungen genutzt werden kann. Gleichzeitig stellt er Unternehmen das Handwerkszeug zur Verfügung, mit dem sie bereits im Entwicklungsprozess ihre Systeme selbst evaluieren und verbessern können und sich so auf künftige regulatorische Anforderungen vorbereiten können.
Wie können Unternehmen ihre KI-Systeme vertrauenswürdig gestalten? Mit dieser Frage beschäftigt sich eine neu gegründete Arbeitsgruppe des Bundesamts für Sicherheit in der Informationstechnik (BSI) und des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme (IAIS). Im Rahmen des KI.NRW Flagship-Projekts Zertifizierte KI hat sie das Ziel, standardisierungsreife Prüfgrundlagen und Kriterienwerke für KI-Systeme zu definieren. Der in ersten Pilotprojekten erprobte Leitfaden fließt in die Zusammenarbeit ein und ist jetzt für die Öffentlichkeit zugänglich. Ziel ist es, Standards für KI-Prüfungen zu schaffen und den Weg für eine unabhängige KI-Zertifizierung zu ebnen.
Bei einer automatisierten Analyse von Bewerbungsdokumenten beispielsweise sind die Anforderungen an die Vertrauenswürdigkeit eines KI-Systems anders zu bewerten als etwa bei einem Bilderkennungsverfahren zur Qualitätssicherung von Autokarosserien. Zwar gibt es erste Anforderungen und Leitlinien zur Vertrauenswürdigkeit von KI-Systemen, diese sind aber oft noch zu allgemein und abstrakt formuliert. Eine wichtige Konkretisierung stellt der kürzlich veröffentlichte AIC4-Katalog des BSI dar, der Cloud-basierte KI-Dienste adressiert. Andere bestehende Prüfverfahren, etwa aus der funktionalen Sicherheit oder der IT-Sicherheit, stehen vor Herausforderungen, wenn es darum geht, ihre Bewertungsschemata auf Systeme mit KI-Komponenten anzuwenden.
Die Arbeitsgruppe will diese Lücke füllen und praxistaugliche Prüfgrundlagen und Kriterienwerke definieren. Zentral ist hierbei die Anschlussfähigkeit an bestehende Prüfschemata und die Kompatibilität mit den Anforderungen der geplanten EU-Regulierung für KI. Die Ergebnisse bilden die Basis für kommende Standards und sollen schnell international harmonisiert werden.
Der KI-Prüfkatalog ist ab sofort kostenfrei online verfügbar
Zum Projekt Zertifizierte KI