Mit der DIN SPEC 92001-3 hat das DIN einen Standard veröffentlicht, der Kriterien zur Förderung der Erklärbarkeit von KI spezifiziert. Er soll sicherstellen, dass KI-Systeme effizient, verantwortungsbewusst und vertrauenswürdig eingesetzt werden; Entwicklung und Einsatz sollten einschlägigen Qualitätskriterien genügen.
In der Öffentlichen Diskussion wird KI auch mit Misstrauen gesehen. Gängiges Stichwort ist die „Blackbox KI“, da vielfach unklar ist, wie KI- Anwendungen zu ihren Ergebnissen kommen, auf Basis welcher Quellen und ob die entstandenen Aussagen der Wahrheit entsprechen. Hier fehlten bisher Standards zur Erklärbarkeit von KI, die dafür sorgen, dass Vertrauen in die Anwendungen wachsen kann. „Der neue Standard soll helfen, Vertrauen in die Nutzung und die Sicherheit durch Erklärbarkeit von KI-Anwendungen zu fördern und damit sichere Rahmenbedingungen für die Entwicklung der Zukunftstechnologie zu schaffen“, erklärt Annegrit Seyerlein-Klug, Standardization Manager / Product Management bei der neurocat GmbH und Leiterin des DIN-SPEC-Konsortiums das Ziel.
Die neue DIN SPEC 92001-3 bietet einen Leitfaden für geeignete Ansätze und Methoden zur Förderung der Erklärbarkeit in allen Phasen des Lebenszyklus eines KI-Systems. Sie definiert und beschreibt die Quellen und Auswirkungen von Intransparenz in der heutigen KI. Dazu betrachtet der Standard die Art und Weise, wie Erklärungen eingesetzt werden können und sollten, um diese Auswirkungen für verschiedene Interessengruppen in unterschiedlichen Phasen des Lebenszyklus von KI-Systemen abzumildern.
Die beschriebenen Qualitätskriterien sind für alle Arten von KI-Systemen und für alle Bereiche angelegt, in denen solche Systeme eingesetzt werden. Insbesondere gelten sie für KI-Systeme mit unterschiedlichem Grad an Intransparenz. So erleichtern diese Qualitätskriterien ein besseres Verständnis und eine effektivere Nutzung von erklärbarer KI. Außerdem ermöglichen sie es Organisationen, Prinzipien des Vertrauens und der Transparenz in ihre KI-basierten Anwendungen einzubetten. Sie bilden auch die konzeptionelle und prozedurale Grundlage für die Formulierung spezifischer Anforderungen an die Erklärbarkeit und den nachvollziehbaren Nachweis des technisch korrekten Betriebs.
Die DIN SPEC 92001-3 ist ein Ergebnis des KI.NRW Flagship-Projekts ZERTIFIZIERTE KI, das das Fraunhofer IAIS gemeinsam mit dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und dem Deutschen Institut für Normung (DIN) sowie weiteren wissenschaftlichen Partnern und assoziierten Industriepartnern durchführt. Gefördert wird es vom Ministerium für Wirtschaft, Industrie, Klimaschutz und Energie des Landes Nordrhein-Westfalen.
Die DIN SPEC schließt sich als dritter Teil einer Reihe von KI-Standards an. Die ersten beiden Dokumente – DIN SPEC 92001-1 und DIN SPEC 92001-2 – legen zum einen ein KI-Qualitäts-Metamodell und einen Lebenszyklus fest, um die allgemeinen KI-Qualitätskriterien Robustheit, Erklärbarkeit und Leistung hervorzuheben. Zum anderen spezifizieren sie Kriterien zur Sicherstellung der Robustheit von KI-Systemen. Die Normenreihe steht unter www.beuth.de zum kostenlosen Download bereit.