Die Ergebnisse von künstlicher Intelligenz sind nicht immer zuverlässig. Diese Unsicherheit lässt sich messen, um die Verwendung von KI sicherer zu machen. Der neue Standard DIN SPEC 92005 gibt dafür erste Anregungen.
Beim Einsatz von ML-Modulen treten unvermeidlich Szenarien ein, die in der Entwicklung der Technologie nicht berücksichtigt wurden. Denn die Realität ist so komplex, dass Trainings- und Testdaten für maschinelles Lernen sie nur unvollständig abbilden. Indem diese systematische Unsicherheit quantifiziert, also abgeschätzt wird, lässt sich die Verwendung von ML-Modulen innerhalb eines Gesamtsystems sicherer und robuster gestalten.
Hier setzt die neue DIN SPEC 92005 an: Unter dem Titel „Künstliche Intelligenz – Quantifizierung von Unsicherheiten im Maschinellen Lernen“ definiert das Deutsche Institut für Normung (DIN) wesentliche Begriffe für die sogenannte Unsicherheitsquantifizierung im maschinellen Lernen. Das Dokument formuliert Anforderungen sowie Richtlinien und gibt Anwendungsbeispiele. Ziel ist, Akteuren in Industrie und Wissenschaft Hinweise zu geben, wie sie mit der Quantifizierung von Unsicherheiten in der Praxis umgehen können.
Nicht nur unvollständige oder unklare Daten und Szenarien können Systemumgebungen mit ML-Modulen beeinflussen – auch zum Beispiel extreme Wetterbedingungen beim autonomen Fahren oder das unkonventionelle Verhalten anderer Akteure in der Anwendungsumgebung können die Ergebnisse einer KI prägen. „Künstliche Intelligenz ist die Grundlage für viele Anwendungen, die sich mit herkömmlicher Software nicht realisieren lassen. Damit sie auch in sensiblen Anwendungskontexten zum Einsatz kommen kann, müssen KI-Systeme sicher, robust und vertrauenswürdig sein. Die DIN SPEC liefert einen wichtigen Beitrag, um dies zu gewährleisten“, sagt Dr. Maximilian Poretschkin,, Teamleiter KI-Absicherung und -Zertifizierung am Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS.
Poretschkin ist auch Konsortialleiter des Forschungsprojekts ZERTIFIZIERTE KI, in dem DIN gemeinsam mit dem Fraunhofer-Institut für Intelligente Analyse- und Informationssysteme IAIS, dem Bundesamt für Sicherheit in der Informationstechnik (BSI) und weiteren wissenschaftlichen und industriellen Partnern die DIN SPEC 92005 erarbeitet haben. Sie steht hier zum kostenlosen Download bereit.