Der TÜV-Verband hat eine gesetzliche Regulierung von Produkten und Anwendungen mit Künstlicher Intelligenz (KI) gefordert, um die Sicherheit von Menschen und den Schutz der Umwelt in der digitalen Welt gewährleisten zu können. Sind beim Einsatz Künstlicher Intelligenz die Gesundheit von Menschen oder ihre elementaren Grundrechte in Gefahr, sollen die Systeme bestimmte Sicherheitsanforderungen erfüllen müssen.
Das gelte zum Beispiel für automatisierte Fahrzeuge, medizinische Diagnosen, mit Menschen interagierende Roboter oder Entscheidungssysteme, die Personen betreffen, , so Marc Fliehe, Leiter Digitalisierung und Cybersecurity beim TÜV-Verband (VdTÜV). Ziel sei es, den breiten Einsatz von KI zu fördern und gleichzeitig die damit einhergehenden Gefahren zu verringern.
KI-gestützte Anwendungen mit hohem Risiko sollten einer unabhängige Konformitätsbewertung unterliegen. So wird überprüft, ob die Anwendungen die gesetzlich formulierten Anforderungen erfüllen und sicher sind. Die Methoden der Konformitätsbewertung müssen mit der technologischen Entwicklung Schritt halten. Dafür müssen zum Teil völlig neue Verfahren und Methoden gefunden werden.
Aufgrund der Vielfalt möglicher Anwendungen sollten KI-gestützte Systeme in Risikoklassen eingeteilt und nach ihrem Gefährdungspotenzial reguliert werden. Die Maßnahmen können vom vollständigen Regulierungsverzicht über formelle Anforderungen wie Transparenzpflichten und – im nächsten Schritt – Zulassungsverfahren vor der Markteinführung bis zu einem Verbot besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen.
Der TÜV-Verband unterstützt damit die Pläne der EU-Kommission, die ihre Vorstellungen eines europäischen Rechtsrahmens im „Weißbuch zur Künstlichen Intelligenz“ zusammengefasst hat. Der europäische Rechtsrahmen trage aber den Herausforderungen nicht ausreichend Rechnung. Grundlegende Anforderungen sollten sowohl übergreifend als auch sektorspezifisch formuliert werden. Für die Einteilung in Risikoklassen müssen eindeutige Kriterien definiert werden. Die Risikobewertung bildet die Grundlage für Vorgaben an das jeweilige KI-System.
Die Verfügbarkeit sowie die Qualität der Daten ist ausschlaggebend für die Entwicklung und den Einsatz KI-gestützter Anwendungen. Eine zielführende KI-Regulierung setzt daher eine europäische Datenstrategie voraus.