Acht Handlungsempfehlungen an Normungsgremien und interessierte Fachkreise formuliert das jetzt veröffentlichte Whitepaper „Ethik und künstliche Intelligenz: Was können Normen und Standards leisten?“ Sie antworten auf die Frage, wie technische Standards ethisch wertvolles Verhalten einer KI-gesteuerten autonomen Maschine sicherstellen können.
Ziel des vom Bundeswirtschaftsministerium geförderte Projekt „Ethikaspekte in der Normung und Standardisierung für Künstliche Intelligenz in autonomen Maschinen und Fahrzeugen“ war es, den Stand der Normung im interdisziplinären Themenfeld KI und Ethik darzustellen sowie mögliche zukünftige Handlungsfelder der Normung und Standardisierung aufzuzeigen. Die Ergebnisse wurden vom DIN und VDE gemeinsam mit insgesamt 77 Expertinnen und Experten aus Wirtschaft, Wissenschaft und Forschung, öffentlicher Hand und Zivilgesellschaft wurden in Workshops erarbeitet.
Unter anderem wird empfohlen, dass sich die entsprechenden Normungsgremien in ihren Themenbereichen mit dem Aufstellen von konkreten Prüfkriterien befassen sollen, mit denen eine KI auf die Achtung der Autonomie des Menschen überprüft werden kann. Weitere Prüfkriterien fordert das Projektteam zum Beispiel in Bezug auf die Erklärbarkeit, Rückverfolgbarkeit, Überprüfbarkeit, Sicherheit und den Datenschutz. KI-Systeme sollten vor externem Zugriff gesichert sein und nicht zur Gefahr für ihre Umwelt werden.
Bei KI-Systemen mit hohem oder erheblichem Gefährdungspotential wird eine Risikoanalyse empfohlen, die beide Aspekte prüft, um Schäden vom Einzelnen und/oder der Gesellschaft abzuwenden. Für den Bereich des Datenschutzes wird aufgezeigt, dass Normen und Standards gesetzliche Vorgaben unterstützen und präzisieren können.
Die Ergebnisse des Whitepapers werden in die Normungsroadmap KI einfließen, die als Teil der nationalen KI-Strategie der Bundesregierung auf dem Digitalgipfel der Bundesregierung am 30. November 2020 vorgestellt wird.
Erhältlich ist das Whitepaper hier.