In Wirtschaft und Verwaltung herrscht seit ChatGPT in weiten Teilen Aktionismus beim Einsatz von Künstlicher Intelligenz (KI). 43 Prozent der Unternehmen und Behörden besitzen bislang keine speziellen Regelwerke und Richtlinien, eine so genannte KI-Governance. Durch die unkontrollierte Nutzung droht ihnen ein Wildwuchs und damit ein unerwünschter Mehraufwand. Zudem steigen durch die Intransparenz und fehlende Regeln die künftigen Compliance-Kosten. Das geht aus der Studie Managementkompass Survey Good Company von Sopra Steria hervor.
KI etabliert sich sukzessive als Standardtechnologie. Nur 18 Prozent der für den Managementkompass Survey befragten Entscheiderinnen und Entscheider geben an, dass ihre Organisation bislang keine KI nutzt. Zudem steigt der KI-Anteil an den IT-Budgets. Jede zweite Organisation plant, in den kommenden Jahren mehr als 20 Prozent ihres IT-Budgets für die Integration von KI-Systemen einzusetzen. Knapp jedes fünfte Unternehmen rechnet damit, mehr als 30 Prozent zu investieren. Das ergibt eine Online-Panelbefragung von 100 Entscheiderinnen und Entscheidern, die Marktforscher Sago zusätzlich zum Managementkompass Survey für Sopra Steria im August und September durchgeführt hat.
Mit der zunehmenden KI-Nutzung steigen die strategischen Anforderungen, wenn Unternehmen und Behörden ihre Ziele wie neue Geschäftsmodelle, Effizienz oder die Entlastung von Personal erreichen wollen. „Das KI-Potenzial schöpfen Unternehmen und Behörden dann aus, wenn sie die KI-Technologien, inklusive KI-Governance, in ihre Gesamtstrategie einbetten. Ansonsten droht ein Wildwuchs, der die Kosten für die CIOs unnötig nach oben treibt und die positiven Effekte dämpft“, sagt Christian Wrage, Vorstandssprecher von Sopra Steria.
Gleichzeitig steigt der Regulierungsbedarf – sowohl extern durch die Politik als auch intern durch die KI-nutzenden Organisationen. Risiken wie Datenmissbrauch, Manipulation, Diskriminierung oder der Wegfall von Arbeitsplätzen sollen durch Vorschriften wie den AI Act der EU, den freiwilligen Verhaltenskodex der G7-Staaten oder eine beim AI Safety Summit verabredete Zusammenarbeit eingedämmt und das Investitionsklima verbessert werden. 47 Prozent der befragten Unternehmen und Behörden sprechen sich für einen gesetzlichen Rahmen der KI-Nutzung aus, der ethische Grundsätze integriert, so der Managementkompass Survey Good Company.
Interne Vorgaben für den vertrauenswürdigen Einsatz von KI sind in Deutschland noch die Ausnahme. Bislang verfügen nur neun Prozent der befragten Unternehmen und Behörden über schriftlich festgelegte Leitlinien für den KI-Einsatz. Zehn Prozent haben den Mitarbeitenden mündliche Empfehlungen gegeben. Sie informieren zum Beispiel über systematische Verzerrungen und frei erfundene Informationen von generativer KI wie ChatGPT oder über eingebaute Vorurteile in den Daten oder Algorithmen (Bias). Die Mehrheit der Befragten hält die aktuellen Vorgaben und die Informationen für ausreichend. Nur sieben Prozent finden die eigene Organisation intransparent, was die Nutzung von KI angeht.
Unternehmen und Verwaltungen profitieren jedoch, wenn sie ihren Compliance-Apparat und ihr Risikomanagement aktiv an den KI-Einsatz anpassen. Organisationen, die KI-Anwendungen systematisch bewerten und Transparenz über IT-Lösungen mit eingebauter KI schaffen, werden kommende gesetzliche Vorschriften schneller umsetzen, Compliance-Kosten senken und sich stärker auf das Innovationspotenzial von KI fokussieren können.
„Unternehmen sollten nicht auf den Gesetzgeber warten, sondern frühzeitig eine KI-Governance etablieren. Wenn sich eine „Good Practice“ etabliert, kann diese die Eingriffsdynamik der Regulatoren mindern und regulatorische Eingriffe eventuell sogar überflüssig machen“, sagt Armin Rheinbay, Leiter Risikomanagement bei Sopra Steria Next. Der Managementberater spricht sich zudem für eine Verzahnung der internen Regelwerke aus: „Trotz des besonderen Stellenwerts der KI-Governance sollte sie in Corporate Governance, die IT-Governance und die Data-Governance eingebettet werden“.
Der Managementkompass Survey erscheint dreimal pro Jahr. Für diese Ausgabe zum Thema „Good Company“ befragte im September 2023 F.A.Z. Business Media | research 371 Entscheiderinnen und Entscheider aus Wirtschaft und öffentlicher Verwaltung in Deutschland. Es ging darum, wie stark ethische Grundsätze sowie ökologische, soziale und unternehmerische Verantwortung in den Strategien und Maßnahmen verankert sind. Der Umgang mit dem Einsatz von KI ist ein Teilaspekt der Studie. Deren Gesamtergebnisse finden Sie hier.