Künstliche Intelligenz (KI) hält zunehmend Einzug in den Arbeitsalltag vieler Beschäftigter – so auch im Gesundheitswesen. Steht die flächendeckende Anwendung in diesem Bereich noch in den Anfängen, sind die künftigen Einsatzmöglichkeiten doch vielfältig: ob Spracherkennung in der Pflege, Roboter für den Materialtransport in Krankenhäusern oder Assistenzsysteme zur Diagnostik. In Werkstattgesprächen mit Expertinnen und Experten aus den Bereichen Forschung, Krankenkassen, Politik, Verbände und Gewerkschaften, der Unfallversicherungsträger, Regulierungsbehörden und Pflegedienstleister hat die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin (BAuA) beraten wie arbeitswissenschaftliche und ethische Kriterien stärker in die Entwicklung und Anwendung von KI-Systemen integriert werden können. Die Ergebnisse sind nun in einem Bericht veröffentlicht.
KI-gestützte Systeme können Arbeitsprozesse optimieren und Fachkräfte im Gesundheitswesen entlasten. Der Einsatz kann jedoch auch neue Risiken mit sich bringen, wie etwa Überforderung, Entfremdung oder Dequalifizierung. Deshalb sollte nicht nur die KI selbst, sondern auch ihre Einbettung in bestehende Arbeitsprozesse im Fokus stehen. Arbeitswissenschaftliche Kriterien wie Ganzheitlichkeit, Technikzuverlässigkeit oder Interaktionsförderlichkeit sind dabei ebenso entscheidend wie ethische Prinzipien – etwa Schadensverhütung, Erklärbarkeit oder gesellschaftliches Wohlergehen.
In zwei Werkstattgesprächen wurden konkrete Eingriffspunkte entlang des Lebenszyklus eines KI-Systems identifiziert – von der Entwicklung über den Betrieb bis hin zu einer regelmäßigen Evaluation. Ziel ist es, KI-Anwendungen von Beginn an so zu gestalten, dass sie Beschäftigte entlasten und gleichzeitig sicher und menschengerecht sind. Die Expertinnen und Experten plädieren für konkrete Umsetzungshilfen wie ethische Checklisten, standardisierte Bewertungsverfahren oder einen „Beipackzettel“ für KI-Anwendungen, der über Risiken und Einsatzbedingungen aufklärt. Langfristig braucht es außerdem klare Zuständigkeiten zwischen Herstellern und Betreibern sowie eine kontinuierliche Überwachung der Systeme im Betrieb.
Alle Akteure entlang der KI-Wertschöpfungskette tragen Verantwortung für eine gemeinwohlorientierte und humane KI-Gestaltung im Gesundheitswesen. Es ist daher entscheidend, wirksame Eingriffspunkte zur Umsetzung dieses Ziels zu identifizieren und aktiv anzugehen.
Der baua: Bericht kompakt „Menschengerechte Gestaltung Künstlicher Intelligenz im Gesundheitswesen – Impulse aus zwei Werkstattgesprächen“ kann als PDF auf der Internetseite der BAuA heruntergeladen werden.