Eine Umfrage der British Standards Institution zeigt: KI-fähige Spielzeuge und Lernsysteme sind bereits im Kinderzimmer angekommen – obwohl viele Eltern Sicherheits-, Datenschutz- und Entwicklungsrisiken sehen. Die BSI fordert deshalb klare Standards, Kennzeichnungen und einen konsequenten „Safety by Design“-Ansatz.
KI-gestützte Spielzeuge, interaktive Roboter, Lern-Tablets oder Chatbot-Anwendungen für Kinder werden zunehmend Teil des Alltags. Nach einer aktuellen Untersuchung der British Standards Institution (BSI) haben bereits 50 % der Kinder im Vereinigten Königreich ein KI-fähiges Spielzeug oder Lernsystem erhalten; 38 % besitzen sogar zwei oder mehr solcher Produkte. Befragt wurden 1.000 Eltern von Kindern bis 16 Jahre.
Die Ergebnisse zeigen ein Spannungsfeld: Viele Eltern ermöglichen ihren Kindern die Nutzung von KI-Produkten, haben aber zugleich erhebliche Bedenken. So befürchten 75 %, dass mit dem Internet verbundene KI-Spielzeuge Kinder unerwünschten Inhalten oder Datenrisiken aussetzen könnten. 78 % sorgen sich, dass Geräte auf sensible Fragen antworten könnten, ohne dass Eltern dies kontrollieren können. Zudem glauben weniger als die Hälfte der Eltern, dass ihr Kind zwischen einem Menschen und einer KI unterscheiden kann.
Eltern sehen Chancen – aber auch erhebliche Risiken
Die BSI-Umfrage macht deutlich, dass Eltern KI-Produkten nicht grundsätzlich ablehnend gegenüberstehen. 69 % würden ein KI-fähiges Spielzeug eher kaufen, wenn es Bildungsinhalte bietet. Für Hausaufgaben halten 60 % der Eltern die Interaktion mit KI für akzeptabel.
Gleichzeitig bestehen deutliche Vorbehalte gegenüber Einsatzszenarien, die emotionale, soziale oder sensible Themen betreffen. 65 % der Eltern sorgen sich, dass KI-Spielzeuge echte Freundschaften oder emotionale Bindungen ersetzen könnten. 47 % sind sogar der Ansicht, Kinder wären besser dran, wenn sie ganz ohne Zugang zu KI aufwachsen würden.
Besonders kritisch bewertet die BSI sogenannte „Companion Chatbots“, also KI-Systeme, die Gespräche und emotionale Nähe simulieren. Diese könnten insbesondere bei jüngeren Kindern die Grenze zwischen menschlicher Beziehung und künstlicher Interaktion verwischen.
Bedarf an Standards, Zertifizierungen und transparenter Kennzeichnung
Aus Sicht der BSI zeigt die Untersuchung, dass die technische Entwicklung schneller voranschreitet als die verfügbaren Leitplanken für sichere, altersgerechte und transparente Nutzung. Die Organisation fordert daher einen Ansatz, bei dem Sicherheit bereits in der Produktentwicklung berücksichtigt wird – also „Safety by Design“.
Zwar können Eltern bei Spielzeugen derzeit auf Kennzeichnungen wie CE oder UKCA achten. Diese beziehen sich jedoch vor allem auf klassische Produktsicherheitsrisiken, etwa verschluckbare Kleinteile. Für KI-spezifische Risiken – etwa Verhalten, Datenverarbeitung, altersgerechte Interaktion oder entwicklungspsychologische Auswirkungen – fehlt laut BSI bislang ein allgemein anerkanntes, spezielles Rahmenwerk.
Die Nachfrage nach solchen Orientierungshilfen ist hoch: 91 % der befragten Eltern halten ein anerkanntes Sicherheitszertifikat oder Prüfzeichen für KI-Spielzeug für wichtig, 29 % sogar für unverzichtbar. 83 % erwarten, dass Hersteller etablierte Standards oder Verhaltenskodizes einhalten. 72 % wünschen sich klarere Informationen darüber, ob Produkte Sicherheits- oder Informationssicherheitsanforderungen erfüllen.
Relevanz für Managementsysteme
Für Unternehmen und Managementsystembeauftragte ist das Thema nicht nur im Bereich Spielwaren relevant. KI-fähige Verbraucherprodukte zeigen exemplarisch, welche Anforderungen künftig stärker in Managementsystemen berücksichtigt werden müssen.
Qualitätsmanagement
Für das Qualitätsmanagement stehen insbesondere Produktsicherheit, Zweckbestimmung, Nutzerinformation und Konformitätsbewertung im Mittelpunkt. Hersteller KI-basierter Produkte müssen sicherstellen, dass Funktionen nachvollziehbar, kontrollierbar und altersgerecht gestaltet sind. Qualitätsanforderungen sollten daher nicht erst bei der Endprüfung, sondern bereits in Entwicklung, Risikobewertung und Lieferkettensteuerung verankert werden.
Informationssicherheitsmanagement
KI-Spielzeuge und vernetzte Lernsysteme verarbeiten potenziell sensible Daten, etwa Spracheingaben, Nutzungsverhalten oder Interaktionsmuster. Damit werden Informationssicherheit, sichere Softwareentwicklung, Schwachstellenmanagement und Schutz vor unerwünschten Zugriffen zentrale Anforderungen. Die BSI verweist in diesem Zusammenhang unter anderem auf Standards wie ISO/IEC 27001 sowie auf Prüfzeichen für sichere digitale Anwendungen und IoT-Produkte.
Datenschutzmanagement
Aus Datenschutzsicht sind insbesondere Transparenz, Zweckbindung, Datenminimierung, Einwilligung, Altersangemessenheit und besondere Schutzbedürftigkeit von Kindern relevant. Eltern benötigen verständliche Informationen darüber, welche Daten ein Produkt erhebt, wie diese verarbeitet werden und ob Dritte Zugriff darauf erhalten. Für Anbieter bedeutet dies: Datenschutz muss nicht nur dokumentiert, sondern nutzerverständlich und produktnah umgesetzt werden.
KI-Management
Die BSI verweist außerdem auf ihre Rolle bei der Entwicklung verantwortungsvoller KI-Strukturen, unter anderem im Zusammenhang mit ISO/IEC 42001, dem internationalen Managementsystemstandard für künstliche Intelligenz. KI-fähige Spielzeuge machen deutlich, dass KI-Governance künftig auch dort erforderlich ist, wo Systeme unmittelbar mit besonders schutzbedürftigen Nutzergruppen interagieren.
Fazit
Die BSI-Untersuchung zeigt, dass KI-Spielzeuge und Lernsysteme bereits breit genutzt werden, während spezifische Sicherheits-, Datenschutz- und Entwicklungsstandards noch im Aufbau sind. Für Hersteller, Händler und Anbieter digitaler Produkte ergibt sich daraus ein klarer Handlungsauftrag: Sicherheit, Datenschutz, Transparenz und altersgerechte Gestaltung müssen von Beginn an in die Produktentwicklung integriert werden. Für Managementsysteme bedeutet dies, KI-bezogene Risiken systematisch zu erfassen und mit geeigneten organisatorischen, technischen und normativen Maßnahmen zu steuern.
Hier geht es zur Meldung des BSI