Ein Großteil der Debatte über das vorgeschlagene EU-KIDS-Gesetz dreht sich um den Zugang von Kindern zu sozialen Medien, warnt Rechtsanwalt Peter Caddock in einem Meinungsbeitrag für The European Circle. Allerdings könnten neben den betreffenden Plattformen auch Unternehmen, deren Angebote sich nicht an Kinder richten, mit neuen Pflichten konfrontiert werden.
Ein Großteil der Debatte über das vorgeschlagene EU-KIDS-Gesetz konzentrierte sich auf den Zugang von Kindern zu sozialen Medien. Die Auswirkungen reichen jedoch weit über diese Plattformen hinaus. Auch Unternehmen, die Online-Diskussionsgruppen, Videospiele oder KI-Chatbots anbieten, könnten mit neuen Pflichten konfrontiert werden, selbst wenn ihre Dienste nicht auf Kinder ausgerichtet sind.
Das vorgeschlagene Gesetz würde Altersbeschränkungen, strengere Alterskontrollen und Anforderungen zur Integration von Kinderschutz in digitale Dienste einführen. Über die endgültige Form wird noch verhandelt, sie wirft jedoch wichtige Fragen für Unternehmensleiter auf: Was müsste sich ändern und wie können Schutzmaßnahmen wirksam sein, ohne den Wert der Dienstleistungen für die Kunden zu beeinträchtigen?
Wann wird ein KI-Chatbot zum Begleiter?
Der Vorschlag umfasst KI-Begleiter und allgemeine Konversations-Chatbots. Unter einem KI-Begleiter versteht man eine fortlaufende, personalisierte Interaktion, die eine soziale, emotionale oder zwischenmenschliche Beziehung simuliert oder fördert. Dies könnte über Produkte hinausgehen, die als virtuelle Freunde vermarktet werden.
Stellen Sie sich einen Kundenservice-Chatbot vor, der jemanden mit Namen begrüßt, sich an frühere Gespräche erinnert und Sicherheit bietet. Das macht es nicht automatisch zu einem KI-Begleiter, verdeutlicht aber die Notwendigkeit einer klaren Abgrenzung zwischen hilfreicher Personalisierung und Beziehungsaufbau.
Zu den vorgeschlagenen Schutzmaßnahmen gehören neben Test- und Überwachungspflichten auch die Verhinderung von Merkmalen, die eine emotionale Abhängigkeit hervorrufen können. Doch wie sollten Anbieter die Abhängigkeit beurteilen? Beruhigung, die für einen Benutzer zur Routine gehört, kann für einen isolierten Teenager besonders wichtig sein. Es ist nicht unbedingt die Lösung, jeden Chatbot unpersönlich zu machen. Unternehmen brauchen daher klare Standards, die nützliche Unterstützung von schädlicher Bindung unterscheiden.
Überschneidungen mit bestehenden EU-Vorschriften
Das KIDS-Gesetz würde auf den Schutzmaßnahmen für Minderjährige im Digital Services Act aufbauen und gleichzeitig die Verpflichtungen auf Dienste außerhalb seines Geltungsbereichs ausweiten. Es würde auch neben dem KI-Gesetz, den Vorschriften für audiovisuelle Medien und den Verbraucherschutzgesetzen stehen. Unternehmen müssten diese Anforderungen gemeinsam bewerten, anstatt für jede einzelne separate Compliance-Programme zu erstellen.
Auch Altersüberprüfungen werfen datenschutzrechtliche Fragen auf. Anbieter müssen überlegen, welche personenbezogenen Daten sie benötigen, ob sie eine Rechtsgrundlage für deren Nutzung haben und wie viele sie speichern oder weitergeben. Der Schutz von Kindern sollte nicht bedeuten, unnötige Informationen über alle Benutzer zu sammeln.
Lediglich automatisierte Entscheidungen, die den Zugang zu einem Dienst erheblich beeinträchtigen, können zusätzliche DSGVO-Schutzmaßnahmen auslösen. Es gibt kein generelles Verbot automatisierter Entscheidungen, an denen Kinder beteiligt sind, aber ihre besonderen Schutzmaßnahmen müssen sorgfältig geprüft werden. Zugangsbeschränkungen müssen auch die Meinungsfreiheit und den Zugang von Kindern zu Informationen respektieren.
Was müssen Anbieter digitaler Dienste ändern?
Eine auf Erwachsene ausgerichtete Gemeinschaft, wie etwa ein Elternforum, kann sich nicht unbedingt darauf verlassen, dass ihre Zielgruppe Pflichten gegenüber Kindern vermeidet. Auch kleinere Unternehmen sollten nicht davon ausgehen, dass sie von der Steuer befreit sind. Je nach Dienst können aus Compliance-Gründen Änderungen an der Registrierung, dem Inhaltszugriff, den Standardeinstellungen und dem Schnittstellendesign erforderlich sein.
Der Vorschlag unterscheidet zwischen verschiedenen Arten der Alterssicherung. Für die Altersüberprüfung wäre eine zertifizierte Drittanbieterlösung erforderlich; Andere Formen der Alterssicherung könnten andere Methoden nutzen, die den gesetzlichen Anforderungen entsprechen. Eine bloße Aufforderung an die Nutzer, ihr Alter anzugeben, würde nicht ausreichen.
Süchtig machendes Design stellt eine weitere Herausforderung dar. Mehr Zeit, die für eine Dienstleistung aufgewendet wird, kann auf ein schädliches Engagement hindeuten, kann aber auch auf Nützlichkeit oder Freude hinweisen. Anbieter benötigen klare Risikoindikatoren und angemessene Testerwartungen und nicht die Verpflichtung, vorherzusagen, wie jedes Kind reagieren könnte.
Für Unternehmensleiter sollte die Vorbereitung damit beginnen, potenziell betroffene Funktionen abzubilden, den Zugriff von Kindern zu bewerten und zu ermitteln, wo sich Produktdesign und Datenschutzanforderungen überschneiden. Daran sollten Rechts-, Produkt- und Technologieteams beteiligt sein, nicht nur Compliance-Spezialisten. Eine frühzeitige Planung kann dazu beitragen, überstürzte Änderungen zu vermeiden, die Dienste oder Benutzerbeziehungen beeinträchtigen.
Auch wenn die Rechtsunsicherheiten beseitigt sind, bleibt die Frage der Wirksamkeit eine gesonderte Frage. Ein Nein zu einem Teenager bedeutet nicht, dass die Einschränkung respektiert wird. Ein rechtlich durchführbares Gesetz zu schaffen, ist Teil eins. Teil zwei besteht darin, sicherzustellen, dass es in der Praxis einen sinnvollen Schutz bietet.
