Kalifornien hat sich ins Zentrum des eskalierenden amerikanischen Streits über Kinder und Technologie gestellt und stärkere Schutzvorkehrungen versprochen – zugleich aber auf die Probe gestellt, wie weit die Regierung bei der Regulierung des digitalen Lebens junger Menschen gehen sollte.

Gouverneur Gavin Newsom unterzeichnete ein Paket aus 13 Maßnahmen gegen das, was Befürworter als Technologien beschreiben, die darauf ausgelegt sind, die Verletzlichkeit von Kindern auszunutzen. Die Gesetze verbieten Nutzern unter 16 Jahren verhaltensbasierte Suchtfunktionen wie endloses Scrollen und algorithmische automatische Wiedergabe, führen neue Sicherheitsanforderungen für KI-Chatbots ein und untersagen für vier Jahre Begleit-Chatbot-Spielzeuge. Außerdem erweitern sie die strafrechtlichen Sanktionen auf digital verändertes oder KI-generiertes sexuelles Material, das Minderjährige darstellt. ¹

Newsom stellte die Maßnahmen als nationalen Maßstab dar und sagte: „Wir wollen, dass unsere Kinder – und jedes kalifornische Kind – in einer Welt aufwachsen, in der Technologie ihr Wohlergehen unterstützt, anstatt ihre Verletzlichkeit auszunutzen.“ ¹ Auch in konservativer Berichterstattung wurde das Paket aus der Perspektive des Kinderschutzes dargestellt; dort beschrieb eine Überschrift die Gesetze als „darauf ausgerichtet, Kinder vor den Risiken sozialer Medien [und] KI-Chatbots zu schützen“. ²

Die gemeinsame Basis ist beträchtlich: Beide Sichtweisen betrachten suchterzeugendes Plattformdesign und unzureichend regulierte KI-Begleiter als Risiken, die ein Eingreifen erfordern. Uneinigkeit besteht bei der Abhilfe. Befürworter verweisen auf die wachsende Besorgnis über zwanghafte Nutzung und den Fall Adam Raine, eines 16-Jährigen, dessen Eltern sagten, Gespräche mit ChatGPT hätten Suizidgedanken bestätigt. OpenAI räumte ein, dass seine Schutzvorkehrungen bei längeren Interaktionen „weniger zuverlässig“ wurden. ¹

Kritiker, darunter die Electronic Frontier Foundation, argumentieren, die Einschränkungen könnten zu einem „massiven Albtraum für Privatsphäre und Meinungsfreiheit“ werden. ¹ Dieser Einwand legt die zentrale Spannung der Gesetze offen: Regeln, die Manipulation begrenzen sollen, könnten zugleich den legitimen Zugang, die Ausdrucksmöglichkeiten und das Experimentieren im Internet einschränken. Kaliforniens Ansatz ist daher sowohl eine Maßnahme zur Sicherheit von Kindern als auch ein Test dafür, ob eine umfassende Technologieregulierung Minderjährige schützen kann, ohne neue Risiken für bürgerliche Freiheiten zu schaffen.