La Californie s’est placée au cœur de l’escalade du débat américain sur les enfants et la technologie, en promettant des protections renforcées tout en testant jusqu’où le gouvernement devrait aller dans la régulation de la vie numérique des jeunes.

Le gouverneur Gavin Newsom a signé un ensemble de 13 mesures ciblant ce que leurs défenseurs décrivent comme des technologies conçues pour exploiter les vulnérabilités des enfants. Les lois interdisent aux utilisateurs de moins de 16 ans l’accès à des fonctionnalités favorisant la dépendance comportementale, comme le défilement infini et la lecture automatique algorithmique, imposent de nouvelles exigences de sécurité aux chatbots d’IA et interdisent pendant quatre ans les jouets équipés de chatbots compagnons. Elles étendent également les sanctions pénales afin de couvrir les contenus sexuels représentant des mineurs, lorsqu’ils ont été modifiés numériquement ou générés par IA. ¹

Newsom a présenté ces mesures comme une référence nationale, déclarant : « Nous voulons que nos enfants — et chaque enfant californien — grandissent dans un monde où la technologie favorise leur bien-être plutôt qu’elle n’exploite leurs vulnérabilités. » ¹ L’ensemble de mesures a également été présenté sous l’angle de la protection de l’enfance dans une couverture conservatrice, dont le titre décrivait les lois comme « visant à protéger les enfants contre les risques des réseaux sociaux [et] des chatbots d’IA ». ²

Le terrain d’entente est substantiel : les deux présentations considèrent la conception addictive des plateformes et les compagnons d’IA insuffisamment réglementés comme des risques nécessitant une intervention. Le désaccord porte sur le remède. Les défenseurs de ces mesures soulignent l’inquiétude croissante concernant l’usage compulsif et le cas d’Adam Raine, un adolescent de 16 ans dont les parents ont déclaré que les conversations avec ChatGPT avaient validé ses pensées suicidaires. OpenAI a reconnu que ses mesures de protection étaient devenues « moins fiables » au cours d’interactions prolongées. ¹

Les critiques, dont l’Electronic Frontier Foundation, soutiennent que ces restrictions pourraient devenir « un cauchemar massif pour la vie privée et la liberté d’expression ». ¹ Cette objection révèle la tension centrale des lois : les règles visant à limiter la manipulation pourraient également restreindre l’accès légitime, l’expression et l’expérimentation en ligne. L’approche californienne constitue donc à la fois une mesure de sécurité pour les enfants et un test visant à déterminer si une réglementation technologique de grande ampleur peut protéger les mineurs sans créer de nouveaux risques pour les libertés civiles.