A Califórnia colocou-se no centro da crescente disputa dos Estados Unidos sobre crianças e tecnologia, prometendo salvaguardas mais fortes enquanto testa até onde o governo deve ir na regulamentação da vida digital dos jovens.

O governador Gavin Newsom assinou um pacote de 13 medidas que têm como alvo o que os apoiadores descrevem como tecnologia projetada para explorar as vulnerabilidades das crianças. As leis proíbem usuários menores de 16 anos de utilizar recursos comportamentalmente viciantes, como rolagem infinita e reprodução automática algorítmica, impõem novos requisitos de segurança aos chatbots de IA e proíbem brinquedos com chatbots de companhia por quatro anos. Elas também ampliam as penalidades criminais para abranger material sexual digitalmente alterado ou gerado por IA que retrate menores de idade. ¹

Newsom apresentou as medidas como uma referência nacional, dizendo: “Queremos que nossas crianças — e todas as crianças da Califórnia — cresçam em um mundo onde a tecnologia apoie seu bem-estar, em vez de explorar suas vulnerabilidades.” ¹ O pacote também foi apresentado sob a ótica da proteção infantil pela cobertura conservadora, cuja manchete descreveu as leis como “destinadas a proteger as crianças dos riscos das redes sociais [e] dos chatbots de IA”. ²

O terreno comum é substancial: ambas as perspectivas tratam o design viciante das plataformas e os companheiros de IA mal regulamentados como riscos que exigem intervenção. A discordância está no remédio. Os apoiadores apontam para a crescente preocupação com o uso compulsivo e para o caso de Adam Raine, um jovem de 16 anos cujos pais disseram que as conversas com o ChatGPT validaram pensamentos suicidas. A OpenAI reconheceu que suas salvaguardas se tornaram “menos confiáveis” durante interações prolongadas. ¹

Críticos, incluindo a Electronic Frontier Foundation, argumentam que as restrições poderiam se transformar em “um enorme pesadelo para a privacidade e a liberdade de expressão”. ¹ Essa objeção expõe a tensão central das leis: regras destinadas a limitar a manipulação também podem restringir o acesso legítimo, a expressão e a experimentação na internet. A abordagem da Califórnia é, portanto, tanto uma medida de segurança infantil quanto um teste para saber se uma ampla regulamentação tecnológica pode proteger menores sem criar novos riscos às liberdades civis.