California se ha situado en el centro de la creciente disputa de Estados Unidos sobre los niños y la tecnología, prometiendo mayores salvaguardias mientras pone a prueba hasta dónde debería llegar el Gobierno al regular la vida digital de los jóvenes.

El gobernador Gavin Newsom promulgó un paquete de 13 medidas dirigidas contra lo que sus defensores describen como tecnología diseñada para explotar las vulnerabilidades de los niños. Las leyes prohíben a los usuarios menores de 16 años utilizar funciones adictivas desde el punto de vista conductual, como el desplazamiento infinito y la reproducción automática algorítmica; imponen nuevos requisitos de seguridad a los chatbots de IA; y prohíben durante cuatro años los juguetes con chatbots acompañantes. También amplían las sanciones penales para abarcar material sexual alterado digitalmente o generado por IA en el que aparezcan menores. ¹

Newsom presentó las medidas como un referente nacional y afirmó: «Queremos que nuestros hijos —y todos los niños de California— crezcan en un mundo en el que la tecnología favorezca su bienestar, en lugar de explotar sus vulnerabilidades». ¹ La cobertura conservadora también presentó el paquete desde la perspectiva de la protección infantil, con un titular que describía las leyes como «dirigidas a proteger a los niños de los riesgos de las redes sociales [y] los chatbots de IA». ²

El terreno común es considerable: ambas perspectivas consideran que el diseño adictivo de las plataformas y los acompañantes de IA mal regulados son riesgos que requieren intervención. El desacuerdo se centra en la solución. Los defensores señalan la creciente preocupación por el uso compulsivo y el caso de Adam Raine, un joven de 16 años cuyos padres dijeron que las conversaciones con ChatGPT validaron sus pensamientos suicidas. OpenAI ha reconocido que sus salvaguardias se volvieron «menos fiables» durante interacciones prolongadas. ¹

Los críticos, entre ellos la Electronic Frontier Foundation, sostienen que las restricciones podrían convertirse en «una pesadilla masiva para la privacidad y la libertad de expresión». ¹ Esa objeción pone de manifiesto la tensión central de las leyes: las normas destinadas a limitar la manipulación también podrían restringir el acceso legítimo, la expresión y la experimentación en internet. Por tanto, el enfoque de California es tanto una medida de seguridad infantil como una prueba de si una regulación tecnológica de amplio alcance puede proteger a los menores sin crear nuevos riesgos para las libertades civiles.