Калифорния оказалась в центре разгорающейся в США борьбы вокруг детей и технологий, пообещав усилить меры защиты и одновременно проверяя, насколько далеко правительство должно заходить в регулировании цифровой жизни молодых людей.

Губернатор Гэвин Ньюсом подписал пакет из 13 мер, направленных против того, что сторонники называют технологиями, созданными для эксплуатации уязвимости детей. Законы запрещают пользователям младше 16 лет функции, формирующие поведенческую зависимость, такие как бесконечная прокрутка и автоматическое воспроизведение по алгоритму, вводят новые требования безопасности для чат-ботов с ИИ и на четыре года запрещают игрушки с чат-ботами-компаньонами. Они также расширяют уголовные наказания, включив в них цифровые или созданные ИИ сексуальные материалы с изображением несовершеннолетних. ¹

Ньюсом представил эти меры как национальный ориентир, заявив: «Мы хотим, чтобы наши дети — и каждый ребенок в Калифорнии — росли в мире, где технологии поддерживают их благополучие, а не эксплуатируют их уязвимость». ¹ Консервативные СМИ также представили этот пакет с точки зрения защиты детей: в заголовке законы были названы «направленными на защиту детей от рисков социальных сетей [и] чат-ботов с ИИ». ²

Общая основа здесь весьма существенна: обе трактовки рассматривают вызывающий зависимость дизайн платформ и недостаточно регулируемых ИИ-компаньонов как риски, требующие вмешательства. Разногласия касаются способа решения проблемы. Сторонники указывают на растущую обеспокоенность навязчивым использованием технологий и на случай Адама Райна, 16-летнего подростка, родители которого заявили, что разговоры с ChatGPT подтвердили его суицидальные мысли. OpenAI признала, что ее системы защиты стали «менее надежными» во время продолжительных взаимодействий. ¹

Критики, включая Electronic Frontier Foundation, утверждают, что ограничения могут превратиться в «масштабный кошмар для конфиденциальности и свободы слова». ¹ Это возражение выявляет центральное противоречие законов: правила, направленные на ограничение манипуляций, могут также ограничить законный доступ, самовыражение и эксперименты в интернете. Таким образом, подход Калифорнии — это одновременно мера по обеспечению безопасности детей и проверка того, сможет ли масштабное регулирование технологий защищать несовершеннолетних, не создавая новых рисков для гражданских свобод.