California ha dejado claro un principio: un algoritmo puede informar una decisión laboral, pero no puede interponerse por sí solo entre un empleado y la pérdida de su empleo. Sin embargo, la promesa de rendición de cuentas de la nueva ley se ve acompañada por la preocupación empresarial de que sus límites sigan sin estar claros.

La medida del gobernador Gavin Newsom prohíbe a los empleadores basarse únicamente en sistemas automatizados de toma de decisiones para sancionar o despedir a trabajadores. Cuando la IA se utiliza como base principal para una medida de ese tipo, un revisor humano debe corroborar la decisión con información adicional, incluidas evaluaciones, revisiones de compañeros o registros de personal. Los trabajadores también deben recibir una notificación por escrito, una descripción de los datos utilizados y acceso a una persona de contacto que pueda explicar el resultado.¹

La cobertura conservadora presenta ampliamente la medida como un esfuerzo para “proteger a los trabajadores de los riesgos de la IA”, haciendo hincapié en su justificación de seguridad laboral sin respaldar la campaña regulatoria más amplia.² La perspectiva liberal la presenta de forma más contundente como la “Ley contra los jefes robóticos”, describiendo la ley como una victoria histórica para el movimiento obrero organizado y un rechazo directo a la gestión exclusivamente basada en máquinas.

Sus defensores sostienen que los programas informáticos laborales pueden reproducir sesgos o cometer errores con consecuencias importantes. “Ningún trabajador debería ser despedido o sancionado por una máquina”, afirmó el senador estatal demócrata Jerry McNerney, quien añadió que la IA debe seguir siendo “una herramienta controlada por seres humanos, y no al revés”.¹ La líder sindical Lorena Gonzalez también calificó la ley como una prueba de que los trabajadores y los sindicatos pueden “contraatacar y ganar” frente a la expansión de la IA en el lugar de trabajo.¹

A los opositores les preocupa menos si los seres humanos deben seguir participando que cuándo se activa la ley. Robert Singleton, representante de Chamber of Progress, sostuvo que la expresión “se basa principalmente” no está definida, lo que podría desalentar el uso de herramientas que mejoran la coherencia o identifican riesgos de seguridad.¹ El propio Newsom vetó una versión anterior debido a sus amplias normas de notificación, pero las revisiones eliminaron los requisitos de aviso previo y acotaron el alcance del proyecto. California ha optado, por tanto, por un compromiso: un control estricto de las decisiones de IA de alto impacto, acompañado de un estándar jurídico que, según las empresas, aún podría ser difícil de interpretar.