A Califórnia deixou um princípio claro: um algoritmo pode informar uma decisão no local de trabalho, mas não pode ficar sozinho entre um funcionário e a perda do emprego. A promessa de responsabilização da nova lei, contudo, é acompanhada por preocupações empresariais de que seus limites continuam indefinidos.

A medida do governador Gavin Newsom proíbe os empregadores de depender exclusivamente de sistemas automatizados de tomada de decisão para disciplinar ou demitir trabalhadores. Quando a IA é usada como base principal para tal medida, um revisor humano deve corroborar a decisão com informações adicionais, incluindo avaliações, análises de colegas ou registros funcionais. Os trabalhadores também devem receber uma notificação por escrito, uma descrição dos dados utilizados e acesso a um contato humano que possa explicar o resultado.¹

A cobertura conservadora descreve amplamente a medida como um esforço para “proteger os trabalhadores dos riscos da IA”, enfatizando sua justificativa de segurança dos trabalhadores sem endossar a campanha regulatória mais ampla.² A abordagem liberal a apresenta de forma mais contundente como a “Lei dos Chefes Robôs Não”, retratando a lei como uma vitória histórica do movimento sindical e uma rejeição direta à gestão exclusivamente automatizada.

Os apoiadores argumentam que os softwares usados no local de trabalho podem reproduzir preconceitos ou cometer erros com consequências importantes. “Nenhum trabalhador deveria jamais ser demitido ou punido por uma máquina”, disse o senador estadual democrata Jerry McNerney, acrescentando que a IA deve continuar sendo “uma ferramenta controlada por seres humanos, e não o contrário”.¹ A líder sindical Lorena Gonzalez afirmou de forma semelhante que a lei é uma prova de que trabalhadores e sindicatos podem “reagir e vencer” diante da expansão da IA no local de trabalho.¹

A preocupação dos opositores diz menos respeito à permanência da participação humana e mais a quando a lei é acionada. O representante da Chamber of Progress, Robert Singleton, argumentou que a expressão “depende principalmente” não é definida, o que poderia desestimular ferramentas que melhoram a consistência ou identificam riscos à segurança.¹ O próprio Newsom vetou uma versão anterior por causa de regras de notificação amplas, mas as revisões removeram as exigências de aviso prévio e restringiram o alcance do projeto. A Califórnia escolheu, portanto, um compromisso: forte escrutínio das decisões de IA de alto impacto, acompanhado de um padrão jurídico que, segundo as empresas, ainda pode ser difícil de interpretar.