La Californie a clairement établi un principe : un algorithme peut éclairer une décision professionnelle, mais il ne peut pas s’interposer seul entre un salarié et la perte de son emploi. La promesse de responsabilité de la nouvelle loi s’accompagne toutefois de préoccupations des entreprises, qui estiment que ses limites restent floues.

La mesure du gouverneur Gavin Newsom interdit aux employeurs de s’appuyer exclusivement sur des systèmes automatisés de prise de décision pour sanctionner ou licencier des travailleurs. Lorsque l’IA constitue le fondement principal d’une telle mesure, un examinateur humain doit corroborer la décision à l’aide d’informations supplémentaires, notamment des évaluations, des évaluations par les pairs ou des dossiers du personnel. Les travailleurs doivent également recevoir une notification écrite, une description des données utilisées et l’accès à un interlocuteur humain capable d’expliquer le résultat.¹

La couverture conservatrice présente largement cette mesure comme une initiative visant à « protéger les travailleurs contre les risques liés à l’IA », en soulignant sa justification liée à la sécurité des travailleurs sans approuver la campagne réglementaire plus vaste.² Le récit libéral la présente plus directement comme la « loi No Robo Bosses », décrivant la loi comme une victoire historique pour le mouvement syndical et un rejet direct de la gestion exclusivement automatisée.

Ses défenseurs estiment que les logiciels utilisés sur le lieu de travail peuvent reproduire des biais ou commettre des erreurs lourdes de conséquences. « Aucun travailleur ne devrait jamais être licencié ou sanctionné par une machine », a déclaré le sénateur démocrate de l’État Jerry McNerney, ajoutant que l’IA devrait rester « un outil contrôlé par les humains, et non l’inverse ».¹ La dirigeante syndicale Lorena Gonzalez a de même présenté la loi comme la preuve que les travailleurs et les syndicats peuvent « riposter et gagner » face à l’expansion de l’IA sur le lieu de travail.¹

La préoccupation des opposants porte moins sur la nécessité de maintenir l’intervention humaine que sur le moment où la loi s’applique. Robert Singleton, représentant de la Chamber of Progress, a fait valoir que l’expression « s’appuie principalement » n’est pas définie, ce qui pourrait décourager l’utilisation d’outils améliorant la cohérence ou permettant d’identifier les risques pour la sécurité.¹ Newsom lui-même avait opposé son veto à une version antérieure en raison de règles de notification trop larges, mais les révisions ont supprimé les exigences de notification préalable et réduit la portée du projet de loi. La Californie a donc choisi un compromis : un contrôle strict des décisions de l’IA à fort enjeu, assorti d’une norme juridique que les entreprises jugent encore difficile à interpréter.