La California ha chiarito un principio: un algoritmo può contribuire a una decisione sul posto di lavoro, ma non può interporsi da solo tra un dipendente e la perdita del posto. Tuttavia, la promessa di responsabilità della nuova legge è accompagnata dalle preoccupazioni delle imprese, secondo cui i suoi confini restano poco chiari.

Il provvedimento del governatore Gavin Newsom vieta ai datori di lavoro di basarsi esclusivamente su sistemi decisionali automatizzati per sanzionare o licenziare i lavoratori. Quando l’IA viene utilizzata come base principale per tale provvedimento, un revisore umano deve corroborare la decisione con informazioni aggiuntive, comprese valutazioni, revisioni tra pari o documenti del personale. I lavoratori devono inoltre ricevere una comunicazione scritta, una descrizione dei dati utilizzati e l’accesso a un referente umano in grado di spiegare l’esito.¹

La copertura conservatrice presenta in senso ampio il provvedimento come uno sforzo per “proteggere i lavoratori dai rischi dell’IA”, sottolineandone la motivazione legata alla sicurezza dei lavoratori senza appoggiare la più ampia campagna normativa.² La versione liberal lo presenta invece in modo più diretto come il “No Robo Bosses Act”, descrivendo la legge come una vittoria storica per il movimento sindacale e un netto rifiuto della gestione affidata esclusivamente alle macchine.

I sostenitori sostengono che i software usati sul posto di lavoro possano riprodurre pregiudizi o commettere errori dalle conseguenze rilevanti. “Nessun lavoratore dovrebbe mai essere licenziato o sanzionato da una macchina”, ha dichiarato il senatore democratico statale Jerry McNerney, aggiungendo che l’IA dovrebbe restare “uno strumento controllato dagli esseri umani, non il contrario”.¹ Anche la leader sindacale Lorena Gonzalez ha definito la legge una prova del fatto che lavoratori e sindacati possono “reagire e vincere” contro l’espansione dell’IA nel mondo del lavoro.¹

La preoccupazione degli oppositori riguarda meno la necessità di mantenere il coinvolgimento umano che il momento in cui la legge entra in gioco. Robert Singleton, rappresentante della Chamber of Progress, ha sostenuto che l’espressione “si basa principalmente” non è definita, scoraggiando potenzialmente gli strumenti che migliorano la coerenza o individuano i rischi per la sicurezza.¹ Lo stesso Newsom aveva posto il veto a una versione precedente a causa delle ampie regole sulla notifica, ma le revisioni hanno eliminato gli obblighi di preavviso e circoscritto la portata del disegno di legge. La California ha quindi scelto un compromesso: un controllo rigoroso delle decisioni dell’IA ad alto impatto, affiancato da uno standard giuridico che, secondo le imprese, potrebbe essere ancora difficile da interpretare.