Kalifornien hat einen Grundsatz klargestellt: Ein Algorithmus darf eine Entscheidung am Arbeitsplatz beeinflussen, aber nicht allein zwischen einem Beschäftigten und dem Verlust seines Arbeitsplatzes stehen. Das Versprechen des neuen Gesetzes auf Rechenschaftspflicht wird jedoch durch die Bedenken von Unternehmen aufgewogen, dass seine Grenzen unklar bleiben.

Die Maßnahme von Gouverneur Gavin Newsom untersagt Arbeitgebern, sich bei Disziplinarmaßnahmen gegen Beschäftigte oder deren Kündigung ausschließlich auf automatisierte Entscheidungssysteme zu stützen. Wird KI als primäre Grundlage für eine solche Maßnahme eingesetzt, muss ein menschlicher Prüfer die Entscheidung anhand zusätzlicher Informationen bestätigen, darunter Beurteilungen, Bewertungen durch Kollegen oder Personalakten. Beschäftigte müssen außerdem eine schriftliche Mitteilung, eine Beschreibung der verwendeten Daten sowie Zugang zu einer menschlichen Kontaktperson erhalten, die das Ergebnis erklären kann.¹

Die konservative Berichterstattung stellt die Maßnahme allgemein als Versuch dar, „Beschäftigte vor den Risiken der KI zu schützen“, und betont ihre Begründung mit dem Arbeitnehmerschutz, ohne die umfassendere Regulierungskampagne zu unterstützen.² Die liberale Darstellung bezeichnet sie pointierter als „No Robo Bosses Act“ und präsentiert das Gesetz als wegweisenden Sieg der organisierten Arbeitnehmerschaft sowie als direkte Absage an eine ausschließlich maschinengesteuerte Führung.

Befürworter argumentieren, dass Software am Arbeitsplatz Vorurteile reproduzieren oder folgenschwere Fehler machen kann. „Kein Beschäftigter sollte jemals von einer Maschine entlassen oder diszipliniert werden“, sagte der demokratische Staatssenator Jerry McNerney und fügte hinzu, KI solle „ein von Menschen kontrolliertes Werkzeug bleiben, nicht umgekehrt“.¹ Die Gewerkschaftsführerin Lorena Gonzalez bezeichnete das Gesetz ebenfalls als Beleg dafür, dass Beschäftigte und Gewerkschaften sich gegen die Ausweitung der KI am Arbeitsplatz „zur Wehr setzen und gewinnen“ können.¹

Die Sorge der Gegner betrifft weniger die Frage, ob Menschen weiterhin beteiligt sein sollten, als vielmehr den Zeitpunkt, zu dem das Gesetz greift. Robert Singleton von der Chamber of Progress argumentierte, der Ausdruck „sich hauptsächlich stützt“ sei undefiniert und könne möglicherweise von Instrumenten abschrecken, die für mehr Einheitlichkeit sorgen oder Sicherheitsrisiken erkennen.¹ Newsom selbst hatte eine frühere Fassung wegen zu weitreichender Benachrichtigungspflichten mit einem Veto abgelehnt, doch durch Überarbeitungen wurden Anforderungen an eine vorherige Benachrichtigung gestrichen und der Geltungsbereich des Gesetzentwurfs eingeschränkt. Kalifornien hat sich daher für einen Kompromiss entschieden: eine strenge Prüfung folgenreicher KI-Entscheidungen verbunden mit einem Rechtsstandard, den Unternehmen nach eigener Aussage möglicherweise weiterhin nur schwer auslegen können.