Калифорния ясно установила один принцип: алгоритм может влиять на решение на рабочем месте, но не может единолично решать судьбу сотрудника, стоящего перед потерей работы. Однако обещанию подотчётности соответствует обеспокоенность бизнеса тем, что границы нового закона остаются неясными.

Мера губернатора Гэвина Ньюсома запрещает работодателям полагаться исключительно на автоматизированные системы принятия решений при наложении дисциплинарных взысканий или увольнении работников. Когда ИИ используется как основное основание для такого действия, проверяющий человек должен подтвердить решение дополнительной информацией, включая оценки, отзывы коллег или кадровые документы. Работники также должны получить письменное уведомление, описание использованных данных и доступ к человеку, который сможет объяснить результат.¹

Консервативные СМИ широко представляют эту меру как попытку «защитить работников от рисков ИИ», подчёркивая её обоснование необходимостью обеспечения безопасности работников, но не поддерживая более широкую регуляторную кампанию.² Либеральные СМИ более конкретно называют её «Законом о запрете роботов-начальников», изображая закон как знаковую победу организованного труда и прямой отказ от управления исключительно машинами.

Сторонники утверждают, что программное обеспечение на рабочем месте может воспроизводить предвзятость или допускать серьёзные ошибки. «Ни один работник не должен быть уволен или наказан машиной», — заявил сенатор штата от Демократической партии Джерри Макнерни, добавив, что ИИ должен оставаться «инструментом, которым управляют люди, а не наоборот».¹ Лидер профсоюзного движения Лорена Гонсалес также назвала закон доказательством того, что работники и профсоюзы могут «дать отпор и победить» в противостоянии с расширением применения ИИ на рабочем месте.¹

Противников беспокоит не столько необходимость участия людей, сколько вопрос о том, когда именно вступает в действие закон. Представитель Chamber of Progress Роберт Синглтон заявил, что формулировка «в основном полагается» не определена, что потенциально может отбить желание использовать инструменты, повышающие последовательность решений или помогающие выявлять угрозы безопасности.¹ Сам Ньюсом наложил вето на более раннюю версию из-за слишком широких правил уведомления, однако после доработок требования об уведомлении заранее были исключены, а сфера действия законопроекта сужена. Таким образом, Калифорния выбрала компромисс: тщательный контроль за решениями ИИ, имеющими серьёзные последствия, в сочетании с правовым стандартом, который, по словам представителей бизнеса, всё ещё может быть трудно интерпретировать.