Кратко о новом правиле и что оно запрещает
Калифорния стала первым американским штатом, который запретил компаниям увольнять работников исключительно на основании решения алгоритма. Губернатор Гэвин Ньюсом подписал пакет законов, который одновременно ограничивает использование ИИ для наблюдения за персоналом и обязывает работодателей уведомлять, если сокращение связано с работой искусственного интеллекта.
Новые правила объединяют несколько законопроектов и фактически создают первые в США требования для компаний, которые применяют алгоритмы в кадровых решениях. Основной принцип заключается в том, что менеджер не может уволить или наказать сотрудника только на основании вывода ИИ и что перед вступлением решения в силу оно должно быть проверено человеком.
Почему это стало возможным
Инициатива появилась на фоне жалоб сотрудников крупных технологических компаний. По словам Ньюсома одним из толчков к принятию закона стали обращения сотрудников Meta, которые обеспокоились работой внутреннего инструмента, оценивавшего кандидатов на сокращение. По утверждениям, алгоритм непропорционально часто выбирал людей, которые недавно брали медицинский отпуск.
Широкое применение алгоритмов в кадровых процессах также подтолкнуло законодателей к действиям. Как пишет HR Dive, каждый четвертый менеджер в США использует ИИ для принятия решений об увольнении «часто или постоянно». Этот уровень применения повысил риски ошибок и дискриминации, что и стало аргументом в пользу регулирования.
Почему именно сейчас
После нескольких громких случаев, когда алгоритмы использовали для отбора сотрудников, выросло внимание общественности и политиков к теме прозрачности. В Калифорнии политический контекст также играет роль, потому что именно в этом штате расположены офисы многих крупных техкомпаний.
Губернатор при подписании закона прямо критиковал позицию федеральной администрации относительно саморегулирования индустрии ИИ. Он назвал такую позицию «ла*ном» и сказал, что при отсутствии федерального лидерства штаты должны действовать сами.
Кого и как затронет новый режим
Нормы прямо влияют на работодателей в Калифорнии независимо от размера. Компании, которые используют алгоритмы для мониторинга персонала, теперь имеют ограниченные возможности применять их без участия человека. Ключевое требование заключается в человеческой проверке до того, как решение алгоритма вступит в силу.
Хотя закон действует только в пределах Калифорнии, его последствия могут распространиться за пределы штата. Именно в Калифорнии расположены штаб-квартиры большинства крупных технологических компаний, с которыми сотрудничают украинские аутсорсинговые компании и фрилансеры. Если американский клиент использует ИИ для кадровых решений в отношении украинских подрядчиков, новые требования к прозрачности могут опосредованно повлиять и на них.
Что сказано о терминологии и государственных учреждениях
Кроме ограничений для частных компаний Ньюсом подписал распоряжение, которое обязывает государственные учреждения Калифорнии использовать термин «искусственный интеллект», а не «суперинтеллект». Последний термин недавно ввела администрация Трампа для части федеральных служащих.
Ньюсом сравнивает риски от ИИ с авиационной отраслью и считает, что безопасность в этой сфере должна регулироваться государством, а не рынком. Эти слова отражают подход, который лег в основу подписанных актов и распоряжения.
