Коротко про нове правило і що воно забороняє
Каліфорнія стала першим американським штатом який заборонив компаніям звільняти працівників виключно на підставі рішення алгоритму. Губернатор Гевін Ньюсом підписав пакет законів який одночасно обмежує використання ШІ для стеження за персоналом і зобовязує роботодавців повідомляти якщо скорочення повязане з роботою штучного інтелекту.
Нові правила обєднують кілька законопроєктів і фактично створюють перші у США вимоги для компаній що застосовують алгоритми у кадрових рішеннях. Основний принцип полягає в тому що менеджер не може звільнити або покарати працівника лише на підставі висновку ШІ і що перед набуттям рішення чинності його має перевірити людина.
Чому це стало можливим
Ініціатива зявилася на тлі скарг працівників великих технологічних компаній. За словами Ньюсома одним із поштовхів до ухвалення закону стали звернення співробітників Meta які стурбувалися роботою внутрішнього інструменту що оцінював кандидатів на скорочення. За твердженнями алгоритм непропорційно часто обирав людей які нещодавно брали медичну відпустку.
Поширене застосування алгоритмів у кадрових процесах також підштовхнуло законодавців до дій. Як пише HR Dive кожен четвертий менеджер у США використовує ШІ для ухвалення рішень про звільнення «часто або постійно». Цей рівень застосування підвищив ризики помилок і дискримінації що і став аргументом на користь регулювання.
Чому саме зараз
Після кількох гучних випадків коли алгоритми використовували для відбору співробітників зросла увага громадськості і політиків до теми прозорості. У Каліфорнії політичний контекст теж грає роль бо саме в цьому штаті розташовані офіси багатьох великих техкомпаній.
Губернатор при підписанні закону прямо критикував позицію федеральної адміністрації щодо саморегулювання індустрії ШІ. Він назвав таку позицію «ла*ном» і сказав що за відсутності федерального лідерства штати мають діяти самі.
Кого і як зачепить новий режим
Норми прямо впливають на роботодавців у Каліфорнії незалежно від розміру. Компанії які застосовують алгоритми для моніторингу персоналу тепер мають звужені можливості використовувати їх без людської участі. Ключова вимога полягає в людській перевірці перед тим як рішення алгоритму набере чинності.
Хоча закон діє лише в межах Каліфорнії його наслідки можуть поширитися за межі штату. Саме в Каліфорнії розташовані штабквартири більшості великих технологічних компаній з якими співпрацюють українські аутсорсингові компанії та фрілансери. Якщо американський клієнт використовує ШІ для кадрових рішень щодо українських підрядників нові вимоги до прозорості можуть опосередковано вплинути і на них.
Що сказано про термінологію та державні установи
Крім обмежень для приватних компаній Ньюсом підписав розпорядження яке зобовязує державні установи Каліфорнії використовувати термін «штучний інтелект» а не «супер інтелект». Останній термін нещодавно запровадила адміністрація Трампа для частини федеральних службовців.
Ньюсом порівнює ризики від ШІ з авіаційною галуззю і вважає що безпеку у цій сфері має регулювати держава а не ринок. Ці слова відображають підхід який ляг у основу підписаних актів і розпорядження.
