Це понеділок, ранок. З’являється судовий позов. Двадцять шість людей стверджують, що Meta не просто звільнила їх. Вони кажуть, що алгоритм вибрав саме їх, бо вони були відсутні на роботі.
«Ці звинувачення необґрунтовані… рішення ухвалювали і приймають люди».
Так каже Meta. Але документи, подані до федерального суду, розповідають іншу історію. Слухання призначено в Окленді. Звинувачення просте: інструменти штучного інтелекту виділили цих працівників скорочення. Зокрема, тих, хто перебував на захищеній законом відпустці.
Ось як все влаштовано. Зникло близько 8 000 робочих місць – десять відсотків від усього штату компанії. Це масштабний крок. Meta використовувала програми для відстеження натискання клавіш, панелі активності та рейтинги продуктивності, складені за допомогою коду.
Позивачі стверджують, що ця система упереджена.
Якщо ви берете батьківську відпустку, ваші показники падають. Якщо ви потребуєте умов для людей з обмеженими можливостями, ваша активність знижується. ІІ бачить ці дані. Йому все одно, чому показники низькі. Він лише фіксує, що ви виглядаєте як повільний робітник. А у корпоративному світі виглядати повільно — небезпечно.
Усі двадцять шість позивачів використовували той чи інший вид відпустки перед тим, як над ними свиснула сокира. Вісім жінок перебували у декретній чи материнській відпустці. Четверо чоловіків брали батьківську відпустку. Одна людина використала час для догляду за родичем чи після втрати близького. Потім було повідомлення про звільнення.
Компанія не звільнила всіх одразу. Це було хитромудро. Скорочення розпочалися 22 липня. Поки що у співробітників є пропускні картки та доступ до систем. Але вони перебувають у підвішеному стані.
Один із позивачів стверджує, що керівник прямо попереджав про небезпеку. Якщо ви берете лікарняний, ваші шанси на звільнення зростають. Це не керівництво, це є підставою. У позові перелічено цілу низку порушених законів: Закон про сімейні та медичні відпустки (FMLA), Закон про американців з обмеженими можливостями (ADA), Закон про справедливе ставлення до вагітних (Pregnant Workers Fairness Act). Ситуація виглядає як навчальний приклад порушення.
Тут набирає чинності юридичний термін «різне вплив». Навіть якщо Meta не зазнавала антипатії до вагітних працівників, їхня система завдала їм шкоди. Жінки найчастіше беруть такі відпустки. ІІ ловить їх у цей якийсь «мережевий капкан». Це не обов’язково зловмисність. Це математика. Холодна, байдужа, байдужа математика.
Meta відкидає всі звинувачення. Їхня заява гладка, корпоративна. Вони кажуть, що рішення ухвалювали люди. Чи не ІІ. Можливо, просто люди, які використовують інструменти?
Тоді навіщо їм взагалі відчувати необхідність заявляти, що то був не ІІ?
Ці співробітники домагаються судової заборони. Зупинити процес. Зберегти їх роботу, поки справа розглядається в арбітражі. Для них це питання терміновості. Втратити роботу під час вагітності – це не лише втрата доходу. Зникає медичне страхування. Цінність акцій як винагорода знецінюється. Деякі ризикують зіткнутися з наслідками імміграції, які можуть змусити їх покинути країну.
Подолати високий поріг доказу «незворотних збитків» у суді непросто. Їм потрібно швидко зробити цей стрибок.
Справа порушує ширше питання. Чи ми створюємо інструменти, які автоматизують дискримінацію під приводом підвищення ефективності? Технології рухаються вперед. Закон намагається наздогнати їх. Хтось може постраждати раніше, ніж будь-хто зрозуміє масштаб проблеми.
