Это понедельник, утро. Появляется судебный иск. Двадцать шесть человек утверждают, что Meta не просто уволила их. Они говорят, что алгоритм выбрал именно их, потому что они отсутствовали на работе.
«Эти обвинения необоснованны… решения принимали и принимают люди».
Так заявляет Meta. Но документы, поданные в федеральный суд, рассказывают другую историю. Слушания назначены в Окленде. Обвинение простое: инструменты искусственного интеллекта выделили этих сотрудников для сокращения. В частности, тех, кто находился на защищенном законом отпуске.
Вот как всё устроено. Исчезло около 8 000 рабочих мест — десять процентов от всего штата компании. Это масштабный шаг. Meta использовала программы для отслеживания нажатий клавиш, панели активности и рейтинги производительности, составленные с помощью кода.
Истцы утверждают, что эта система предвзята.
Если вы берете родительский отпуск, ваши показатели падают. Если вы запрашиваете условия для людей с ограниченными возможностями, ваша активность снижается. ИИ видит эти данные. Ему всё равно, почему показатели низкие. Он лишь фиксирует, что вы выглядите как медленный работник. А в корпоративном мире выглядеть медленным — опасно.
Все двадцать шесть истцов использовали тот или иной вид отпуска перед тем, как над ними свистнул топор. Восемь женщин находились в декретном или материнском отпуске. Четверо мужчин брали родительский отпуск. Один человек использовал время для ухода за родственником или после утраты близкого. Затем последовало уведомление об увольнении.
Компания не уволила всех сразу. Это было хитроумно. Сокращения начались 22 июля. Пока у сотрудников есть пропускные карты и доступ к системам. Но они находятся в подвешенном состоянии.
Один из истцов утверждает, что руководитель прямо предупреждал об опасности. Если вы берете больничный, ваши шансы на увольнение растут. Это не руководство, это подстава. В иске перечислен целый ряд нарушенных законов: Закон о семейных и медицинских отпусках (FMLA), Закон об американцах с ограниченными возможностями (ADA), Закон о справедливом отношении к беременным работникам (Pregnant Workers Fairness Act). Ситуация выглядит как учебный пример нарушения.
Здесь вступает в действие юридический термин «различное воздействие». Даже если Meta не испытывала антипатии к беременным работникам, их система нанесла им ущерб. Женщины чаще берут такие отпуска. ИИ ловит их в этот некий «сетевой капкан». Это не обязательно злонамеренность. Это математика. Холодная, бесчувственная, безразличная математика.
Meta отвергает все обвинения. Их заявление гладкое, корпоративное. Они говорят, что решения принимали люди. Не ИИ. Возможно, просто люди, использующие инструменты?
Тогда зачем им вообще чувствовать необходимость заявлять, что это был не ИИ?
Эти сотрудники добиваются судебного запрета. Остановить процесс. Сохранить за ними работу, пока дело рассматривается в арбитраже. Для них это вопрос срочности. Потерять работу во время беременности — это не только потеря дохода. Исчезает медицинская страховка. Ценность акций в качестве вознаграждения обесценивается. Некоторые рискуют столкнуться с иммиграционными последствиями, которые могут вынудить их покинуть страну.
Преодолеть высокий порог доказательства «необратимого ущерба» в суде непросто. Им нужно быстро сделать этот прыжок.
Дело поднимает более широкий вопрос. Создаем ли мы инструменты, которые автоматизируют дискриминацию под предлогом повышения эффективности? Технологии движутся вперед. Закон пытается догнать их. Кто-то может пострадать раньше, чем кто-либо поймет масштаб проблемы.
