Je pondělí ráno. Objeví se žaloba. Dvacet šest lidí říká, že Meta udělala víc, než že je jen vyhodila. Říkají, že je algoritmus vybral, protože chyběli v práci.
“Tato obvinění jsou nepodložená… rozhodnutí byla a jsou přijímána lidmi.”
Meta to říká. Ale dokumenty uložené u federálního soudu vyprávějí jiný příběh. Slyšení je naplánováno v Oaklandu. Obvinění je jednoduché: nástroje umělé inteligence tyto zaměstnance vyčlenily pro propouštění. Zejména ti, kteří byli na zákonem chráněné dovolené.
Zde je návod, jak to funguje. Zmizelo asi 8 000 pracovních míst – deset procent veškeré pracovní síly společnosti. To je velký krok. Meta používala programy pro sledování úhozů, pruhy aktivity a hodnocení výkonu sestavené pomocí kódu.
Žalobci tvrdí, že systém je neobjektivní.
Pokud si vezmete rodičovskou dovolenou, vaše výkonnost klesá. Pokud požádáte o ubytování pro osoby se zdravotním postižením, bude vaše aktivita omezena. AI vidí tato data. Nezajímá ho proč jsou čísla nízká. Zaznamenává pouze to, že vypadáte jako pomalý dělník. A v korporátním světě je nebezpečné vypadat pomalu.
Všech dvacet šest žalobců si vzalo nějakou formu dovolené, než na ně padla sekera. Osm žen bylo na mateřské nebo mateřské dovolené. Čtyři muži byli na rodičovské dovolené. Jedna osoba využila čas k péči o příbuzného nebo po zármutku. Následovalo oznámení o propuštění.
Firma nevyhodila všechny najednou. Bylo to chytré. Propouštění začalo 22. července. Zaměstnanci mají zatím přístupové karty a přístup do systémů. Ale jsou v limbu.
Jeden z žalobců tvrdí, že manažer na nebezpečí přímo upozorňoval. Pokud si vezmete nemocenskou, zvyšuje se vaše šance na propuštění. Toto není návod, toto je nastavení. Žaloba uvádí řadu porušených zákonů: zákon o rodinné a zdravotní dovolené (FMLA), zákon o Američanech se zdravotním postižením (ADA) a zákon o spravedlnosti těhotných pracovnic. Situace vypadá jako učebnicový příklad porušení.
Zde vstupuje do hry právní termín „nesourodý dopad“. I když Meta neměla žádné antipatie k těhotným pracovnicím, jejich systém byl pro ně škodlivý. Takové dovolené si častěji berou ženy. AI je chytí do tohoto druhu „síťové pasti“. To nemusí být nutně škodlivé. To je matematika. Chladná, bezcitná, lhostejná matematika.
Meta všechna obvinění odmítá. Jejich prohlášení je uhlazené, korporátní. Říká se, že rozhodnutí učinili lidé. Ne AI. Možná jen lidé používající nástroje?
Proč by pak vůbec cítili potřebu tvrdit, že to nebyla AI?
Tito zaměstnanci žádají soudní příkaz. Zastavte proces. Nechte je zaměstnat, dokud se případ projednává v arbitráži. Pro ně je to naléhavá záležitost. Ztráta zaměstnání v těhotenství znamená víc než jen ztrátu příjmu. Zdravotní pojištění mizí. Hodnota akcií jako náhrada se znehodnocuje. Někteří riskují důsledky imigrace, které by je mohly donutit opustit zemi.
Překročit vysokou hranici prokazování „nevratné škody“ u soudu není snadné. Potřebují udělat tento skok rychle.
Případ vyvolává širší otázku. Vytváříme nástroje, které automatizují diskriminaci pod rouškou zvyšování efektivity? Technologie jde dopředu. Zákon se je snaží dohnat. Někdo se může zranit, než si někdo uvědomí rozsah problému.
