Puncte de vedere: VIITORUL ÎNSPĂIMÂNTĂ – Distopia digitală: modul în care algoritmii pedepsesc săracii

Într-o serie exclusivistă globală, The Guardian, denunță revoluția tehnologică care transformă sistemul de bunăstare din întreaga lume, în timp ce penalizează pe cei mai vulnerabili – scrie Ed Pilkington din New York, în The Gurdian.

Peste tot în lume, de la micul oraș Illinois din Statele Unite la Rochdale în Anglia, de la Perth, Australia, până la Dumka, în nordul Indiei, are loc o revoluție a modului în care guvernele tratează săracii.

Nu poți vedea că se întâmplă și este posibil să nu fi auzit. A fost proiectat de ingineri și programatori în spatele ușilor închise, în poziții guvernamentale sigure, departe de viziunea publică.

Doar matematicienii și informaticienii înțeleg pe deplin schimbarea, alimentată așa cum este ea de inteligența artificială (AI), de algoritmi predictivi, de modelare a riscurilor și de biometrie. Dar dacă sunteți unul dintre milioanele de persoane vulnerabile la sfârșitul remodelării radicale a prestațiilor sociale, să știți că aceasta este reală și că toate consecințele sale pot fi extrem de grave – chiar mortale.

The Guardian a petrecut ultimele trei luni cercetând modul în care miliardele sunt investite în inovații ale inteligenței artificiale, care reformează în mod exploziv modul în care oamenii cu venituri reduse interacționează cu statul. Împreună, jurnaliștii noștri din Statele Unite, Marea Britanie, India și Australia au explorat ce înseamnă nașterea statului social digital.

Comunicatele lor dezvăluie modul în care actele de șomaj, pensia pentru copii, locuințele și subvențiile alimentare și multe altele sunt acum doar online. Sume mari sunt cheltuite de guvernele lumilor industrializate și în curs de dezvoltare pentru a automatiza sărăcia și în acest proces, transformând nevoile cetățenilor vulnerabili în numere, înlocuind judecata lucrătorilor umani din cazuri umane cu procesul rece, fără sânge, al mașinilor.

În forma sa cea mai prohibitivă, jurnaliștii de la The Guardian creionează o imagine a unei distopii Dickensiene din secolul XXI care se conturează cu viteză amețitoare. Politologul american Virginia Eubanks are o propoziție pentru asta: „The digital poor man”.

Ascultați guvernele și veți auzi mari promisiuni despre modul în care noile tehnologii vor transforma sărăcia într-o întreprindere nobilă. Accelerarea plăților de către performanță, creșterea eficienței și transparenței, reducerea deșeurilor, economisirea banilor contribuabililor, eradicarea falimentării și prejudecăților umane și asigurarea faptului că resursele limitate ajung la cei mai nevoiași. Dar de multe ori, aceste promisiuni au eșuat.

Într-o perioadă în care austeritatea domină peisajul politic, milioane de oameni și-au pierdut sau le-au fost oprite beneficiile de către programe de calculator care funcționează în moduri pe care puțini par capabili să le controleze sau chiar să le înțeleagă.

Greșelile au devenit endemice, fără nici o modalitate evidentă pentru victimele erorii de a solicita despăgubiri.

În această săptămână, automatizarea sărăciei va fi adusă pe scena mondială. Philip Alston, un avocat pentru drepturile omului care acționează în calitate de raportor al ONU pentru sărăcia extremă, va prezenta un raport revoluționar Adunării Generale a ONU de la New York care sună alarma implicațiilor drepturilor omului ale cursei pentru digitalizarea protecției sociale.

Analiza lui Alston se bazează în parte pe studiile sale oficiale ale ONU despre sărăcia din Regatul Unit și Statele Unite și parțial pe observații ale guvernelor, organizațiilor pentru drepturile omului și ale experților din peste 34 de țări. Este posibil să ofere o imagine definitivă a locului în care săracul se află acum și unde se duce, abordând hărțuirea, țintirea și pedepsirea celor care trăiesc ca săraci.


În Illinois, The Guardian a descoperit că guvernele de stat și cele federale și-au unit forțele pentru a solicita beneficiarilor de beneficii pentru rambursarea „plăților în exces” care, în unele cazuri, se întorc în urmă cu 30 de ani. Acest sistem de „datorii zombie”, armat prin tehnologie, generează frică și dificultate printre cei mai vulnerabili din societate.

În Marea Britanie, studiem site-ul guvernamental, sigur în afara Newcastle, unde se cheltuiesc milioane pentru dezvoltarea unei noi generații de roboți de bunăstare pentru a înlocui oamenii. Companiile private, inclusiv un grup din New York, condus de primul bot miliardar din lume, îmbunătățesc un proces care a generat un jargon complet nou: „forța de muncă virtuală”, „luarea deciziilor sporite”, „automatizarea proceselor robotice”.

Guvernul se grăbește înainte cu misiunea sa digitală, în ciuda durerii suferite deja de milioane de britanici cu venituri mici din agenda „digitală implicită” a țării. Solicitanții au vorbit despre foamea, mizeria, frica și panica pe care o îndură.

În Australia, unde The Guardian a raportat pe scară largă robodebt, schema care a fost acuzată că a recuperat greșit datoriile istorice printr-un algoritm defect, dezvăluim acum că guvernul a deschis un nou front digital: folosirea automatizării pentru a suspenda milioane de plăți pentru  cei cu probleme sociale. Beneficiarii își găsesc banii tăiați fără avertisment.

Cea mai deranjantă poveste vine de la Dumka din India. Aici, aflăm despre impactul oribil asupra omului care a lovit familiile în urma Aadhaar, un număr unic de identificare de 12 cifre pe care guvernul indian l-a eliberat tuturor rezidenților în cel mai mare experiment biometric din lume.

Noile abordări de înaltă tehnologie încrucișează serviciile sociale, munca, handicapul și sănătatea, adesea cu o dezbatere publică minimă.

Motka Manjhi a plătit prețul maxim atunci când computerul a avut probleme și amprenta sa – cheia lui din Aadhaar – nu a fost recunoscută.

Rațiile sale de subzistență au fost întrerupte, a fost forțat să sară mesele și a devenit tot mai slab. Pe 22 mai s-a prăbușit în afara casei și a murit. Familia lui este convinsă că a fost din cauza foamei.

Investigațiile The Guardian ilustrează caracteristicile comune ale acestor noi sisteme, atât în ​​țările în curs de dezvoltare, cât și în cele dezvoltate, est sau vest. Cea mai evidentă asemănare este că toate acestea se întâmplă cu viteza luminii, cu abordări hi-tech care traversează serviciile sociale, munca și pensiile, handicapul și sănătatea, adesea cu o dezbatere sau responsabilitate publică minimă.

În cadrul acestei revoluții, elementul uman al statului social este diluat. În loc să vorbești cu un lucrător de caz care îți evaluează personal nevoile, acum ești canalizat online unde analiza predictivă îți va atribui un scor de risc viitor și un algoritm îți va decide destinul.

În noua lume, inegalitatea și discriminarea pot fi înrădăcinate. Ce se întâmplă dacă sunteți unul dintre cele cinci milioane de adulți din Marea Britanie fără acces regulat la internet și cu puține cunoștințe de computer sau deloc? Și dacă algoritmul s-a limitat la producerea distorsiunilor existente de rasă și clasă, făcând diferența dintre bogați și săraci, alb-negru, instructorii și manualele universitare și mai accentuate?

Există, de asemenea, o calitate kafkiană înfiorătoare, care îmbrățișează lumea. Așa cum Manjhi a descoperit atât de tragic, se fac greșeli. Mașinile se defectează. Dacă nu există nimeni la îndemână care să vă vadă ca o persoană și nu ca un număr de 12 cifre de procesat, rezultatele pot fi fatale.

Calculatorul spune „Fără plată”. Ce faci acum?

Facebook Comments