Kad algoritmi odlučuju: AI proglašava ljude mrtvima i uskraćuje hranu siromašnim Indijcima

Primjena umjetne inteligencije u državnim sustavima ostavila je tisuće ljudi bez pristupa subvencioniranoj hrani i socijalnim beneficijama

U južnoj državi Telangana, na primjer, vladini službenici dobili su algoritam koji je stvorio sveobuhvatne profile pojedinaca prikupljanjem podataka iz čak 30 baza podataka. Sustav je prvotno osmišljen kako bi pomogao regionalnoj policiji u identificiranju kriminalaca, ali je kasnije razvijen za identifikaciju podnositelja lažnih zahtjeva. Na temelju podataka prikupljenih iz više baza podataka, čak 1,9 milijuna kartica uklonjeno je s popisa korisnika. No, vlada je ponovnom analizom više od 200.000 kartica otkrila da je pogrešno uklonjeno njih čak 15.000.

Dokaži da si živ

U lipnju 2020. sjeverna država Haryana počela je koristiti novi algoritamski sustav za prikupljanje informacija o obiteljima koje traže socijalnu pomoć.

Na temelju prikupljenih podataka o prihodu, dobi, zaposlenju itd., svaka obitelj dobiva osmoznamenkasti jedinstveni ID, koji je kasnije postao obavezan za sve programe socijalne skrbi. Prema podacima državne vlade, u sljedeće tri godine obustavljeno je više od 300.000 mirovina zbog smrti tražitelja. Poslije se na velikom uzorku otkrilo da je čak 70 posto takvih slučajeva bilo krivo označeno.

Cijeli članak možete pročitati na: bug.hr

Image by Juda from Pixabay