 |
Cassie B.
I sistemi di riconoscimento facciale nei negozi del Regno Unito accusano ingiustamente clienti innocenti di taccheggio.
Le vittime vengono umiliate pubblicamente e costrette a districarsi in labirinti burocratici per riabilitare il proprio nome.
Smentire una falsa accusa spesso richiede di fornire ulteriori dati personali alle stesse aziende.
Tecnologie di riconoscimento facciale simili, ma imperfette, sono già in uso presso i dipartimenti di polizia statunitensi.
Le aziende offrono buoni per mettere a tacere le vittime, attribuendo al contempo la colpa delle false accuse all'errore umano.
I sistemi di riconoscimento facciale nei negozi del Regno Unito accusano ingiustamente clienti innocenti di taccheggio.
Le vittime vengono umiliate pubblicamente e costrette a districarsi in labirinti burocratici per riabilitare il proprio nome.
Smentire una falsa accusa spesso richiede di fornire ulteriori dati personali alle stesse aziende.
Tecnologie di riconoscimento facciale simili, ma imperfette, sono già in uso presso i dipartimenti di polizia statunitensi.
Le aziende offrono buoni per mettere a tacere le vittime, attribuendo al contempo la colpa delle false accuse all'errore umano.
Immaginate di entrare in un negozio di articoli a basso costo per comprare delle vitamine, solo per essere accompagnati fuori con l'accusa di taccheggio. Il vostro crimine? Un algoritmo ha deciso che assomigliavate a qualcun altro.
Non si tratta di un romanzo distopico. Sta accadendo ora nei negozi al dettaglio britannici, e i consumatori americani dovrebbero prestare molta attenzione perché la stessa tecnologia si sta già insinuando nei dipartimenti di polizia e nei luoghi pubblici degli Stati Uniti.
In tutto il Regno Unito, i sistemi di riconoscimento facciale basati sull'intelligenza artificiale stanno erroneamente etichettando clienti comuni come criminali, lasciandoli umiliati, spaventati all'idea di fare acquisti e intrappolati in un labirinto burocratico per riabilitare il proprio nome.
Una corsa per comprare vitamine, una falsa accusa, un senso di sicurezza infranto
Si consideri il caso di una donna a cui è stato dato lo pseudonimo di Mary, il cui marito, incaricato di acquistare vitamine in un negozio di articoli a basso costo della catena Home Bargains, si è ritrovato a dover affrontare una vera e propria odissea pubblica. Identificato come taccheggiatore dal sistema di riconoscimento facciale del negozio, è stato scortato fuori.
"Avevo paura di entrare in un negozio", ha detto l'uomo a TechRadar .
Un altro cliente ignaro si è ritrovato "tremante dalla testa ai piedi" dopo che sua moglie è stata allontanata da un supermercato Budgens con l'accusa di aver rubato "un sacco di carne" qualche giorno prima. C'era solo un problema: non mettevano piede in quel negozio da mesi.
Ian Clayton, un professionista della sicurezza sul lavoro in pensione di Chester, ha vissuto la stessa esperienza scioccante. Quando si è recato da Home Bargains verso l'ora di pranzo a febbraio, un dipendente dall'aria severa gli ha intimato di "posare tutto e uscire immediatamente dal negozio". Quando ha chiesto il motivo, la risposta è stata agghiacciante: "Sei risultato nel nostro sistema Facewatch come taccheggiatore".
Ripulire il proprio nome significa fornire ulteriori dati personali.
Ecco dove la situazione peggiora. Dimostrare la propria innocenza in genere significa presentare una richiesta di accesso ai dati personali, una richiesta legale per visionare le informazioni che un'azienda detiene su di te: un processo che può costringerti a fornire ancora più informazioni personali alle stesse aziende che ti hanno accusato ingiustamente.
Jack Coulson, responsabile delle attività di sensibilizzazione presso l'organizzazione per le libertà civili Big Brother Watch, ha descritto senza mezzi termini la situazione a TechRadar come "un incubo kafkiano: essere intrappolati in un labirinto burocratico ed essere costretti a fornire ancora più dati personali solo per sentirsi comunicare l'accusa".
Per Clayton, la vicenda ha rivelato che era stato ingiustamente collegato a un furto avvenuto durante una delle sue precedenti visite. Home Bargains gli ha offerto un buono da 100 sterline a condizione che mantenesse la riservatezza sui dettagli. Lui ha rifiutato. "Ho pensato: 'Davvero, state cercando di comprare il mio silenzio?'", ha affermato.
Altre vittime non hanno avuto sorte migliore. Warren Rajah, uno stratega dei dati del sud di Londra, è stato invitato ad allontanarsi dal suo supermercato Sainsbury's di zona dopo essere stato segnalato. Alla fine, ha scoperto che il personale lo aveva semplicemente identificato erroneamente; non era nemmeno presente nel database di Facewatch. Le sue scuse? Un buono da 75 sterline.
Tecnologie simili e difettose sono già presenti nelle strade americane.
Sistemi di riconoscimento facciale analoghi vengono impiegati nei dipartimenti di polizia statunitensi con risultati altrettanto devastanti.
Robert Dillon, un uomo della Florida arrestato ingiustamente per aver presumibilmente tentato di adescare un minore, ha trascorso una notte in prigione e mesi a combattere le accuse, nonostante vivesse a oltre 480 chilometri dal luogo del crimine. L'ACLU, che ha intentato una causa federale a suo nome, sostiene che la polizia abbia permesso a un "sistema di intelligenza artificiale soggetto a errori di sostituirsi a un'indagine".
Che si tratti di una macchina o di un impiegato, gli accusati devono dimostrare la propria innocenza.
Che si tratti di acquistare vitamine in Gran Bretagna o di guidare fino a casa della propria madre in Georgia, come stava facendo Randal Reid quando è stato ingiustamente arrestato per furto di borse di lusso in uno stato che non aveva mai visitato, la storia è sempre la stessa. Gli algoritmi commettono errori e gli esseri umani ne pagano il prezzo.
Facewatch, l'azienda che gestisce i sistemi di controllo accessi nei negozi britannici, dichiara un'accuratezza del 99,98%, attribuisce gli errori umani in negozio piuttosto che al proprio software e insiste sul fatto che si tratti di "casi estremamente rari" su oltre 500.000 segnalazioni annuali. Ma per le vittime, poco importa se l'errore sia stato commesso da una macchina o da un commesso, quando vengono portate via pubblicamente da un negozio per un crimine che non hanno commesso.
Mentre gli attivisti per i diritti civili continuano a lanciare l'allarme, una domanda rimane senza risposta: in un mondo in cui i computer agiscono come giudici e giuria, come si può dimostrare la propria innocenza a una macchina che si è già fatta un'opinione digitale?
Le fonti:
Futurism.com
TheGuardian.com
CommonDreams.org
Nessun commento:
Posta un commento