COMPAS: se il giudice negli USA e` un algoritmo – 39

COMPAS, Correctional Offender Management Profiling for Alternative Sanctions (Trattamento correttivo dei criminali per sanzioni alternative), e` un programma, ovviamente a pagamento, che appartiene alla ditta Equivant.

e` un algoritmo che calcola, sulla base di 137 parametri, quante possibilita` ci sono che l’autore di un reato torni a delinquere, se gli viene concessa la liberta` provvisoria.

e` stato introdotto in molti tribunali americani.

. . .

sono informazioni che si ricavano dagli atti giudiziari o carcerari, oppure da risposte che vengono richieste all’interessato:

Quante volte hai traslocato negli ultimi 12 mesi?

Quanti dei tuoi amici o conoscenti sono stati arrestati almeno una volta?

sulla base di questi 137 parametri, valutati peraltro in modo che rimane del tutto oscuro all’utilizzatore, le previsioni si sono rivelate attendibili nel 65% dei casi.

una percentuale non troppo elevata, considerando che fino al 50% si arriva in modo casuale per semplice legge statistica.

. . .

qualcuno ha pero` osservato che un algoritmo molto piu` semplice e gratuito che si basa su pochi parametri (sesso, eta` e precedente storia criminale), indovina le recidive nei successivi due anni nella misura del 63%.

a risultati addirittura migliori (66,6% di previsioni azzeccate) arriva un altro algoritmo, sempre gratuito, che si limita a registrare sesso, eta`, tipo di delitto compiuto e sua gravita`, oltre alle condanne precedenti.

. . .

a me questa notizia interessa come sintomo di una tendenza a far dipendere sempre di piu` decisioni anche molto importanti (in questo caso per la vita dei soggetti analizzati) da meccanismi oscuri, che risultano autorevoli soltanto perche` informatizzati.

in questo caso non soltanto al giudizio consapevole di un giudice umano si sostituisce un meccanismo di giudizio sconosciuto nel suo modo di formarsi.

ma addirittura questo giudizio viene di fatto affidato, a pagamento, ad un’agenzia esterna al tribunale e si configura cosi` un caso sorprendente di privatizzazione della giustizia.

dato che il Tribunale paga un ente privato per ricevere le indicazioni su come comportarsi.

. . .

ma qualcuno e` andato a fare le pulci nel dettaglio al COMPAS e ha scoperto una vistosa falla nell’algoritmo:

sopravvaluta il rischio di recidiva nel crimine dei neri e lo sottovaluta nel caso dei bianchi…

. . .

ahime`, dunque l’algoritmo giudice a pagamento e` anche razzista.

cioe` perfettamente umano, allora.

forse e` stato impostato in questo modo perche` i giudici americani si comportano normalmente in questo modo, e facilmente si sarebbero trovati a disagio con un algoritmo effettivamente imparziale?

compas


Lascia un commento, soprattutto se stai scuotendo la testa. Un blog lo fa chi lo commenta. E questo potrebbe diventare il tuo blog.

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione /  Modifica )

Google photo

Stai commentando usando il tuo account Google. Chiudi sessione /  Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione /  Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione /  Modifica )

Connessione a %s...