IBM ha messo a punto un software in grado di predire se una persona commetterà un crimine oppure no. Ovviamente parliamo di un ambito più ristretto: il software si basa su statistiche preesistenti ed è utilizzato solo nel campo della delinquenza giovanile, in quei casi cioè dove i soggetti presi di mira hanno già commesso dei reati. Il software, calcolando le variabili, quali condizione sociali, precedenti penali e altro ancora, determina le probabilità che una persona commetta nuovamente un dato crimine, e, in caso positivo, detta misure "preventive" per far sì che la previsione non di avveri.
Il tutto è pronto per essere messo in funzione nel dipartimento di Giustizia Minorile della Florida (Stati Uniti). Ora, la cosa potrebbe sembrare anche normale, poichè finora le stesse decisioni venivano fatte da una persona invece che da un software, ma non vi sembra uno scenario un pò troppo Echeloniano? Il grande occhio che vi osserva e vi giudica, e in base al vostro comportamento può portarvi via dalla cattiva strada “ancora prima” che la intraprendiate. Insomma, una volta si andava in carcere dopo aver commesso il crimine, d’ora in poi ci sarà la possibilità di andarci anche prima…
Già me lo immagino: cammini per strada tranquillamente e ti si para dinanzi un signore grosso e tarchiato che, mostrando il distintivo, ti intima di seguirlo. Due ore dopo ti ritrovi in mezzo a una comunità di recupero per “probabili delinquenti”. Potrà essere anche probabile, mia cara IBM, ma niente a questo mondo, e ripeto, assolutamente nulla potrà mai essere sicuro al cento per cento in questo mondo. Neanche il tuo bellissimo Software, il quale rischia di coinvolgere delle persone che di crimini non hanno neanche la minima intenzione di farne.
Che genere di ragionamento potrà mai esserci alla base di questo progetto? Qualcosa di più grande e oscuro in arrivo forse? Fattosta che il sofware è costato ben 12 miliardi di euro a IBM, la quale pare andare fiera della ricerca e afferma:
"L'analisi predittiva offre alle Organizzazioni Governative di tutto il mondo una fonte altamente sofisticata e intelligente per creare comunità più sicure individuando, pronosticando e dando le risposte atte a prevenire le attività criminali. Dà al sistema della Giustizia Penale la capacità di attingere alla ricchezza di dati disponibili per individuare i modelli, fare proiezioni attendibili e quindi adottare le misure appropriate in tempo reale per combattere il crimine e tutelare i cittadini."
La cosa appare parecchio preoccupante: oggi schedano i delinquenti, domani i terroristi, dopodomani ci potremmo vedere indagati per una qualsivoglia combinazione di fattori che induca il software a pensare che potremmo essere dei potenziali “problemi” per la società.
Il controllo sulle cose può essere assoluto, ma quello sulle persone ha dei limiti ben precisi, stabiliti anche dalle varie costituzioni internazionali: non è concepibile che qualcuno possa disporre di cosi tante informazioni (ok, è un software, ma qualcuno lo utilizzerà pure, non fa mica tutto da solo) e di tanto potere, perchè di questo si tratta: il potere del controllo. Questo software dona alle forze dell’ordine un potere di molto superiore a quello di cui dovrebbe disporre, che se usato bene può essere costruttivo, ma nel caso opposto può rovinare la vita a persone che non lo meritano affatto. Insomma, non credo ci vorrà poi tanto a forzare la mano su determinate caratteristiche di un individuo per farlo ricadere nella casistica dei possibili criminali, volendolo.
Ma anche nella migliore delle ipotesi, tutto lo scenario che si verrà a creare con l’utilizzo di questo software risulterà parecchio inquietante.
E in effetti io non mi sento un granchè tranquillo, e voi?
