Innovazione

Proteste contro IBM: un suo software predice se un bambino diverrà o no un delinquente

Da grande sarai un criminale? Te lo dice IBM.

IBM ha messo a punto un software in grado di predire se una persona commetterà un crimine oppure no. Ovviamente parliamo di un ambito più ristretto: il software si basa su statistiche preesistenti ed è utilizzato solo nel campo della delinquenza giovanile, in quei casi cioè dove i soggetti presi di mira hanno già commesso dei reati. Il software, calcolando le variabili, quali condizione sociali, precedenti penali e altro ancora, determina le probabilità che una persona commetta nuovamente un dato crimine, e, in caso positivo, detta misure "preventive" per far sì che la previsione non di avveri.

Il tutto è pronto per essere messo in funzione nel dipartimento di Giustizia Minorile della Florida (Stati Uniti). Ora, la cosa potrebbe sembrare anche normale, poichè finora le stesse decisioni venivano fatte da una persona invece che da un software, ma non vi sembra uno scenario un pò troppo Echeloniano? Il grande occhio che vi osserva e vi giudica, e in base al vostro comportamento può portarvi via dalla cattiva strada “ancora prima” che la intraprendiate. Insomma, una volta si andava in carcere dopo aver commesso il crimine, d’ora in poi ci sarà la possibilità di andarci anche prima…

Già me lo immagino: cammini per strada tranquillamente e ti si para dinanzi un signore grosso e tarchiato che, mostrando il distintivo, ti intima di seguirlo. Due ore dopo ti ritrovi in mezzo a una comunità di recupero per “probabili delinquenti”. Potrà essere anche probabile, mia cara IBM, ma niente a questo mondo, e ripeto, assolutamente nulla potrà mai essere sicuro al cento per cento in questo mondo. Neanche il tuo bellissimo Software, il quale rischia di coinvolgere delle persone che di crimini non hanno neanche la minima intenzione di farne.

Che genere di ragionamento potrà mai esserci alla base di questo progetto? Qualcosa di più grande e oscuro in arrivo forse? Fattosta che il sofware è costato ben 12 miliardi di euro a IBM, la quale pare andare fiera della ricerca e afferma:

"L'analisi predittiva offre alle Organizzazioni Governative di tutto il mondo una fonte altamente sofisticata e intelligente per creare comunità più sicure individuando, pronosticando e dando le risposte atte a prevenire le attività criminali. Dà al sistema della Giustizia Penale la capacità di attingere alla ricchezza di dati disponibili per individuare i modelli, fare proiezioni attendibili e quindi adottare le misure appropriate in tempo reale per combattere il crimine e tutelare i cittadini."

La cosa appare parecchio preoccupante: oggi schedano i delinquenti, domani i terroristi, dopodomani ci potremmo vedere indagati per una qualsivoglia combinazione di fattori che induca il software a pensare che potremmo essere dei potenziali “problemi” per la società.

Il controllo sulle cose può essere assoluto, ma quello sulle persone ha dei limiti ben precisi, stabiliti anche dalle varie costituzioni internazionali: non è concepibile che qualcuno possa disporre di cosi tante informazioni (ok, è un software, ma qualcuno lo utilizzerà pure, non fa mica tutto da solo) e di tanto potere, perchè di questo si tratta: il potere del controllo. Questo software dona alle forze dell’ordine un potere di molto superiore a quello di cui dovrebbe disporre, che se usato bene può essere costruttivo, ma nel caso opposto può rovinare la vita a persone che non lo meritano affatto. Insomma, non credo ci vorrà poi tanto a forzare la mano su determinate caratteristiche di un individuo per farlo ricadere nella casistica dei possibili criminali, volendolo.

Ma anche nella migliore delle ipotesi, tutto lo scenario che si verrà a creare con l’utilizzo di questo software risulterà parecchio inquietante.

E in effetti io non mi sento un granchè tranquillo, e voi?

19 aprile 2010
Ora in Edicola
Scopri il mondo Focus. Ogni mese in edicola potrai scegliere la rivista che più di appassiona. Focus il magazine di divulgazione scientifica più letto in Italia, Focus Storia per conoscere la storia in modo nuovo ed avvincente e Focus Domande & Risposte per chi ama l'intrattenimento curioso e intelligente.

Cento anni fa, il 10 giugno 1924, Giacomo Matteotti moriva trucidato per mano di sicari fascisti. In questo numero di Focus Storia ricostruiamo le fasi dell’agguato, la dinamica del delitto e le terribili modalità dell’occultamento del corpo. Ma anche le indagini, i depistaggi, il processo farsa e le conseguenze politiche che portarono l’Italia nel baratro della dittatura.

E ancora: quando, per prevenire gli avvelenamenti, al servizio di principi e papi c’erano gli assaggiatori; la vita spericolata e scandalosa dell’esploratore Sir Richard Burton; tutto sul D-Day, il giorno in cui in Normandia sbarcarono le truppe alleate per liberare l’Europa dal dominio nazista

ABBONATI A 29,90€

Un dossier sulla salute esplora i possibili scenari di un mondo senza sigarette, analizzando i vantaggi per la salute, l'ambiente e l'economia. Un'inchiesta sul ruolo dei genitori nell'educazione dei figli ci porta a riflettere sull'importanza delle figure genitoriali, con un focus sulla storia di Jannik Sinner.

Ampio spazio è dedicato alla scienza e alla tecnologia, con articoli sull'energia nucleare, i reattori nel mondo e un'intervista esclusiva a Roberto Cingolani sulla transizione energetica. Un viaggio nell'archeoastronomia ci svela come l'uomo abbia misurato il tempo attraverso i fenomeni celesti.

Non mancano approfondimenti sulla salute, con una guida completa sulla dengue e focus sulla caduta dei capelli, problema molto diffuso tra gli uomini. La sezione animali ci regala immagini sorprendenti di pinguini, primati e canguri.

ABBONATI A 31,90€
Follow us