Intelligenza artificiale al servizio del governo cinese

Il Grande Fratello previsto da Orwell esiste per davvero e si trova in Cina: qui, ormai da diversi anni, il governo ha messo in campo le tecnologie più evolute per raccogliere dati di ogni tipo sui propri cittadini e analizzarli a caccia di comportamenti sospetti o potenzialmente pericolosi.

E quanto afferma Echo Huang in un’inchiesta recentemente pubblicata su Quartz. Secondo il giornalista nei big data del governo cinese finiscono dati di ogni tipo: dalle immagini delle telecamere sparse per le città e dotate di sistemi di riconoscimento facciale alle transazioni delle carte di pagamento, dagli spostamenti in auto ai tracciati telefonici, dalle carte fedeltà dei supermercati ai dati catastali delle abitazioni o alle cartelle cliniche dei pazienti.

Tutte queste informazioni vengono elaborate e correlate tra loro da potenti sistemi di intelligenza artificiale, efficientissimi nello scoprire schemi e comportamenti che deviano dalla “normalità”. Ma chi decide che cosa è normale e che cosa no?

Non solo scappatelle. E così a un ufficiale di polizia possono bastare un paio di clic per scoprire la relazione tra due persone che per esempio soggiornano spesso nello stesso hotel o vanno a cena nello stesso ristorante, ma anche per sapere di quali malattie soffra un cittadino o quante volte faccia la spesa e per chi, a chi telefoni e con quale frequenza.

Ma il sistema può anche decidere che due persone che si trovano nello stesso posto agli stessi orari per puro caso più di una volta abbiano qualche tipo di rapporto anche se non si conoscono affatto e segnalare questo evento come anomalia che meriti di essere approfondita, magari con una visita della polizia agli interessati.

Precog digitale. Nella provincia di Jiangsu è attivo dal 2015 un sistema anticrimine predittivo che utilizza tutti questi dati per allertare le autorità in caso di comportamenti o movimenti considerati sospetti. Secondo quanto riportato da una rivista legale cinese (link in cinese) un sistema di notifiche invia i dati delle persone da controllare agli agenti delle pattuglie due volte al giorno.

I responsabili del progetto sostengono che in poco più di due anni il sistema abbia permesso di dimezzare il tasso di criminalità. Ma a quale costo per la libertà delle persone?

Diritti umani. Il progetto è stato portato alla luce lo scorso 19 ottobre in un report pubblicato dall’organizzazione internazionale Human Right Watch e si chiama Police Cloud.

«È spaventoso sapere che le autorità cinesi stanno raccogliendo e centralizzando sempre più informazioni su centinaia di milioni di cittadini identificando le persone che deviano da ciò che loro considerano la normalità» spiega Sophie Richardson, direttore di Human Right Watch per la Cina.

Ma le critiche sulle violazioni dei diritti dei cittadini non sembrano fermare le autorità di Pechino, che dal 2015 hanno raccolto e classificato il DNA di oltre 40 milioni di cittadini, molti dei quali senza particolari ruoli o posizioni di rilievo nella società.