Per Giulia Gibertoni (Misto) “l’uso di sistemi di social scoring, del tutto analoghi a quelli proposti dal Comune di Bologna, rientrerebbe fra i sistemi di intelligenza artificiale a rischio inaccettabile, quindi sarebbe da considerarsi vietato”. La consigliera, con un’interrogazione, vuole quindi sapere dall’esecutivo regionale “se il progetto del ‘Gemello digitale della Città di Bologna’, con meccanismi premiali tipici dei sistemi di social scoring, sia in contrasto con la regolamentazione sulla protezione dei dati e con la proposta di regolamento comunitaria sull’intelligenza artificiale.
La consigliera vuole poi sapere “se la Regione Emilia-Romagna sia coinvolta nella realizzazione o nella gestione di questo progetto”. Sempre sullo stesso tema chiede anche se, “rispetto ai meccanismi premiali collegati al progetto, sia stato avviato l’iter di consultazione preventiva del Garante per la protezione dei dati personali, previa valutazione di una data protection impact assessment, come previsto dalla regolamentazione in materia”.
Attraverso questo progetto, si legge nell’atto, si sperimenteranno nuovi metodi per visualizzare i dati della città, per raccontare scenari fisici e per descrivere gli impatti delle diverse decisioni; verranno attivati modelli computazionali, algoritmi intelligenti (macchine che apprendono i moderni metodi matematici e statistici permettendo di svelare le correlazioni fra dati di diversa natura), saranno poi previste simulazioni ‘in vitro’ per comprendere gli effetti di un cambiamento; verranno costruiti scenari ipotetici per misurarne, con un costante monitoraggio, l’impatto (anche sui servizi), questo anche per favorire delle decisioni; inoltre, verranno avviati meccanismi per favorire l’interazione e la collaborazione tra gli attori dei processi e i vari settori; infine, verranno programmate nuove attività, ad esempio (ma non solo) nello sviluppo di app che si interfacceranno con il gemello (sia nel settore pubblico sia in quello privato).
Per la capogruppo, quindi, “con questo progetto il Comune di Bologna sarebbe in grado di riconoscere il cittadino ‘perbene’ e collaborativo e gli riconoscerebbe dei vantaggi economici concreti tramite l’istituzione di un credito sociale (smart citizen wallet)”. “Se è vero che i big data possono contribuire al miglioramento dell’efficienza dei processi, direzionali, gestionali e operativi, nonché far sì che le pubbliche amministrazioni e le aziende possano offrire servizi e prodotti innovativi ai cittadini e agli utenti -rimarca Gibertoni- ciò non può avvenire al prezzo della violazione palese di diritti e libertà fondamentali e inalienabili”. Così, prosegue, “si crea un ‘gemello digitale’ del cittadino (sotto una lente di controllo pubblica), una sorta di avatar generato con la gestione condivisa di enormi database”. Con questo progetto, sottolinea, “emerge una scarsa cultura in materia di protezione dei dati personali e il problema privacy viene affronta con leggerezza: il sistema funzionerebbe solo previo consenso del cittadino, dimenticando che la regolamentazione generale sulla protezione dei dati sconsiglia espressamente di adottare il consenso come base giuridica da parte di enti pubblici”. Questo tipo di progetti, conclude la consigliera, “ci avvicinano alle dinamiche delle società di alcuni regimi caratterizzati da un discutibile livello di democrazia”.
(Cristian Casali)