L’uso degli algoritmi consente un’automazione totale o parziale delle decisioni amministrative e di attività che possono essere ripetitive e semplici o estremamente complesse. L’aiuto all’uomo o la sua sostituzione diventano sempre più frequenti, anche se non è mai facile stabilire se i risultati del calcolo algoritmico costituiscano un suggerimento o un’integrazione, o quando condizionino completamente la scelta umana, “catturandola”. Le ragioni della diffusione degli algoritmi risiedono in una pluralità di fattori, in primis l’immediatezza dei risultati cui essi pervengono, capacità di grande importanza per le pubbliche amministrazioni, in quanto può contribuire sensibilmente a incrementare il loro livello di efficienza. Gli algoritmi hanno la capacità di riprodurre il compito loro affidato un numero infinito di volte, spesso con semplicità, fra gli altri vantaggi che derivano dal loro impiego: la omogeneità dei risultati prodotti, la semplificazione e standardizzazione delle procedure, l’armonizzazione e la razionalizzazione della stessa attività amministrativa. Fra gli altri benefici si annoverano la prevedibilità e la precisione dei risultati, soddisfacendo così il requisito della certezza giuridica, cruciale nei rapporti fra cittadini ed amministrazione. Enunciati i vantaggi derivanti dall’uso degli algoritmi ed anche dei Big data, impiegati per alimentarli, si passerà ad evidenziarne le criticità: la loro presunta neutralità, l’invisibilità e l’opacità, l’imprevedibilità e la fallibilità dei risultati, cui si aggiunge il fatto che essi, in quanto entità commerciali tutelate dalle disposizioni che regolano il diritto d’ autore e il segreto industriale, spesso non sono pienamente conoscibili. L’aggiornamento costante, cui gli sviluppatori dei software ricorrono per adattare continuamente i sistemi, rendono poi instabili e discontinui i loro prodotti, anche in ragione dei rapidi sviluppi delle diverse tecniche del settore, L’uso del loro carburante, i Big data, accresce incertezza ed opacità, determinando ulteriore confusione. La loro scarsa trasparenza impedisce di comprenderne il funzionamento, limitando di fatto la possibilità di ottenere una rimozione o una correzione di eventuali loro errori. I modelli matematici, alla base dei codici sorgente, inoltre apprendono i pregiudizi e li scolpiscono negli algoritmi, emblematico a riguardo il caso del sistema COMPAS. Gli algoritmi determinano un sovvertimento del rapporto uomo-macchina e in tale quadro diventa più pressante la preoccupazione che lo sviluppo dell’automazione ponga l’uomo in una posizione di subordinazione rispetto alla sua stessa creatura, ipotizzando il riproporsi della dinamica servo-padrone, nella quale gli algoritmi si impongono per la loro forza pratica, rendendo schiavo il decisore in quella che è stata definita la “dittatura dell’algoritmo”.
Le ragioni della diffusione degli algoritmi nelle decisioni amministrative. Vantaggi e limiti.
Sergio Altitonante
2023-01-01
Abstract
L’uso degli algoritmi consente un’automazione totale o parziale delle decisioni amministrative e di attività che possono essere ripetitive e semplici o estremamente complesse. L’aiuto all’uomo o la sua sostituzione diventano sempre più frequenti, anche se non è mai facile stabilire se i risultati del calcolo algoritmico costituiscano un suggerimento o un’integrazione, o quando condizionino completamente la scelta umana, “catturandola”. Le ragioni della diffusione degli algoritmi risiedono in una pluralità di fattori, in primis l’immediatezza dei risultati cui essi pervengono, capacità di grande importanza per le pubbliche amministrazioni, in quanto può contribuire sensibilmente a incrementare il loro livello di efficienza. Gli algoritmi hanno la capacità di riprodurre il compito loro affidato un numero infinito di volte, spesso con semplicità, fra gli altri vantaggi che derivano dal loro impiego: la omogeneità dei risultati prodotti, la semplificazione e standardizzazione delle procedure, l’armonizzazione e la razionalizzazione della stessa attività amministrativa. Fra gli altri benefici si annoverano la prevedibilità e la precisione dei risultati, soddisfacendo così il requisito della certezza giuridica, cruciale nei rapporti fra cittadini ed amministrazione. Enunciati i vantaggi derivanti dall’uso degli algoritmi ed anche dei Big data, impiegati per alimentarli, si passerà ad evidenziarne le criticità: la loro presunta neutralità, l’invisibilità e l’opacità, l’imprevedibilità e la fallibilità dei risultati, cui si aggiunge il fatto che essi, in quanto entità commerciali tutelate dalle disposizioni che regolano il diritto d’ autore e il segreto industriale, spesso non sono pienamente conoscibili. L’aggiornamento costante, cui gli sviluppatori dei software ricorrono per adattare continuamente i sistemi, rendono poi instabili e discontinui i loro prodotti, anche in ragione dei rapidi sviluppi delle diverse tecniche del settore, L’uso del loro carburante, i Big data, accresce incertezza ed opacità, determinando ulteriore confusione. La loro scarsa trasparenza impedisce di comprenderne il funzionamento, limitando di fatto la possibilità di ottenere una rimozione o una correzione di eventuali loro errori. I modelli matematici, alla base dei codici sorgente, inoltre apprendono i pregiudizi e li scolpiscono negli algoritmi, emblematico a riguardo il caso del sistema COMPAS. Gli algoritmi determinano un sovvertimento del rapporto uomo-macchina e in tale quadro diventa più pressante la preoccupazione che lo sviluppo dell’automazione ponga l’uomo in una posizione di subordinazione rispetto alla sua stessa creatura, ipotizzando il riproporsi della dinamica servo-padrone, nella quale gli algoritmi si impongono per la loro forza pratica, rendendo schiavo il decisore in quella che è stata definita la “dittatura dell’algoritmo”.I documenti in IRIS sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.
