Pregiudizi computazionali. Il fenomeno dei bias tra algoritmi e politica

Il saggio affronta il tema dei pregiudizi computazionali analizzando il modo in cui gli algoritmi e i sistemi di intelligenza artificiale incorporano, riproducono e talvolta amplificano distorsioni sociali preesistenti. L’argomentazione prende avvio dalla critica al mito della neutralità tecnologica, mostrando come gli algoritmi siano prodotti sociali modellati da dati, scelte matematiche, team di sviluppo e modelli economici. In questa prospettiva, l’algorithmic bias può essere interpretato anche come una conseguenza del dataismo, ovvero dell’ideologia che attribuisce ai dati un ruolo privilegiato nei processi decisionali contemporanei. Il capitolo esamina le principali fonti dei bias nei sistemi algoritmici e ne discute gli effetti in ambiti sensibili come il lavoro, la finanza e il sistema giudiziario, illustrando casi emblematici come l’algoritmo COMPAS utilizzato per stimare il rischio di recidiva. Il contributo problematizza l’idea che il bias costituisca sempre e comunque un problema, distinguendo tra deviazioni statistiche inevitabili e forme di discriminazione effettiva. La riflessione finale suggerisce la necessità di superare l’illusione di una tecnologia perfettamente neutrale, sviluppando invece una comprensione critica e consapevole del ruolo degli algoritmi nelle decisioni sociali.