Processi decisionali automatizzati discriminatori: pericoli inediti e misure di contrasto

alfio guido grasso
2024-01-01

2024
Automated decision-making systems, in an attempt to predict the future, base their knowledge on past events. This tendency risks perpetuating situations of privilege. The propensity to crystallise a particular state of the world goes hand in hand with profiling, the generalised assumption that people with certain characteristics are more likely to behave in certain ways, possess certain qualities, or prefer certain goods or services. In addition to what might be termed legal or typical discrimination, i.e. discrimination against individuals on the basis of characteristics that are protected by anti-discrimination legislation, the risks of being a victim of discrimination may include new types of groups identified through inferential associations that do not correspond to historically protected characteristics.
I sistemi decisionali automatizzati, nel tentativo di elaborare previsioni future, basano le loro conoscenze su eventi empirici passati. Questa propensione rischia di perpetuare situazioni di privilegio. La tendenza a cristallizzare un certo stato di mondo va di pari passo con la classificazione degli individui in gruppi di profili, generalizzando il presupposto che persone con determinate caratteristiche siano più propense a tenere un preciso comportamento o a possedere qualità specifiche ovvero a preferire particolari beni o servizi. Oltre a quelle che potrebbero definirsi discriminazioni legali o tipiche, perpetrate cioè a danno di individui in ragione di caratteristiche contemplate tra i fattori di protezione dalla normativa antidiscriminatoria, i pericoli di essere vittime di discriminazioni possono coinvolgere nuovi tipi di gruppi, identificati attraverso associazioni inferenziali, e non corrispondenti a caratteristiche storicamente protette.
File in questo prodotto:
File Dimensione Formato  
estratto Studium Iuris.pdf

solo utenti autorizzati

Tipologia: Versione Editoriale (PDF)
Licenza: NON PUBBLICO - Accesso privato/ristretto
Dimensione 812.06 kB
Formato Adobe PDF
812.06 kB Adobe PDF   Visualizza/Apri

I documenti in IRIS sono protetti da copyright e tutti i diritti sono riservati, salvo diversa indicazione.

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/20.500.11769/656910
Citazioni
  • ???jsp.display-item.citation.pmc??? ND
  • Scopus ND
  • ???jsp.display-item.citation.isi??? ND
social impact