Oltre il risk-based approach, verso un "costituzionalismo algoritmico sostanziale" nell'era dell'intelligenza artificiale

this essay critically analyzes the European regulatory framework on Artificial Intelligence, particularly Regulation (EU) 2024/1689 (the AI Act) and the related Italian legislative proposal. It is argued that the legal architecture, founded on a purely functional definition of AI and a risk-based approach, is structurally inadequate to ensure the effective protection of fundamental rights. By overlooking the crucial issue of algorithmic opacity (the black box), this model “de-constitutionalizes” fundamental rights, transforming them from inviolable principles into negotiable variables in a cost-benefit calculation. Furthermore, it proves blind to systemic risks, such as environmental impact and the erosion of democratic processes. In opposition, the essay proposes a paradigm shift towards “substantive algorithmic constitutionalism”. This approach rests on two pillars: first, the recognition of a fundamental “right to human interaction” as an inviolable safeguard of human dignity and substantive equality (Arts. 2 and 3 of the Italian Constitution), which transcends mere human oversight; second, the obligation to integrate constitutional principles (human dignity and substantive equality) directly into the design of AI systems (by design), thereby making constitutional compatibility a preventive requirement rather than an ex post control. Only such a model of technological development, rooted in human rights, can reaffirm the primacy of the person and achieve genuine European algorithmic sovereignty.

il saggio analizza criticamente il quadro normativo europeo sull’Intelligenza Artificiale, con particolare riferimento al Regolamento (UE) 2024/1689 (AI Act) e al relativo disegno di legge di adeguamento italiano. Si argomenta che l’architettura giuridica, fondata su una definizione puramente funzionale di IA e su un approccio basato sul rischio (risk-based approach), sia strutturalmente inadeguata a garantire una tutela effettiva dei diritti fondamentali. Tale modello, ignorando la questione cruciale dell’opacità algoritmica (black box), “de-costituzionalizza” i diritti, trasformandoli da principi inviolabili a variabili negoziabili in un calcolo di convenienza, e si dimostra cieco ai rischi sistemici, come l’impatto ambientale e l’erosione dei processi democratici. In contrapposizione, il saggio propone un cambio di paradigma verso un “costituzionalismo algoritmico sostanziale”. Questo approccio si fonda su due pilastri: in primo luogo, il riconoscimento di un “diritto fondamentale all’interazione umana”, quale presidio invalicabile della dignità e dell’uguaglianza sostanziale (artt. 2 e 3 Cost.), che va oltre la mera sorveglianza umana (human oversight); in secondo luogo, l’obbligo di integrare i principi costituzionali (dignità umana e uguaglianza sostanziale) direttamente nella progettazione dei sistemi (by design), rendendo la compatibilità costituzionale un requisito preventivo e non un controllo ex post. Solo un modello di sviluppo tecnologico così radicato nei diritti umani può riaffermare la primazia della persona e realizzare un’autentica sovranità algoritmica europea.