Lydia Farina, Anna-Maria Piskopani, Algorithmic processing and AI bias; using overfitting to reveal rather than perpetuate existing bias

Abstract

In questo articolo analizziamo il sovradattamento dell’IA nell’elaborazione algoritmica per mostrare come esso sia correlato a casi di iniquità o distorsione dell’IA e come si combini con fenomeni sociali complessi, quali gli effetti di looping, per mantenere ed esacerbare le distorsioni esistenti. Discutiamo le normative esistenti e proposte in materia di IA che tentano di affrontare questo pregiudizio per cogliere le tendenze e le priorità dominanti. Infine, suggeriamo che, sebbene l’attenzione della letteratura attualmente si concentri sulle conseguenze negative dell’overfitting, esso può essere utilizzato come strumento diagnostico per individuare le disuguaglianze sociali sottostanti e, in quanto tale, portare a usi alternativi dell’analisi dell’IA per smascherare l’ingiustizia sociale piuttosto che esacerbarla. Questo documento fornisce un ulteriore supporto teorico alle recenti opinioni presenti nella letteratura che suggeriscono che l’elaborazione algoritmica può essere utilizzata per diagnosticare e monitorare i pregiudizi; evidenziando l’interazione con gli effetti di looping, fornisce anche un’ulteriore motivazione per utilizzare l’overfitting come primo passo verso la mitigazione dei pregiudizi storici.

Abstract (english)

In this paper we analyse AI overfitting in algorithmic processing to show how it relates to cases of unfairness or AI bias and how it combines with complex social phenomena such as looping effects to maintain and exacerbate existing bias. We discuss existi ng and proposed AI regulation attempting to address this bias to pick up dominant trends and priorities. Finally, we suggest that, although the focus of the literature currently falls on the negative consequences of overfitting, it can be used as a diagnostic tool for detecting underlying social inequalities and, as such, lead to alternative uses of AI analytics to expose social injustice rather than exacerbate it. This paper provides further theoretical support to recent views in the literature suggesting that algorithmic processing can be used to diagnose and monitor bias; by highlighting the interaction with looping effects, it also provides additional motivation to use overfitting as a first step towards mitigation of historical prejudice.