Quando qualcuno contesta che un processo automatico penalizza una categoria di persone, la contestazione arriva sui numeri di mesi interi.
Non su una pratica sbagliata: su una tendenza. E a quel punto ogni agente che compone quel processo può aver superato i propri controlli, ogni fornitore può essere in regola, e l'effetto contestato resta lì, con un solo intestatario.
La domanda diventa chi risponde, di quale effetto, con quali prove. In Italia ha già una procedura, e non aspetta il dicembre 2027.
La contestazione arriva su un insieme, non su una decisione
Il modo in cui una discriminazione si contesta in tribunale, in Italia, è costruito sui numeri e non sul singolo caso.
L'articolo 28 del decreto legislativo 1° settembre 2011, n. 150 regola le cause in materia di discriminazione. Il comma 4 dice: «Quando il ricorrente fornisce elementi di fatto, desunti anche da dati di carattere statistico, dai quali si può presumere l'esistenza di atti, patti o comportamenti discriminatori, spetta al convenuto l'onere di provare l'insussistenza della discriminazione». E aggiunge: «I dati di carattere statistico possono essere relativi anche alle assunzioni, ai regimi contributivi, all'assegnazione delle mansioni e qualifiche, ai trasferimenti, alla progressione in carriera e ai licenziamenti dell'azienda interessata».
Tre cose, in quella frase, contano per chi ha degli agenti accesi.
Il presupposto è aggregato. Al ricorrente basta portare una tendenza nei numeri. Un'associazione, un sindacato o un candidato che ha raccolto abbastanza dati può partire da lì.
L'onere si sposta. Una volta che la presunzione regge, tocca a te dimostrare che la discriminazione non c'è stata.
Il costo di avviarla è basso. La causa si fa davanti al tribunale del luogo in cui il ricorrente ha il domicilio, col rito semplificato, e in primo grado le parti «possono stare in giudizio personalmente».
Per la discriminazione di genere nel lavoro c'è un articolo più vecchio, l'articolo 40 del decreto legislativo 11 aprile 2006, n. 198, che arriva alla stessa conclusione — «spetta al convenuto l'onere della prova sull'insussistenza della discriminazione» — ma per una via più stretta: gli elementi di fatto devono essere «idonei a fondare, in termini precisi e concordanti, la presunzione». Non basta uno scarto nei numeri.
«Apparentemente neutri»
La definizione che rende tutto questo applicabile a un processo automatizzato è quella di discriminazione indiretta, e non parla di intenzioni. Per l'articolo 2 del decreto legislativo 9 luglio 2003, n. 216 si ha discriminazione indiretta «quando una disposizione, un criterio, una prassi, un atto, un patto o un comportamento apparentemente neutri» possono mettere certe persone «in una situazione di particolare svantaggio rispetto ad altre persone».
Possono. Basta che quel criterio sia in grado di produrre lo svantaggio, anche prima che si veda. E «apparentemente neutri» descrive esattamente un criterio che nessuno ha scritto per escludere qualcuno e che escludendo funziona.
Il perimetro dipende dal motivo. Il decreto 216/2003 copre religione, convinzioni personali, handicap, età, nazionalità e orientamento sessuale: soprattutto il lavoro — selezione, assunzione, carriera, retribuzione, licenziamento, formazione — ma il suo articolo 3 comprende anche l'«accesso all'alloggio», l'«accesso a vantaggi sociali e fiscali» e l'assistenza degli uffici di collocamento. Per razza e origine etnica il decreto legislativo 9 luglio 2003, n. 215 va più in là: il suo articolo 3 elenca istruzione, prestazioni sociali, assistenza sanitaria e «accesso a beni e servizi, incluso l'alloggio». Un esito aggregato su chi compra, non solo su chi si candida.
E se la discriminazione è accertata, il giudice può condannare al risarcimento, ordinare la cessazione del comportamento e adottare ogni provvedimento idoneo a rimuoverne gli effetti, fino a «un piano di rimozione delle discriminazioni accertate». Lo stesso comma prevede il caso del «comportamento discriminatorio di carattere collettivo».
Perché i controlli su ogni agente possono passare tutti
La novità sta altrove. Oggi quell'esito può nascere da più sistemi che nessuno ha collegato apposta.
Jose Manuel de la Chica Rodríguez, Juan Manuel Vera Díaz e Pablo Delgado Romero l'hanno descritta il 23 settembre 2026 in Compliant with Local Controls, Collectively Discriminatory, un preprint depositato su arXiv e non ancora passato per una revisione fra pari. Il paper non dichiara affiliazioni, si presenta come un'agenda di ricerca e non come una validazione in produzione, e precisa di non essere una prova che Santander usi i sistemi descritti.
Il meccanismo è semplice. Se più componenti stimano lo stesso rischio e sono tutti un po' prudenti quando il dato è incerto, e se l'incertezza è più alta per un gruppo di persone che ha meno storico alle spalle, ogni componente supera il proprio controllo — che verifica soltanto se a parità di punteggio la decisione è la stessa — e l'insieme scarta quel gruppo. Nella loro simulazione la disparità nell'aggregato arriva a otto volte il limite che si erano dati, con zero violazioni dei controlli locali: sono duecento componenti fatti di regole matematiche su dati sintetici, e gli autori avvertono che le dimensioni dell'effetto non si trasferiscono alla produzione. Quello che si trasferisce è la struttura.
Perché serve a questo articolo lo dice la loro classificazione dei modi in cui i controlli locali non si sommano. Uno di quei modi è il caso in cui nessun componente e nessun proprietario è in grado di spiegare o di rispondere dell'esito congiunto. È un vuoto di responsabilità prima che un problema di misura, e per aprirlo non servono duecento componenti. Bastano tre passaggi automatici che leggono la stessa base documentale.
Quello che hai in mano descrive un componente alla volta
Mettiamo un'azienda di servizi che seleziona i candidati con tre passaggi automatici — uno estrae i dati dal curriculum, uno confronta l'esperienza con la posizione, uno ordina la lista per il responsabile che chiamerà i primi dieci. È un caso costruito per questo articolo, non un progetto reale.
Arriva una contestazione: nei diciotto mesi passati, i candidati sopra i cinquant'anni sono stati convocati in una proporzione molto più bassa degli altri, a parità di esperienza dichiarata. Numeri alla mano. Apri la cartella e trovi quello che hai.
La spiegazione della singola decisione. L'AI Act ha un articolo intitolato «Diritto alla spiegazione dei singoli processi decisionali». L'articolo 86 del Regolamento (UE) 2024/1689 dà a chi è oggetto di una decisione presa sulla base dell'output di un sistema ad alto rischio dell'allegato III il diritto di ottenere dal deployer — il termine inglese con cui il testo italiano ufficiale chiama chi usa il sistema — «spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata». Una decisione, un sistema, il suo ruolo. Serve a chi è stato scartato, e serve; non risponde a una domanda posta su diciotto mesi di candidature.
Il diritto è più stretto di come viene raccontato: vale se la decisione produce effetti giuridici o incide in modo analogamente significativo, e cede se la stessa garanzia è già data da altre norme dell'Unione — l'articolo 22 del GDPR, per esempio. In compenso non è stato rinviato. L'Omnibus digitale sull'IA ha spostato in avanti il capo III, sezioni 1, 2 e 3 — i requisiti dei sistemi ad alto rischio e gli obblighi di chi li fornisce e li usa — al 2 dicembre 2027 per i sistemi dell'allegato III e al 2 agosto 2028 per quelli inseriti in prodotti già regolati. L'articolo 86 sta nel capo IX e segue la data generale del regolamento, il 2 agosto 2026.
I documenti tecnici. I registri automatici degli eventi (articolo 12), la gestione dei rischi (articolo 9), la documentazione tecnica (articolo 11), i parametri della sorveglianza umana (articolo 14). Sono quattro documenti per sistema, e tre su quattro li produce il fornitore, non tu. Nessuno dei quattro è definito su un gruppo di persone: descrivono un componente.
Quando il giudice li chiede, chiede esattamente quei quattro. Il decreto legislativo 9 settembre 2026, n. 160, in vigore dal 30 settembre, prevede che il giudice, su istanza di chi allega il danno, ordini l'esibizione degli elementi di prova «specificamente pertinenti relativi al funzionamento del sistema di intelligenza artificiale», e il comma 2 dell'articolo 17 elenca proprio i registri dell'articolo 12, la gestione dei rischi, la documentazione tecnica e la sorveglianza umana. Vale nelle azioni di risarcimento del danno, e quindi tocca una causa di discriminazione solo per la parte in cui si chiedono i danni; l'ordine resta comunque «limitato a quanto necessario e proporzionato», con la tutela dei segreti commerciali.
C'è poi un documento dell'AI Act che i gruppi di persone li nomina davvero: la valutazione d'impatto sui diritti fondamentali dell'articolo 27, che chiede «le categorie di persone fisiche e gruppi verosimilmente interessati». Ma è dovuta a pochi — enti pubblici, privati che erogano servizi pubblici, e chi valuta il merito creditizio o prezza le assicurazioni vita e salute. L'azienda dell'esempio non rientra in nessuna di quelle caselle, e la stragrande maggioranza delle PMI nemmeno.
Resta il punto di frizione. La contestazione riguarda un esito su un gruppo; quello che hai in cartella, tolta quell'eccezione, riguarda un sistema per volta. Se compili tutta la lista degli adempimenti — e la lista dovuta oggi a una PMI è più corta di quanto ti raccontano — hai risposto bene a una domanda diversa.
E le scadenze non coincidono. Gli obblighi dell'AI Act sui sistemi ad alto rischio dell'allegato III si applicano dal 2 dicembre 2027. Le norme sulla discriminazione indiretta sono in vigore dal 2003.
Il fornitore risponde del suo pezzo, non dell'effetto
Nell'esempio, i tre passaggi vengono da tre forniture diverse: un servizio di lettura documenti, un modello generalista, un modulo del gestionale del personale. Ognuno fa quello che il contratto dice. Ognuno, interrogato, risponde correttamente sul proprio pezzo.
Nessuno dei tre ha una vista sull'esito. L'esito nasce dove i tre si incontrano, e quel punto è dentro la tua azienda.
È anche la posizione che l'AI Act assegna: chi usa un sistema sotto la propria autorità è il deployer, e i suoi obblighi stanno nell'articolo 26. In certi casi il ruolo si sposta ancora più verso di te — se metti in servizio quel flusso col tuo nome per uno scopo che il regolamento considera ad alto rischio, come scremare curriculum, il fornitore diventi tu. In nessuna delle due letture la responsabilità dell'esito aggregato torna indietro a chi ti ha venduto i pezzi.
Un fornitore può essere chiamato in causa: l'articolo 17 del decreto 160/2026 prevede l'ordine di esibizione anche verso «il terzo che ne dispone», e per i registri che stanno sui suoi server il terzo è lui. Quello che consegnerà, però, è la prova del suo componente, che i suoi controlli li ha passati.
Su questo blog abbiamo già chiesto con quale identità agisce un agente che scrive nel gestionale: a nome di chi risulta l'operazione, e come si distingue nel registro una persona da un'automazione. Quella domanda riguarda una riga alla volta e si risolve con un'utenza e due campi. Qui si va un passo più in là, e si chiede chi risponde di un effetto che in nessuna riga c'è, perché esiste solo nella somma.
Chi risponde, di quale effetto, con quali prove
La difesa, nelle cause di discriminazione, ha una forma precisa. Le differenze di trattamento indirettamente discriminatorie non sono discriminazione se «giustificate oggettivamente da finalità legittime perseguite attraverso mezzi appropriati e necessari»: lo dicono con le stesse parole il decreto 215/2003 e il decreto 216/2003. Tre cose da mostrare, quindi: uno scopo legittimo, mezzi adeguati, e che non ce n'erano di meno invasivi.
Sono tre cose che si scrivono prima. Ricostruite dopo la contestazione valgono poco, perché a quel punto sono la spiegazione di chi si difende.
Le tre domande dell'attacco, in pratica, sono il sommario di quel fascicolo.
Chi risponde. Un nome e un cognome per l'esito del processo, non uno per agente. Nell'esempio: la persona che risponde di come vengono convocati i candidati, e non tre persone che rispondono ciascuna del proprio pezzo. Se per un processo ci sono tre proprietari e nessuno dell'insieme, il vuoto di responsabilità non è un rischio: è la struttura che hai.
Di quale effetto. Quale grandezza guardi, su quali categorie, e quale scarto consideri accettabile — scritto prima, con il motivo per cui quel numero e non un altro. Qui va detta una cosa sui numeri che girano: il limite dello 0,05 dell'articolo scientifico è un parametro di simulazione, e gli autori lo dichiarano tale, non una soglia di legge. Una soglia di legge non c'è. La scelta è tua, e quello che devi poter mostrare è che l'hai fatta con un criterio, non che hai indovinato il numero giusto.
Con quali prove. La giustificazione scritta prima: perché quel criterio serve allo scopo, e quali alternative hai scartato. Più la storia delle revisioni, perché un processo che non è mai stato riesaminato in diciotto mesi è difficile da presentare come tenuto sotto controllo.
Chi ha dipendenti o collaboratori un obbligo in questa direzione ce l'ha già, ed è italiano. L'articolo 11 della legge 23 settembre 2025, n. 132 rimanda all'articolo 1-bis del decreto legislativo 26 maggio 1997, n. 152 per l'informazione sui sistemi decisionali o di monitoraggio integralmente automatizzati — e grava anche sul committente, per le collaborazioni coordinate e continuative. Fra le informazioni dovute, la lettera f) chiede «il livello di accuratezza, robustezza e cybersicurezza dei sistemi» e le metriche usate per misurarli, «nonché gli impatti potenzialmente discriminatori delle metriche stesse».
Il terzo comma di quell'articolo 1-bis dà al lavoratore, anche tramite il sindacato, il diritto di accedere ai dati e di chiedere ulteriori informazioni, con risposta scritta entro trenta giorni. Trenta giorni, e la domanda può arrivare molto prima di un ricorso. C'è una porta di uscita, e conviene sapere quanto è stretta: l'ultimo comma esclude gli obblighi informativi per «i sistemi protetti da segreto industriale e commerciale». Quanto copra davvero, per un flusso montato con tre forniture di terzi, è una domanda da avvocato, e la risposta non è scontata.
Il terzo comma dell'articolo 11 della legge 132/2025, poi, chiede che l'uso dell'intelligenza artificiale nella gestione del rapporto di lavoro garantisca i diritti del lavoratore «senza discriminazioni in funzione del sesso, dell'età, delle origini etniche, del credo religioso, dell'orientamento sessuale, delle opinioni politiche e delle condizioni personali, sociali ed economiche». Anche qui l'obbligo è formulato sull'esito.
Dove i passaggi automatici girano su una piattaforma, questo fascicolo è in buona parte già scritto: in Noeva ogni esecuzione resta tracciata e consultabile, quindi ricostruire cosa è passato da dove è una richiesta al sistema. Dove ogni passaggio è un abbonamento diverso usato a mano, i diciotto mesi da raccontare non esistono da nessuna parte.
La verifica da fare adesso
Tre domande da girare in azienda, e nessuna richiede un'analisi.
Per quale dei tuoi processi automatizzati esiste una persona che risponde del risultato complessivo? Di come finiscono le pratiche, le candidature, le richieste. Se il nome che viene fuori è quello di chi ha fatto l'integrazione, quella persona risponde di uno strumento, non dell'esito.
Se domani ti arrivassero i numeri di diciotto mesi, saprebbe farli qualcuno? Per categoria di persone, come sono andate le pratiche. Se la risposta è «li abbiamo da qualche parte», la tua versione dei fatti oggi non esiste.
C'è un documento, scritto prima, che dice perché quel criterio è necessario? Il criterio che scarta, filtra o ordina. Se esiste solo nel prompt di qualcuno o nella configurazione di un fornitore, non è una giustificazione: è un'impostazione.
Il fascicolo si scrive prima, o non c'è
Nessuno ha violato niente. Ogni fornitore ha rispettato il contratto, ogni controllo ha dato esito positivo, ogni singola decisione, guardata da sola, si spiega. La contestazione però riguarda l'effetto, e a risponderne è chi ha messo in fila i pezzi.
La documentazione che le liste di adempimenti fanno produrre descrive un componente per volta, e resta utile: semplicemente risponde a un'altra domanda. Quella posta su un gruppo di persone ha tre pezzi, e nessuno dei tre si costruisce dopo: chi risponde, di quale effetto, con quali prove.
Un agente che lavora da solo lascia decisioni da spiegare una per una. Tre agenti che leggono gli stessi dati lasciano un esito, e l'esito ha un solo intestatario.
Dei processi in cui hai messo più di un passaggio automatico, per quanti sapresti dire oggi come sono andate le pratiche degli ultimi sei mesi, divise per categoria di persone?
Questo articolo spiega il contenuto delle norme e non sostituisce un parere legale sul tuo caso.