Se un modello scrive un curriculum sapendo il nome del candidato, anonimizzarlo dopo non basta: il testo è già cambiato con quel nome.
Lo mostra uno studio tedesco uscito il 28 agosto: su curriculum generati da cinque modelli e poi anonimizzati, un programma statistico semplice capiva ancora se il nome di partenza era maschile o femminile. Non da parole marcate, ma dalla scelta fra parole tutte neutre.
Per chi usa un modello per riassumere, uniformare o tradurre i curriculum prima di valutarli, la conseguenza è una regola sull'ordine dei passaggi: si anonimizza prima di qualsiasi passaggio che genera testo, non alla fine.
Il modello che legge e il modello che scrive
Che togliere il nome non impedisca a un modello di capire da dove viene un candidato lo abbiamo già raccontato in bias AI nella selezione del personale: lì era il modello che legge il curriculum a ricostruire l'origine da interessi e volontariato.
Questo studio guarda il passaggio prima. Il curriculum lo scrive il modello, e la domanda è se nel testo resta una traccia di chi pensava di descrivere. È il caso di chi, nel proprio flusso di selezione, fa passare i CV da un modello per dar loro la stessa forma, riassumerli per chi deve leggerli, o tradurli.
Come è fatto l'esperimento
Il lavoro è di Charlotte Leininger, Helena Veit, Matthias Aßenmacher e Andreas Bender, del dipartimento di Statistica della LMU di Monaco: Fairness Beyond Anonymization?, pubblicato su arXiv. È un preprint, non ancora passato dalla revisione di altri ricercatori, ed è nato come progetto di consulenza svolto da studenti con Chemistree, una società tedesca che fornisce l'informatica a un servizio di abbinamento fra candidati e aziende e che ha messo a disposizione i dati.
I dati sono questionari, non curriculum: competenze, attitudini e preferenze di lavoro, senza nome, età o genere. Su 5.932 profili, 3.542 erano completi, e da questi gli autori ne hanno estratti a caso 30.
A ogni profilo hanno abbinato, uno alla volta, 40 nomi: dieci per ciascuno di quattro gruppi, uomini e donne con nomi tedeschi e turchi. Ogni coppia uomo-donna ha lo stesso cognome, e tutti i candidati hanno 40 anni. Poi hanno chiesto a cinque modelli di scrivere, da «coach professionale», un curriculum in tedesco di una pagina: GPT-4o-mini di OpenAI, Gemini 2.5 Flash-Lite di Google e tre versioni di Qwen3 di Alibaba, da 4, 8 e 14 miliardi di parametri. Fanno 1.200 curriculum per modello, che differiscono solo per il nome dato in partenza.
Poi li hanno anonimizzati come farebbe un'azienda attenta. Via la sezione dei dati personali, via il nome ovunque comparisse nel testo. E via le forme che in tedesco dicono il genere, con una regola: Beraterin (consulente, al femminile) diventa Berater; Fachmann e Fachfrau (specialista, al maschile e al femminile) diventano entrambi Fach-mann/-frau.
Sui testi puliti hanno addestrato un classificatore: un modello statistico elementare, che conta le parole e impara quali compaiono più spesso in un gruppo che nell'altro. Non è il filtro di un'azienda, è uno strumento di misura: se indovina il genere più spesso del caso, nel testo c'è ancora un'informazione sul genere. Per evitare risultati dovuti a una divisione fortunata dei dati, gli autori hanno ripetuto la prova 30 volte, tenendo sempre separati i curriculum nati dallo stesso profilo.
Il genere si riconosce, l'origine quasi no
Tirando a indovinare, il classificatore avrebbe ragione una volta su due. Sui curriculum di GPT-4o-mini ha indovinato il genere del nome di partenza nell'82,5% dei casi, su quelli di Gemini nell'87,7%. Sui tre modelli Qwen il segnale è più debole ma c'è: fra il 61,6% e il 68,7%, a seconda della dimensione e di come il modello sceglie le parole.
Sull'origine, invece, il risultato è vicino al caso. Per GPT-4o-mini e per il Qwen da 8 miliardi è esattamente il 50%; Gemini arriva al 52,1%, e il valore più alto, 56,6%, è del Qwen da 14 miliardi. Lo studio trova il genere, non l'origine, ed è per questo che qui parliamo di genere.
Fachkraft o Fachmann: dove sta il segnale
Fachkraft vuol dire «specialista» ed è neutra: in tedesco vale per un uomo e per una donna, ed è la forma che si usa proprio per non marcare il genere. Nei curriculum di GPT-4o-mini, di Gemini e del Qwen da 8 miliardi, Fachkraft è stata scelta in tutte e 30 le ripetizioni come indizio di un nome femminile. Nei curriculum con nome maschile GPT-4o-mini preferiva Fachmann o Fachfrau, cioè la stessa parola nella forma che la regola aveva già ridotto a una sola, Fach-mann/-frau. Gemini preferiva Profi, «professionista», anche questa neutra.
Nessuna di queste parole, presa da sola, dice il genere. Lo dice la scelta fra due parole che significano la stessa cosa. Una regola che cerca le forme femminili non la vede, perché non c'è niente di femminile da trovare.
Due cose che lo studio ha cercato e non ha trovato. La lunghezza dei curriculum non cambiava fra uomini e donne. E contando in tutti i testi le parole che la letteratura associa agli stereotipi — assertività, ambizione e competizione da una parte, cooperazione, calore e attenzione agli altri dall'altra — gli autori non hanno trovato differenze coerenti in nessun modello. Il segnale sta in poche scelte di vocabolario, ripetute con costanza.
Quello che lo studio non dice
Non dice che qualcuno è stato discriminato. Gli autori lo scrivono in chiaro: «recoverable demographic information should not be interpreted as direct evidence of discriminatory hiring outcomes». Un'informazione recuperabile è una condizione perché un sistema a valle la usi, non la prova che la usi.
E se la usa, non si sa in che direzione. In un altro studio, uscito su arXiv nel maggio 2025 e poi pubblicato su PeerJ Computer Science, David Rozado ha dato a 22 modelli coppie di curriculum identici, uno con un nome maschile e uno con un nome femminile, chiedendo quale candidato scegliere: su 30.800 decisioni, i modelli hanno scelto la candidata nel 56,9% dei casi. Che il testo porti il genere e che un sistema lo usi contro qualcuno sono due affermazioni diverse, e la seconda va misurata caso per caso.
Riguarda la generazione da un questionario, non il riassunto di un CV esistente. I modelli partivano da risposte strutturate e dovevano inventare il resto; un riassunto parte da un testo scritto dal candidato e ha meno spazio per scegliere le parole. Che succeda anche lì lo deduciamo noi, dal meccanismo, e non è stato misurato. Gli autori stessi indicano fra i limiti i nomi, le istruzioni e i modelli scelti, e il fatto di aver lavorato su testi generati e non su candidature vere.
È una lingua, un paese, cinque modelli. Il segnale è legato al tedesco, dove convivono parole neutre e parole marcate con lo stesso significato.
E in italiano
Per quanto abbiamo cercato, nessuno ha misurato questo effetto su curriculum generati in italiano. Quello che segue è in parte un ragionamento nostro, in parte due studi vicini.
In italiano il genere di chi scrive compare più spesso che in tedesco, perché si accorda in tutta la frase. Ci sono parole neutre, come consulente o responsabile, e parole che il genere lo dicono, come ingegnere e ingegnera, commesso e commessa. E poi participi e aggettivi: laureata, abituata a lavorare in squadra, interessata a un ruolo. Una regola come quella dello studio, che trasforma Beraterin in Berater, in italiano dovrebbe riscrivere mezzo curriculum. E un modello che scrive sapendo il nome deve comunque scegliere, parola per parola, fra la forma neutra e quella marcata.
Che i modelli, in italiano, scelgano il genere anche quando nessuno glielo chiede ha almeno un indizio misurato. In uno studio pubblicato nel luglio 2025, un gruppo del Politecnico di Torino ha dato a GPT-4o-mini e a Gemini 1.5 Flash frasi ambigue su due ruoli di lavoro, con un pronome che poteva riferirsi a entrambi. Nelle frasi con un manager, un assistente e un «lei», Gemini ha attribuito il «lei» all'assistente nel 100% dei casi, GPT-4o-mini nel 97%. Lo studio riguarda frasi di prova, non curriculum, e due soli modelli, e gli autori stessi avvertono che i risultati potrebbero non valere per altre lingue.
Il secondo studio mostra che il genere arriva al modello anche senza nome. Luca Benedetto e altri, fra Télécom SudParis e l'Università di Cambridge, hanno chiesto a modelli di OpenAI, Anthropic e Google consigli sul corso di laurea da scegliere (EACL 2026), cambiando nelle richieste in italiano solo le desinenze di nomi e aggettivi, da -o ad -a. Nella versione al femminile i modelli consigliavano meno materie scientifiche, e fino al 76% della differenza che si misurava usando nomi propri c'era già con le sole desinenze. Anche qui non si parla di curriculum. Ma per chi anonimizza un CV italiano dice una cosa precisa: togliere il nome non toglie il genere.
Anonimizzare prima di generare
La raccomandazione degli autori per le aziende è diretta: «simple anonymization of final documents is insufficient to fully remove demographic information», anonimizzare il documento finale non basta. Suggeriscono un passaggio preliminare che trovi e neutralizzi le scelte di parole legate al genere. Per noi, in pratica, significa quattro cose.
Il nome esce prima del modello. Nome, contatti, foto, data di nascita stanno in un campo separato, e il modello che riassume o uniforma riceve il curriculum senza. Il collegamento fra il testo prodotto e la persona lo tiene il sistema con un codice, non il modello.
Anonimizzare vuol dire anche il testo, non solo i campi. In italiano il genere sta nelle desinenze del curriculum originale. Se il passaggio che genera testo non deve sapere il genere, qualcuno deve decidere come neutralizzare quelle frasi prima, o accettare che il modello lo sappia e controllarne l'effetto.
Si prova con lo stesso scambio di nomi dello studio. Prendi dieci curriculum e fai rifare al tuo flusso lo stesso passaggio più volte: prima due volte con lo stesso nome, per vedere quanto cambia il testo da solo, perché un modello non riscrive mai due volte allo stesso modo. Poi con un nome maschile e uno femminile. A quel punto conta se certe parole tornano sempre con lo stesso genere, come Fachkraft in tutte e 30 le ripetizioni dello studio.
Il testo generato non diventa la base di un punteggio automatico senza controllo. Un sistema che impara dalle scelte passate può imparare che Fachkraft va con chi è stato scartato. Nei flussi che costruiamo ogni esecuzione resta registrata, e la scelta su una persona la fa una persona: è quello che permette, mesi dopo, di ricostruire quale testo ha letto chi ha deciso.
Per chi si candida, lo studio dà un consiglio simmetrico: se usi un modello per scrivere o sistemare il curriculum, non mettere il nome nelle istruzioni.
Per l'AI Act, il Regolamento (UE) 2024/1689, filtrare le candidature e valutare i candidati è un uso ad alto rischio (allegato III, punto 4). Chi usa un sistema del genere deve garantire che i dati che gli passa, nella misura in cui li controlla, siano pertinenti rispetto alla finalità (articolo 26, paragrafo 4). Per riassumere un curriculum il nome del candidato non lo è: è una nostra lettura, ma è il punto da cui partire. Quegli obblighi si applicano dal 2 dicembre 2027, e un modello che si limita a riassumere o uniformare può rientrare nell'eccezione per i compiti preparatori: chi ci rientra, e a quali condizioni, lo abbiamo spiegato in AI Act e selezione del personale: quando diventi fornitore.
Prima di far riscrivere il prossimo curriculum
Togliere il nome alla fine lascia nel testo le parole che il modello ha scelto sapendolo. In tedesco, sui testi di due dei cinque modelli, una manciata di parole come Fachkraft bastava per riconoscere il genere più di otto volte su dieci; in italiano, dove il genere si accorda in tutta la frase, non abbiamo motivo di pensare che sia più facile toglierlo.
Il rimedio non è un filtro in più in fondo al flusso. È spostare l'anonimizzazione all'inizio, prima di qualsiasi passaggio che genera testo, e controllare con un confronto a nomi scambiati che il flusso faccia quello che si pensa.
Nel tuo flusso di selezione, il modello che riassume i curriculum riceve anche il nome del candidato?