Il caso del CV: come un HR ha pubblicato 1.200 candidati senza saperlo

Quello che segue è un caso anonimizzato ricostruito da scenari ricorrenti nel nostro lavoro con PMI italiane. I dettagli specifici — settore, dimensioni, tempistiche — sono stati modificati per proteggere le parti coinvolte, ma la catena dell'errore e le conseguenze riflettono dinamiche che abbiamo osservato più volte. Lo condividiamo perché è istruttivo, non per sensazionalismo.

Era una PMI da circa ottanta dipendenti, settore servizi B2B, con un ufficio HR composto da due persone. La responsabile HR stava gestendo una campagna di recruitment ampia: oltre milleduecento candidature in tre mesi, per cinque posizioni aperte. Per non annegare nella lettura manuale, aveva iniziato a usare uno strumento AI consumer — gratuito, intuitivo, capace di estrarre automaticamente competenze, esperienze e livello di istruzione da ogni CV caricato. Un'ottima idea, in superficie.

La catena dell'errore: tre anelli

L'incidente non è stato causato da un singolo errore. Come quasi sempre accade in questi casi, è stata una catena di tre condizioni che si sono sovrapposte nel tempo.

1. Il tool consumer manteneva una retention dei dati caricati per finalità di miglioramento del modello. Le condizioni di servizio lo dichiaravano, ma in inglese, in una sezione dei ToS che nessuno legge. I CV caricati erano tecnicamente disponibili al fornitore per un periodo indefinito.
2. Il comportamento del modello durante le sessioni successive ha permesso — in risposta a prompt simili — di 'ricordare' pattern specifici legati ai candidati caricati. In almeno un caso documentato internamente, un output del sistema ha incluso frammenti riconducibili a candidature specifiche in risposta a una domanda generica di un altro utente.
3. Un utente esterno all'azienda, che usava la stessa piattaforma consumer, ha ricevuto in risposta a una propria interrogazione elementi che erano riconducibili a candidati della PMI. L'utente esterno ha segnalato l'anomalia alla piattaforma, che ha avvertito l'azienda tre settimane dopo l'evento originario.

Tre settimane tra l'errore e la scoperta

Il gap di tre settimane tra il momento in cui i dati sono stati potenzialmente esposti e il momento in cui l'azienda ne è venuta a conoscenza è uno degli aspetti più critici dell'intera vicenda. In quel lasso di tempo, l'azienda non ha avuto alcuna visibilità su cosa stesse accadendo. Non c'era un sistema di monitoraggio, non c'era un log delle sessioni AI, non c'era un processo di alerting. C'era solo un tool consumer aperto nel browser di un'HR manager.

Quando la piattaforma ha contattato l'azienda, la responsabile HR ha immediatamente interrotto l'uso del tool e allertato il DPO esterno. Da quel momento, il GDPR ha imposto il suo ritmo: 72 ore per la notifica al Garante dal momento della conoscenza dell'incidente, e notifica individuale a tutti i 1.200 interessati il cui rischio fosse classificato non basso.

Le conseguenze: un conto che nessuno aveva messo a budget

Le ricadute dell'incidente si sono distribuite su quattro livelli, nessuno dei quali era stato previsto o assicurato.

• Notifica individuale a 1.200 candidati: costo operativo di redazione, spedizione (digitale e cartacea per i casi senza email), gestione delle risposte e delle richieste di chiarimento — stimato in circa 15.000 euro di lavoro interno straordinario.
• Segnalazione al Garante e audit forense: il DPO esterno ha coordinato l'istruttoria, con l'ingaggio di un perito informatico forense per la ricostruzione della catena eventi. Costo totale dell'audit: circa 60.000 euro.
• Richiesta AI policy da parte di tre clienti enterprise: a seguito della notizia interna dell'incidente (trapelata durante una gara), tre clienti hanno formalmente richiesto visione della AI policy aziendale. L'azienda non ne aveva una.
• Perdita di un contratto da 200.000 euro: uno dei tre clienti, non avendo ricevuto documentazione soddisfacente entro i tempi richiesti dalla gara, ha assegnato il contratto a un competitor che disponeva di certificazione ISO 27001 e AI policy documentata.

“Il tool era gratis. L'incidente è costato più di 200.000 euro tra costi diretti e contratti persi. Questo è il costo reale della Shadow AI non gestita.”

Le lezioni: quattro cose che si potevano fare prima

Questo caso non è il risultato di incompetenza. L'HR manager stava cercando di essere più efficiente con gli strumenti che aveva a disposizione. Il problema è che nessuno, in azienda, aveva posto la domanda giusta: 'questo tool, dove vanno i dati che ci mettiamo dentro?'

Quattro azioni avrebbero prevenuto l'incidente o ne avrebbero limitato drasticamente le conseguenze.

• Verificare le condizioni di servizio del tool AI prima di qualsiasi uso su dati personali di terzi, con focus specifico su data retention e uso per training del modello.
• Usare esclusivamente tool con zero-retention garantita contrattualmente (es. piani enterprise con DPA firmato) per qualsiasi processo che tratti dati personali in volume.
• Implementare un AI Gateway con PII masking automatico: i CV vengono pseudonimizzati prima di raggiungere il modello, riducendo drasticamente il rischio anche in caso di comportamenti inattesi del sistema.
• Avere una AI policy operativa con esplicito divieto di uso di tool consumer non approvati per dati di terzi, e un processo di approvazione tool rapido (non una burocrazia, ma una verifica di 48 ore) prima dell'adozione.

Il modello consumer non e' zero-retention: capire perche'

Il punto tecnico più frainteso in questo caso — e in molti simili — è l'assunzione che 'non abbiamo condiviso dati con nessuno, abbiamo solo usato il tool'. Questa assunzione è errata per un motivo preciso: la maggior parte dei modelli AI consumer mantiene una qualche forma di retention dei prompt e dei dati caricati, per finalità che variano da fornitore a fornitore — miglioramento del modello, debug, sicurezza, log operativi.

La fiducia 'ce l'ha detto il fornitore che è sicuro' non basta in un audit GDPR. Il GDPR richiede un Data Processing Agreement firmato, una valutazione d'impatto (DPIA) per trattamenti ad alto rischio, e la capacità di dimostrare — con evidenza — che i dati sono stati trattati secondo le istruzioni del titolare. Un ToS generico non è sufficiente. Questa distinzione, banale per un DPO esperto, è quasi sempre ignota all'HR manager che si trova davanti a un tool intuitivo e gratuito.

Il caso del CV non è una storia di tecnologia malfunzionante. È una storia di assenza di governance in un momento in cui la governance non era ancora percepita come necessaria. Quella percezione sta cambiando — spinta dalle normative, dai clienti enterprise e dagli incidenti stessi. Le aziende che non aspettano il proprio incidente per costruire governance saranno quelle che usciranno avanti.