Nelle promesse delle Big Tech, l’anonimizzazione è presentata come un processo infallibile: un algoritmo “oscura” i volti e la privacy è salva. Tuttavia, le testimonianze dei lavoratori di Sama a Nairobi hanno confermato ciò che i ricercatori di visione artificiale sanno da tempo: il “blurring” (sfocatura) automatico è una tecnologia probabilistica, non assoluta. Quando un sistema di anonimizzazione ha un’efficacia del 90%, quel 10% di fallimento non è un semplice errore statistico, ma una voragine di sicurezza che espone l’identità degli utenti nei loro momenti più vulnerabili.
Perché l’IA “manca” il bersaglio?
Gli algoritmi di Computer Vision (CV) faticano enormemente in contesti non strutturati. Esistono tre ragioni tecniche principali per cui l’anonimizzazione fallisce:
- Scarsa Illuminazione e Rumore Digitale: In ambienti come camere da letto o bagni (spesso meno illuminati di un ufficio), i sensori degli smart glasses producono molto “rumore” visivo. Questo rumore degrada i contrasti necessari all’algoritmo per identificare i tratti somatici come un “volto”.
- Affollamento Visivo (Clutter): In una casa, il volto può essere parzialmente coperto da oggetti (spazzolini, cuscini, mani). Se l’algoritmo non vede l’intero ovale del volto o i punti di riferimento (occhi, naso), spesso non lo riconosce come tale e, di conseguenza, non applica l’oscuramento.
- Motion Blur (Sfocatura da movimento): Gli occhiali intelligenti catturano video da una prospettiva in movimento. Se l’utente gira la testa velocemente, il volto del soggetto ripreso può apparire scia e “sfuggire” alla finestra di rilevamento dell’IA, che non riesce a processare il frame in tempo reale.
Il Rischio di un Dataset “Quasi” Anonimo
Cosa succede se un dataset inviato a revisori umani è protetto solo al 90%?
- Riconoscimento per Associazione: Anche se il volto è sfocato, la privacy può essere violata attraverso “identificatori secondari”. Sfondi specifici, tatuaggi, vestiti particolari o oggetti personali permettono a un revisore umano di identificare comunque la persona.
- Memorizzazione dell’IA: Se questi dati non correttamente oscurati vengono usati per l’addestramento, il modello di IA può “memorizzare” involontariamente volti o dati sensibili (PII), rischiando di riprodurli in futuro sotto forma di allucinazioni o risposte a query specifiche.
- Violazione della Dignità: Nel caso dei revisori in Kenya, ricevere video intimi non oscurati non è solo un problema di dati, ma un trauma lavorativo e una violazione della dignità del soggetto ripreso, che non ha più alcun controllo sulla propria immagine.
Conclusione: L’Anonimizzazione non è un Alibi
L’affidarsi a un’anonimizzazione che “spesso fallisce” dimostra che la tecnologia attuale non è ancora pronta per gestire dati così sensibili in modo sicuro. Per le aziende, dichiarare che i volti sono sfocati sapendo che il sistema fallisce sistematicamente in condizioni reali è una forma di falsa sicurezza. La vera protezione non può basarsi su un algoritmo che “ci prova”, ma su un’architettura che non invii mai quei dati sensibili a occhi umani, a prescindere dal livello di sfocatura.