Deepfake e frodi sull'identità: i presidi per le imprese

Un dipendente di una multinazionale ha pagato 25 milioni di dollari dopo una videochiamata con quella che sembrava la sua dirigenza. Nella riunione, ricostruita dalla polizia di Hong Kong nel febbraio 2024, tutti i partecipanti erano ricostruzioni sintetiche: il capo finanziario e i colleghi erano deepfake. La frode si è spostata dal contenuto all'identità, e per un'azienda la domanda non riguarda più solo cosa dice un interlocutore, ma se quell'interlocutore esiste davvero.

Il caso di Hong Kong

Fino a pochi anni fa il deepfake era un problema di disinformazione: video manipolati usati per orientare l'opinione pubblica. Il caso di Hong Kong ha mostrato un impiego diverso e più diretto, con l'obiettivo di autorizzare un pagamento. L'addetto ha ricevuto istruzioni in una videochiamata apparentemente interna, con volti e voci riconoscibili, e ha eseguito il bonifico. L'episodio ha reso evidente che la verifica basata sulla presenza visiva, a lungo considerata una prova sufficiente, non regge davanti a un sistema che genera in tempo reale volti e voci credibili.

Perché la verifica dell'identità non basta più

I sistemi di verifica facciale confrontano un volto con un documento o con un archivio, e i più solidi chiedono una prova di vitalità: il soggetto deve dimostrare di essere una persona presente, non una fotografia o un video riprodotto. La diffusione di volti sintetici mette sotto pressione proprio questo passaggio. Un modello può generare un volto tridimensionale coerente con le espressioni richieste, e un rilevatore che osserva solo occhi, naso e bocca rischia di non distinguere la ricostruzione da una persona reale. La risposta tecnica consiste nell'analizzare l'intera immagine e nel combinare più segnali, ma nessun controllo isolato offre una garanzia assoluta. La difesa efficace è un processo, non un singolo strumento.

La voce, il fronte più accessibile

La clonazione vocale richiede pochi secondi di registrazione, e una chiamata non offre gli indizi visivi su cui si basa l'istinto. I gruppi che praticano frodi usano la voce per impersonare un dirigente e chiedere un pagamento urgente, spesso invocando la riservatezza per impedire le verifiche. L'assenza del video non riduce il rischio: la voce, come il volto, è un segnale che oggi si riproduce con facilità.

L'obbligo di trasparenza dell'AI Act

Il regolamento europeo sull'intelligenza artificiale introduce un obbligo che riguarda direttamente i contenuti sintetici. I fornitori di sistemi che generano audio, immagini, video o testi devono contrassegnare gli output in un formato leggibile dalle macchine e renderli riconoscibili come generati artificialmente. Chi utilizza un sistema per produrre un deepfake deve dichiarare che il contenuto è stato alterato. L'applicazione generale del regolamento decorre dal 2 agosto 2026, e la trasparenza sui contenuti sintetici diventa esigibile entro il 2 dicembre 2026. La norma non elimina la frode, ma costruisce un contesto in cui l'origine artificiale di un contenuto è dichiarata e verificabile. Per chi utilizza questi sistemi valgono obblighi propri, distinti da quelli dei fornitori, come chiarisce il quadro sugli obblighi dell'utilizzatore.

Cosa può fare un'azienda

La difesa più solida sta nel processo, prima che nello strumento. Le richieste di pagamento o di modifica delle coordinate bancarie vanno confermate su un canale diverso da quello su cui sono arrivate, con un contatto già noto e verificato in precedenza. Le autorizzazioni critiche richiedono più di una persona, e i limiti di importo trasformano un errore in un danno contenuto. La verifica facciale va impiegata con una prova di vitalità robusta quando protegge accessi sensibili. La formazione deve spiegare che un volto familiare in video non è una prova di identità, un principio che vale anche per le chiamate vocali, dove la clonazione è ancora più accessibile. Il fenomeno dell'ingegneria sociale mostra come la tecnologia amplifichi tecniche antiche, e come la contromisura stia nel processo più che nello strumento.

Cosa resta

La frode deepfake funziona perché sfrutta la fiducia nei segnali che consideriamo naturali. La voce, il volto e la presenza in video sono diventati riproducibili, e la verifica dell'identità deve spostarsi su elementi che un modello non può imitare: un canale di conferma indipendente, un'autorizzazione a più mani, un contatto già validato. Le stesse tecniche di ricostruzione alimentano i sistemi di difesa, e il confine tra le due parti si sposta di continuo. La variabile che resta sotto il controllo dell'azienda è il processo con cui decide di fidarsi.