La crescente minaccia dei deepfake: perché le organizzazioni devono ripensare il concetto di fiducia

Questo articolo fa parte di una serie in corso realizzata dagli specialisti delle attività di sicurezza in prima linea di Sophos, che condividono le competenze utilizzate per rafforzare il nostro servizio leader di settore Managed Detection and Response (MDR) e difendere i clienti dalle minacce dell’era dell’AI in continua evoluzione.

Per decenni le organizzazioni hanno operato sulla base di un presupposto semplice: se era possibile sentire la voce di qualcuno o vederne il volto durante una videochiamata, si poteva ragionevolmente ritenere attendibile la sua identità. Nell’era dell’AI, questo presupposto potrebbe non essere più valido.

Ciò che rende particolarmente preoccupanti incidenti di questo tipo è il fatto che sfruttano una risorsa dalla quale le organizzazioni dipendono ogni giorno: la fiducia.

Un tempo considerati un espediente curioso confinato all’ambito dei social media, i deepfake si sono evoluti fino a diventare una minaccia concreta che le organizzazioni di qualsiasi dimensione devono prendere sul serio. Sono diventati strumenti pratici per i cybercriminali che vogliono manipolare i dipendenti, aggirare i processi di verifica e sfruttare la fiducia umana sulla quale si basano le attività quotidiane delle aziende.

Ciò che un tempo richiedeva una notevole potenza di calcolo e competenze tecniche oggi può essere generato in pochi minuti utilizzando strumenti disponibili gratuitamente e hardware di livello consumer. La sfida per i responsabili della sicurezza è più ampia della semplice capacità di rilevare video falsi: con la crescente accessibilità dei contenuti generati dall’AI, le organizzazioni devono abbandonare i programmi di sicurezza che fanno affidamento sul giudizio umano e orientarsi maggiormente verso sistemi in grado di verificare la fiducia attraverso molteplici segnali indipendenti.

Rilevare, convalidare e contrastare gli attacchi basati sull’AI richiede sempre più una visibilità che abbracci identità, endpoint, comunicazioni e attività di sicurezza. Le organizzazioni che affrontano queste minacce attraverso strumenti isolati e processi disconnessi potrebbero incontrare difficoltà nel tenere il passo.

La diffusione attuale dei deepfake

I numeri relativi alla diffusione dei deepfake sono impressionanti e continuano ad aumentare di anno in anno. Secondo il Identity Fraud Report 2025-2026 di Sumsub, il numero di attacchi deepfake a livello globale è aumentato del 2.100%, evidenziando come la loro crescita non sia più soltanto una questione tecnologica, ma rappresenti ormai un rischio per le aziende.

Sono sempre più numerose le organizzazioni che assistono all’utilizzo di contenuti generati dall’AI per facilitare frodi, furti d’identità e attacchi di social engineering. Nel 2024, un dipendente dell’area finanziaria di una multinazionale a Hong Kong è stato indotto a trasferire circa 25 milioni di dollari dopo aver partecipato a una videoconferenza nella quale tutti gli altri partecipanti erano impersonificazioni generate dall’AI, compresa una persona che si spacciava per il CFO dell’azienda.

Al di là dell’impatto finanziario immediato, le organizzazioni vittime di attacchi deepfake devono affrontare gravi danni reputazionali. Clienti, partner e investitori potrebbero perdere fiducia nella capacità dell’azienda di proteggere i propri asset e le proprie comunicazioni. Esistono inoltre implicazioni legali e normative sempre più rilevanti, poiché le leggi sulla protezione dei dati e i nuovi framework di governance dell’AI potrebbero ritenere le organizzazioni responsabili della mancata implementazione di adeguate misure di protezione contro le minacce legate ai media sintetici.

La natura cumulativa di questi rischi fa sì che un singolo attacco riuscito possa innescare una serie di conseguenze capaci di condizionare un’organizzazione per anni dopo l’incidente iniziale.

Come vengono utilizzati i deepfake per colpire le organizzazioni

Molte delle discussioni sui deepfake si concentrano sulla loro rilevazione. I dipendenti sono in grado di riconoscere una voce falsa? Possono individuare un video manipolato? Riescono a identificare i sottili artefatti che rivelano la presenza di contenuti sintetici? Tuttavia, i deepfake mettono in discussione queste ipotesi, rendendo questi segnali sempre più facili da manipolare su larga scala.

I deepfake vocali, o “audio cloning”, vengono utilizzati per impersonare CEO e dirigenti senior durante telefonate ai reparti finanziari e HR, inducendo i dipendenti a trasferire fondi o condividere credenziali sensibili. Questa tattica viene spesso definita “vishing”, ovvero phishing vocale.

I deepfake video vengono utilizzati per aggirare i processi di verifica dell’identità, ottenere accesso non autorizzato a sistemi protetti e manipolare i dipendenti durante videoconferenze dal vivo.

Oltre alle frodi finanziarie, essi vengono utilizzati anche per creare contenuti compromettenti falsificati che coinvolgono dirigenti o dipendenti, creando opportunità per ricatti, danni reputazionali e manipolazione delle minacce interne. La versatilità della tecnologia deepfake come strumento di attacco la rende particolarmente pericolosa, poiché può essere adattata per colpire praticamente qualsiasi processo aziendale che si basi sulla comunicazione e sulla fiducia umana.

Il vero problema non sono i deepfake, ma la verifica dell’identità

Uno dei rischi più significativi e sottovalutati che le organizzazioni devono affrontare è il presupposto che i dipendenti adeguatamente formati siano in grado di identificare in modo affidabile i deepfake in tempo reale.

Anche se le persone diventassero più abili nel riconoscere i contenuti sospetti, la qualità dei media generati dall’AI continua a migliorare. Le organizzazioni non possono costruire strategie di sicurezza a lungo termine basandosi sul presupposto che i dipendenti riusciranno costantemente a essere più efficaci di sistemi di AI sempre più sofisticati.

Questa sfida è particolarmente evidente negli ambienti di customer support e help desk. Al personale in prima linea viene spesso richiesto di prendere decisioni rapidamente, conciliando esperienza del cliente, efficienza operativa e requisiti di sicurezza. Chiedere a questi dipendenti di rappresentare la principale linea di difesa contro gli inganni generati dall’AI significa imporre un onere irrealistico a persone che non sono mai state destinate a funzionare come sistemi di rilevamento dei deepfake.

Detto questo, la lezione non è che i dipendenti debbano smettere di essere vigili. Tuttavia, le organizzazioni che fanno affidamento sull’intuizione umana come principale linea di difesa contro i deepfake stanno, di fatto, lasciando la porta d’ingresso aperta e sperando che nessuno provi ad aprirla.

Come possono le organizzazioni sviluppare resilienza contro i deepfake

Storicamente, le organizzazioni hanno costruito i propri programmi di sicurezza intorno alla protezione di sistemi, dispositivi, applicazioni e dati. I deepfake pongono una sfida diversa: proteggere la fiducia.

Con il continuo progresso delle capacità dell’AI, le organizzazioni devono partire dal presupposto che i segnali utilizzati per verificare l’identità possano essere manipolati. Questo richiede un passaggio dalla fiducia basata sull’osservazione alla fiducia basata sulla verifica.

Esistono misure concrete che le organizzazioni possono adottare per ridurre la propria esposizione ai rischi legati ai deepfake, tra cui:

• Implementare l’autenticazione a più fattori e protocolli di verifica out-of-band (ad esempio, richiedendo una conferma secondaria attraverso un canale separato e precedentemente stabilito) prima di dare seguito a qualsiasi richiesta ad alto impatto. Questo può ridurre significativamente l’efficacia degli attacchi deepfake vocali e video. Una richiesta che appare legittima dovrebbe comunque essere verificata attraverso procedure consolidate prima di intraprendere qualsiasi azione.

• Investire in strumenti di rilevamento dei deepfake basati sull’AI, in grado di analizzare sottili artefatti nei contenuti audio e video che sono invisibili all’occhio umano, come pattern di ammiccamento innaturali, illuminazione incoerente o anomalie nelle frequenze audio.

• Definire policy interne chiare per la verifica delle comunicazioni dei dirigenti, in particolare quelle relative a transazioni finanziarie o dati sensibili.

• Adottare un approccio di sicurezza multilivello che combini tecnologia, policy e formazione dei dipendenti sulla sicurezza, senza fare eccessivo affidamento su un singolo elemento.

• Creare una cultura nella quale la verifica sia incoraggiata anziché scoraggiata. I dipendenti dovrebbero sentirsi autorizzati a fermarsi, fare domande e verificare richieste insolite, indipendentemente da chi sembri effettuarle.

Sebbene questi processi possano introdurre ulteriori passaggi in determinati flussi di lavoro, il loro impatto è significativamente inferiore rispetto a quello necessario per riprendersi da una frode o da una compromissione riuscita.

Le minacce dell’era dell’AI richiedono difese connesse

I deepfake vengono spesso descritti come una problematica a sé stante, ma è più corretto considerarli come una componente di una più ampia ondata di minacce abilitate dall’AI.

Un attacco che inizia con una voce sintetica può coinvolgere successivamente identità compromesse, attività sugli endpoint, servizi cloud, sistemi di posta elettronica, piattaforme di collaborazione o applicazioni aziendali sensibili. I team di sicurezza hanno bisogno di visibilità su tutti questi ambienti per comprendere la portata complessiva di un incidente e rispondere in modo efficace.

È qui che le architetture di sicurezza diventano sempre più importanti.

Le organizzazioni hanno bisogno di controlli di sicurezza che operino insieme, anziché funzionare come singoli prodotti isolati. La capacità di correlare i segnali provenienti da identità, endpoint, comunicazioni e attività di sicurezza aiuta i difensori a identificare prima le attività sospette e a rispondere in modo più efficace quando si verificano incidenti.

Questa esigenza di una difesa connessa è una delle ragioni per cui le strategie di sicurezza si stanno evolvendo verso approcci nativamente basati sull’AI. Sophos Fusion, il sistema di difesa informatica AI-Native di Sophos, si basa sul principio che gli attacchi moderni non possano essere compresi attraverso singoli segnali di sicurezza isolati. Le organizzazioni hanno invece bisogno della capacità di collegare gli insight provenienti dall’intero ambiente, aiutando i team di sicurezza a rilevare, analizzare e rispondere agli attacchi abilitati dall’AI con maggiore rapidità e contesto, nell’ambito di una strategia di difesa coordinata.

Il futuro della fiducia

L’era dei deepfake è arrivata e richiede un ripensamento fondamentale del modo in cui le organizzazioni stabiliscono la fiducia. Nei prossimi anni, la sfida per le organizzazioni non sarà semplicemente determinare se un video, una voce o un’immagine siano autentici. Sarà imparare a operare in sicurezza in un mondo nel quale l’autenticità non può più essere data per scontata.

Le organizzazioni che riusciranno ad adattarsi a questo scenario saranno quelle che modificheranno fin da ora le proprie strategie di sicurezza. Andranno oltre le ipotesi sulla fiducia e costruiranno processi di verifica resilienti, difese multilivello e attività di sicurezza connesse, progettate per affrontare la realtà dell’era dell’AI.

Perché la domanda non è più se i deepfake avranno un impatto sulle organizzazioni; la domanda è se le organizzazioni siano preparate a un futuro nel quale la fiducia stessa è diventata una sfida di cybersecurity.