AI contraffatta, malware reale: gli attaccanti si spacciano per i brand dell’AI

Threat Research AI malvertising infostealer Sophos X-Ops

Sophos X-Ops ha esaminato un anno di casi di Managed Detection and Response (MDR) classificati come “attività AI”. Dei 34 casi che hanno superato l’analisi, quasi tutti riguardavano attaccanti che creavano versioni contraffatte di siti e software AI legittimi per infettare gli utenti con malware.

Gli attaccanti stanno sfruttando il crescente interesse per i software di intelligenza artificiale falsificando il software stesso: nomi di cui gli utenti si fidano, come Claude, ChatGPT e Copilot, diventano veicoli per distribuire malware. Per i difensori questa è una buona notizia – o almeno, non è una notizia del tutto negativa – perché il malware è un problema che i controlli di sicurezza già esistenti sono progettati per affrontare.

Metodologia

Questa analisi si basa su 12 mesi di casi gestiti da Sophos MDR, dal 2 luglio 2025 al 29 giugno 2026, integrati dalle informazioni della Counter Threat Unit (CTU) e dalle attività di ricerca di SophosLabs.

Nel corso di questo periodo, 86 casi MDR sono stati classificati come caratterizzati da un coinvolgimento dell’AI. Abbiamo esaminato individualmente ciascun caso sulla base della nostra tassonomia delle minacce AI e ne abbiamo confermati 34 come autentiche attività avversarie che coinvolgevano l’intelligenza artificiale.

Abbiamo inoltre identificato altri quattro casi attraverso le attività di indagine degli analisti: un caso di elusione del rilevamento assistito da Cursor, un’intrusione ransomware attraverso SonicWall SMA, un RAT personalizzato controllato tramite Slack e realizzato con l’aiuto di un agente di coding basato sull’AI, e un falso sito di Claude che distribuiva una backdoor precedentemente non documentata. Abbiamo incluso questi casi nel nostro dataset, portando il totale a 38.

Dei restanti casi, 25 riguardavano strumenti di sviluppo AI legittimi che attivavano rilevamenti comportamentali, mentre 27 contenevano una parola chiave relativa all’AI solo incidentalmente.

La nostra tassonomia suddivide le minacce AI in due categorie principali: uso malevolo dell’AI, quando l’attaccante utilizza l’AI come capacità a propria disposizione, e targeting malevolo dell’AI, quando vengono sfruttati prodotti, brand ed ecosistemi legati all’intelligenza artificiale. Ciascuna categoria è ulteriormente suddivisa in sottocategorie, che vanno dagli attacchi generati o potenziati dall’AI fino alla contraffazione di software AI e alle compromissioni avviate da agenti.

Trentacinque dei casi rientrano nella categoria del targeting malevolo dell’AI e dimostrano tattiche che X-Ops ha già documentato in precedenza, da un falso sito di Claude che caricava lateralmente una backdoor fino alle campagne ClickFix che attirano gli utenti macOS con esche che sfruttano brand dell’AI.

Nei casi in cui abbiamo effettivamente osservato gli attaccanti utilizzare l’AI come capacità operativa, questa è stata impiegata come assistente con un essere umano al controllo – in particolare nel caso di elusione del rilevamento tramite Cursor.

Continua a leggere: https://www.sophos.com/en-us/blog/fake-ai-real-malware-attackers-impersonating-ai-brands

Informazioni sull'autore

Colin Cowie

Colin is a Threat Intelligence Analyst for the Sophos Managed Detection and Response (MDR) team, focusing on threat actor identification, incident response and working alongside detection engineers to address emerging threats. In past roles he worked in the financial sector performing internal and external penetration testing.

Rafe Pilling

Rafe Pilling is a Director of Threat Intelligence in the Sophos Counter Threat Unit (CTU). He leads global threat intelligence production within the CTU, where he oversees all-source analysis focused on advanced cybercriminal and state-sponsored threats. This threat intelligence directly informs and supports organizations worldwide in strengthening security operations, guiding incident response, and shaping strategic cyber-risk decisions.

Ryan Westman

Ryan Westman is a Senior Manager of Threat Research at Sophos. With over a decade of experience in cybersecurity and national security, Ryan specializes in threat intelligence and operations. He has led high-performing teams across government, Big Four consulting, and the MDR space.
Ryan has provided expert commentary to leading media outlets and spoken at major national and international conferences, including DEFCON, RMISC, Sleuthcon, ILTACon, and Evanta CISO events. He holds multiple degrees and industry certifications (GCTI, GCFA, GSLC) and is passionate about protecting organizations from foreign and domestic cyber threats.