L'intelligenza artificiale nell'underground: curiosità, dichiarazioni e preoccupazioni

I ricercatori della Counter Threat Unit™ (CTU) hanno osservato come l'intelligenza artificiale (AI) stia emergendo come un tema di primo piano nelle comunità underground, dove i cyber criminali discutono del suo potenziale, ne rivendicano l'utilizzo per lo sviluppo di malware e strumenti offensivi ed esprimono al tempo stesso preoccupazioni e dubbi.

Molte di queste affermazioni non sono state verificate, ma i post analizzati offrono uno spaccato interessante delle percezioni che i criminali informatici hanno dell'AI generativa e forniscono esempi di come questa tecnologia potrebbe essere impiegata nelle attività cybercriminali. Per certi aspetti, gli aggressori si trovano ad affrontare la stessa sfida di chiunque altro: cercare di mantenere la propria sostenibilità economica durante una fase di transizione tecnologica, comprendendo al contempo come e quando adottare l'intelligenza artificiale.

Accesso e condivisione delle conoscenze

Difensori e criminali informatici stanno testando e sperimentando funzionalità abilitate dall'AI, ma partendo da posizioni molto diverse. I difensori beneficiano generalmente di un accesso più ampio a strumenti commerciali, di un supporto tecnico e ingegneristico dedicato e della disponibilità finanziaria necessaria per sperimentare tecnologie emergenti su larga scala. Al contrario, gli aggressori, spesso limitati dalle risorse a disposizione, sono alla ricerca di modalità pratiche per ottenere accesso a queste tecnologie.

I ricercatori CTU™ hanno osservato la vendita di chiavi API per strumenti di AI generativa attraverso account condivisi, accessi intermediati da broker e piattaforme alternative.

In una discussione, il soggetto noto come "CyberThreat" offriva chiavi API ottenute tramite intermediazione per strumenti quali ChatGPT, Claude e Grok (vedi Figura 1). In un altro post, l'utente "VOLTIC" pubblicizzava l'accesso a diversi modelli di AI come soluzione economicamente vantaggiosa per chi necessita di capacità basate sull'intelligenza artificiale (vedi Figura 2).

Sebbene entrambe le identità fossero nuove nei marketplace underground, i loro annunci hanno rapidamente attirato l'attenzione della comunità e ricevuto il sostegno di altri utenti, che ne hanno raccomandato i servizi.

Continua a leggere: https://www.sophos.com/en-us/blog/ai-in-the-underground-curiosity-claims-and-concerns