Un appello all'azione collettiva per la difesa informatica

Sophos crede da tempo che apertura e trasparenza rendano più forte la comunità della cybersecurity. È per questo che abbiamo firmato “A call for collective action on cyber defense” di OpenAI, una lettera aperta che invita le organizzazioni di tutto il mondo a contribuire al rafforzamento delle difese informatiche mentre l'AI trasforma il panorama delle minacce.

Con la crescente diffusione e sofisticazione degli attacchi basati sull'AI, che aumenta il rischio per le aziende e per i servizi pubblici dai quali dipendono le comunità, è chiaro che la difesa informatica è una responsabilità condivisa. La lettera chiede giustamente un'azione coordinata tra settore privato e pubblico, con i laboratori di AI all'avanguardia chiamati a svolgere un ruolo importante.

Sophos condivide questo senso di urgenza. La firma della lettera rappresenta un'espressione concreta del lavoro che portiamo avanti da anni:

• Rendere disponibili alla comunità della sicurezza ricerche utili.
• Portare una protezione efficace alla portata di ogni organizzazione.
• Applicare responsabilmente le nuove tecnologie.

Questi principi hanno plasmato Sophos per anni e definiscono anche il lavoro che ci attende.

Perché condividiamo i principi della lettera

La lettera parte da ciò che già sappiamo: “Abbiamo una finestra temporale limitata per rafforzare le difese informatiche.”

Le vulnerabilità di lunga data e i sistemi legacy continuano a lasciare esposte le organizzazioni, mentre configurazioni errate e autorizzazioni eccessive aumentano ulteriormente tale esposizione. Sebbene l'AI possa aiutare gli aggressori a identificare e sfruttare queste debolezze più rapidamente, può anche offrire ai difensori nuovi modi per individuare le esposizioni, collegare segnali deboli e rispondere alle minacce prima che causino danni concreti.

Naturalmente, i difensori devono a loro volta essere in grado di trasformare le capacità dell'AI in azioni concrete all'interno di ambienti reali, non limitandosi a dimostrare ciò che un modello è in grado di individuare.

La lettera lancia inoltre altri due appelli all'azione: le competenze devono raggiungere un numero maggiore di difensori e la risposta deve essere collettiva. Siamo d'accordo. Il lavoro di una singola organizzazione può contribuire a proteggere molte altre quando le conoscenze sulla difesa vengono condivise responsabilmente.

Queste idee riflettono principi che hanno guidato Sophos per molto tempo:

• Il lavoro credibile deve essere sottoposto al vaglio della comunità.
• Le capacità avanzate devono essere accessibili alle organizzazioni di qualsiasi dimensione.
• Il progresso deve essere misurato sulla base della capacità di risolvere le debolezze e fermare gli attacchi.

Apertura e condivisione responsabile rafforzano la difesa informatica

Da tempo crediamo che dichiarazioni opache o eccessivamente protette rendano difficile per clienti e ricercatori comprendere in che modo l'AI contribuisca alla protezione. L'apertura consente di mettere alla prova le idee, mettere in discussione i risultati e trasformare il lavoro utile in una base sulla quale altri possano costruire.

SOREL-20M è stato uno dei primi esempi del nostro impegno in questa direzione. Sviluppato in collaborazione con ReversingLabs e pubblicato nel 2020, il dataset di ricerca ha reso disponibili 20 milioni di file per supportare il lavoro sui metodi di machine learning per il rilevamento del malware. Ha fornito ai ricercatori una risorsa consistente e riproducibile per testare le proprie idee e portare avanti il lavoro nel campo della difesa.

Lo stesso principio si applica con la crescente potenza dei modelli di AI dotati di capacità informatiche. Sophos crede nella condivisione di ricerche e risorse pratiche in modi che aiutino i difensori, proteggendo al contempo le informazioni sensibili, rispettando le organizzazioni nei cui ambienti vengono generati insight utili alla difesa e riducendo il rischio di utilizzi impropri. Un esempio concreto è il Sophos Trust Center, nel quale condividiamo risorse pratiche e illustriamo la nostra strategia, i nostri principi e le nostre policy di sicurezza.

Apertura e adeguate misure di salvaguardia devono procedere insieme, soprattutto quando la ricerca si basa su attacchi reali e sugli ambienti dei clienti. Questo equilibrio aiuta la comunità della sicurezza a progredire senza perdere di vista la fiducia che le viene accordata. Se fatto correttamente, il risultato è una trasparenza che genera fiducia nel funzionamento dell'AI per la difesa, mentre confini chiari preservano la fiducia necessaria per continuare ad apprendere dagli attacchi reali.

Le competenze devono raggiungere un numero maggiore di difensori

Sophos si impegna a democratizzare la cybersecurity colmando il divario nelle capacità strategiche. Crediamo che la migliore protezione debba essere disponibile a tutto il mercato, comprese le organizzazioni che non dispongono delle risorse economiche, delle competenze, delle capacità e dell'influenza necessarie per costruire una resilienza duratura.

Queste organizzazioni devono affrontare gli stessi aggressori, le stesse vulnerabilità e le stesse sofisticate minacce informatiche delle altre aziende, ma non dispongono delle capacità strategiche necessarie per difendersi.

Con l'accelerazione degli attacchi, le conseguenze di questo divario di capacità diventano sempre più gravi.

Ecco perché l'accesso è importante quanto la capacità tecnica. Un potente modello di AI ha un valore limitato per la difesa se solo un ristretto gruppo di organizzazioni altamente specializzate è in grado di implementarlo in sicurezza e trasformare i suoi risultati in azioni concrete.

Sophos protegge oltre 625.000 clienti in tutto il mondo, dalle grandi aziende alle PMI, compresi gli ambienti gestiti dalla nostra comunità di partner Managed Services Provider (MSP). Questa portata ci attribuisce una responsabilità: contribuire a trasformare la ricerca avanzata e le capacità dei modelli all'avanguardia in una protezione che organizzazioni di dimensioni e livelli di maturità della sicurezza differenti possano effettivamente utilizzare.

La collaborazione con i laboratori di AI all'avanguardia rappresenta uno dei modi in cui contribuiamo con la nostra intelligence, grazie alla posizione unica che occupiamo nel panorama della cybersecurity. La nostra partecipazione all'iniziativa OpenAI Daybreak Cyber e al relativo programma per i partner, insieme al Project Glasswing di Anthropic, sono esempi di questo impegno.

Sophos sta lavorando per rendere le capacità all'avanguardia utili all'interno di prodotti e servizi di sicurezza che le organizzazioni possano utilizzare concretamente senza dover mettere insieme autonomamente competenze rare e specialistiche.

Trasformare l'AI avanzata in azioni concrete attraverso una difesa connessa

La lettera pone giustamente l'accento su ciò che accade dopo che viene scoperta una vulnerabilità. Individuare un'esposizione ha un valore limitato finché un difensore non è in grado di intervenire e confermare che il rischio è stato ridotto. Tuttavia, questo richiede anche contesto: una comprensione dell'organizzazione, dei suoi punti di controllo e delle attività che si stanno svolgendo al loro interno.

Senza questo contesto, anche un modello potente rischia di produrre un'altra informazione isolata che un team già sovraccarico deve interpretare.

Sophos Fusion dimostra come stiamo mettendo in pratica questo principio. In quanto sistema di difesa informatica AI-native più completo del settore, Sophos Fusion vede tutto, collega tutto e consente alle difese di un'organizzazione di rispondere come un'unica entità.

Questo contesto condiviso permette al sistema di coordinare le difese all'interno dell'organizzazione, anziché trattare ogni alert o prodotto come una fonte di informazioni isolata.

È così che l'AI diventa utile dal punto di vista operativo: può ridurre la finestra di esposizione e fornire una risposta alla velocità richiesta dagli attacchi moderni.

La responsabilità umana rimane essenziale

La lettera invita le organizzazioni ad ampliare con attenzione l'automazione, mantenendo al contempo le persone responsabili delle decisioni che hanno conseguenze rilevanti. Siamo d'accordo.

L'AI dovrebbe ampliare la portata e la velocità dei difensori, mentre le persone devono continuare a essere responsabili delle decisioni che possono avere un impatto concreto su un'organizzazione.

Gli specialisti umani devono definire il confine della fiducia: cosa può fare autonomamente l'AI, cosa richiede una revisione e quando gli esperti devono intervenire perché il contesto è poco familiare, il livello di confidenza è basso o il potenziale impatto è elevato.

In qualità di “human on the loop”, devono inoltre essere in grado di verificare ciò che il sistema ha fatto e fornire la propria competenza quando emergono casi atipici che l'AI non è in grado di risolvere immediatamente.

Mettere in pratica la difesa collettiva

L'AI richiede alle organizzazioni di rafforzare le proprie difese contro gli attacchi basati sull'AI, applicare l'AI in modo responsabile alla cybersecurity e proteggere i sistemi abilitati all'AI che vengono sempre più utilizzati in tutte le aree aziendali.

Sophos ha firmato questa lettera perché la difesa collettiva deve essere qualcosa di più di un'aspirazione. Deve creare uno standard pratico per il modo in cui il settore sviluppa e applica l'AI alla cybersecurity:

• Condividere responsabilmente ricerca e competenze, affinché il lavoro utile possa aiutare un numero di organizzazioni maggiore rispetto a quella che lo ha prodotto.
• Estendere le capacità all'avanguardia alle organizzazioni che non dispongono di competenze specialistiche o di grandi team di sicurezza.
• Collegare le difese a risultati concreti negli ambienti reali, mantenendo le persone responsabili dei confini, delle decisioni e dei risultati che contano.

L'obiettivo non è soltanto rendere l'AI più capace, ma rendere le difese informatiche più efficaci, accessibili e affidabili.

Questo è l'impegno che Sophos assume firmando la lettera aperta e lo standard sulla base del quale riteniamo che debbano essere misurati i progressi.Gli strumenti sono già disponibili. Come afferma la lettera, mettiamoli al lavoro.