La risposta all’incertezza sull’IA è l’adattabilità, non la paralisi

Di tanto in tanto, il dibattito sull’intelligenza artificiale sembra ripartire da zero a seguito di un nuovo allarme.

Un modello dimostra una capacità inaspettata. Un agente autonomo si comporta in un modo che i suoi progettisti non avevano previsto. Una nuova previsione descrive quanto rapidamente l’IA potrebbe trasformare il lavoro, la sicurezza o la società. I dettagli cambiano, ma lo schema è familiare: emerge un nuovo sviluppo, il dibattito oscilla tra una promessa straordinaria e un pericolo esistenziale e le organizzazioni si chiedono se la propria strategia debba cambiare ancora una volta.

Esistono motivi validi per chiedere test più rigorosi, maggiore trasparenza, valutazioni indipendenti e guardrail che impediscano ai progressi di andare troppo oltre la nostra capacità di proteggerle. L’innovazione senza responsabilità non è una strategia sostenibile.

Ma nemmeno aspettare che il dibattito sull’IA venga risolto lo è.

Per i responsabili della sicurezza, la domanda centrale non è se ogni previsione sull’IA si dimostrerà corretta. È se le loro organizzazioni siano in grado di adattarsi in sicurezza mentre continuano a cambiare la tecnologia, il panorama delle minacce e il modo in cui le persone lavorano.

Questo è sempre stato l’impegno.

Anche la posta in gioco non è distribuita in modo uniforme. La “cybersecurity poverty line” esisteva già prima dell’IA ma, poiché quest’ultima aumenta significativamente il costo sia dell’attacco sia della difesa, le organizzazioni maggiormente esposte sono spesso quelle che disponevano già di risorse insufficienti.

Adattabilità non significa reagire in modo eccessivo

I responsabili della sicurezza devono resistere a due impulsi altrettanto pericolosi:

Il primo è l’autocompiacimento: presumere che i controlli attuali continueranno a essere sufficienti semplicemente perché i principi fondamentali non sono cambiati.

Il secondo è la reazione eccessiva: consentire che ogni nuovo sviluppo dell’IA inneschi un completo ripensamento della strategia.

Nessuno dei due approcci costruisce resilienza.

L’attenzione dovrebbe invece concentrarsi sull’adattabilità; vale a dire, preservare una solida base di sicurezza, modificando al contempo il modo in cui tale base viene applicata. Questo è particolarmente importante perché è improbabile che il ciclo delle notizie sull’IA rallenti. Ci saranno altri incidenti, altre dimostrazioni di capacità e ulteriori disaccordi sul loro significato. I responsabili della sicurezza non possono operare efficacemente se la loro attenzione e i loro investimenti si spostano di pari passo con ogni titolo di giornale.

Hanno bisogno di un modo duraturo per decidere ciò che conta.

Un buon punto di partenza consiste nel concentrarsi meno sul fatto che uno strumento di IA appaia innovativo e maggiormente su a cosa può accedere, cosa è autorizzato a fare e quali sarebbero le conseguenze se si comportasse in modo imprevisto.

È qui che la governance basata sul rischio diventa essenziale. Le organizzazioni dovrebbero poter sperimentare, ma la solidità dei controlli dovrebbe aumentare in funzione dell’autonomia, degli accessi e del potenziale impatto del caso d’uso.

Questo principio consente di continuare a innovare senza fingere che ogni applicazione dell’IA comporti lo stesso livello di rischio.

Abbiamo bisogno di guardrail che rafforzino l’innovazione

Gli appelli alla cautela vengono talvolta interpretati come richieste di fermarsi. Gli appelli all’innovazione vengono talvolta interpretati come opposizione alla supervisione. Si tratta di una falsa alternativa, in gran parte perché l’IA è dual use, ovvero a duplice uso. Gli stessi progressi che possono aiutare i difensori ad analizzare le attività, indagare sulle minacce e rispondere più rapidamente possono anche aiutare gli avversari a operare a maggiore velocità.

La domanda non è se siano necessari dei guardrail: lo sono.

Le domande corrette da porsi sono se questi guardrail siano proporzionati, verificabili e focalizzati su rischi misurabili. La regolamentazione dovrebbe stabilire responsabilità, migliorare la trasparenza e rendere più difficile sviluppare o implementare capacità pericolose senza un adeguato livello di controllo.

Tuttavia, la regolamentazione non dovrebbe congelare l’innovazione responsabile né rendere le capacità avanzate di difesa accessibili soltanto alle organizzazioni dotate delle maggiori risorse.

Norme che rallentassero involontariamente i difensori, limitassero la ricerca responsabile o aumentassero il costo della protezione potrebbero ampliare il divario tra le organizzazioni in grado di difendersi e quelle che non lo sono.

L’obiettivo dovrebbe invece essere creare una corsa verso una sicurezza più solida, e questo richiede una stretta collaborazione. Gli sviluppatori di IA di frontiera conoscono i propri modelli. Gli esperti di cybersecurity comprendono come vengono attaccati i sistemi, dove falliscono i controlli operativi e come si manifesta il rischio negli ambienti reali. I responsabili politici possono stabilire meccanismi di accountability e tutelare l’interesse pubblico.

Nessuno di questi gruppi può risolvere il problema da solo.

Il lavoro sulla sicurezza che ci attende esiste già

Gran parte del dibattito pubblico si concentra su ciò che la prossima generazione di IA potrebbe essere in grado di fare. I responsabili della sicurezza non hanno il lusso di concentrarsi soltanto su un modello futuro.

La tecnologia oggi disponibile sta già cambiando il modo in cui le persone creano, comunicano, analizzano le informazioni e prendono decisioni. Gli strumenti e gli agenti di IA stanno già entrando nelle organizzazioni, talvolta attraverso programmi approvati e talvolta senza che i team IT o di sicurezza ne siano a conoscenza.

Anche se lo sviluppo dell’IA di frontiera si fermasse oggi, questo lavoro rimarrebbe.

Le organizzazioni dovrebbero comunque individuare gli utilizzi non autorizzati dell’IA. Dovrebbero comunque capire quali informazioni vengono condivise con servizi esterni. Dovrebbero comunque valutare integrazioni, autorizzazioni e identità. Dovrebbero comunque monitorare eventuali abusi e prepararsi agli errori. E dovrebbero comunque aiutare i dipendenti a utilizzare l’IA in modo produttivo senza creare rischi inaccettabili.

Ecco perché un rallentamento non può essere la strategia di sicurezza.

La strategia deve consistere nel costruire organizzazioni in grado di adottare la tecnologia in sicurezza, rispondere ai cambiamenti e mantenere il controllo anche quando la direzione dell’innovazione rimane incerta.

I principi fondamentali non dovrebbero cambiare ogni volta che cambia la narrazione

La cybersecurity non ha mai operato in un ambiente stabile. Gli aggressori evolvono, le architetture tecnologiche cambiano, gli eventi geopolitici modificano i rischi e nuove applicazioni compaiono all’interno delle organizzazioni prima che i team di sicurezza abbiano avuto il tempo di valutarle. È semplicemente parte della quotidianità.

L’IA aumenta la velocità e la portata di questi cambiamenti, ma non elimina i fondamenti di una buona sicurezza. Le organizzazioni devono ancora sapere cosa è presente nel proprio ambiente, capire chi e cosa ha accesso ai sistemi e ai dati sensibili e disporre di controlli che limitino l’esposizione, rilevino le attività dannose e supportino una risposta efficace quando viene identificata una minaccia.

In altre parole, le priorità possono cambiare, ma i principi fondamentali devono rimanere saldi.

Abbiamo osservato una dinamica simile durante la transizione al cloud. Nessuno ha messo in sicurezza il cloud trattando ogni nuova applicazione come una crisi strategica separata. Abbiamo adattato i nostri modelli di sicurezza sviluppando nuove forme di visibilità, introducendo nuovi controlli e imparando a gestire un ambiente tecnologico destinato a continuare a evolversi.

L’IA richiede la stessa disciplina, ma con una differenza importante. A differenza delle precedenti evoluzioni tecnologiche, l’adozione dell’IA non avviene attraverso un programma di trasformazione gestito centralmente. Può entrare in un’organizzazione da un dipendente, una scheda del browser, un’integrazione applicativa o un agente autonomo alla volta.

Questo rende l’adattabilità inseparabile dalla visibilità. I team di sicurezza non possono valutare i rischi, applicare controlli adeguati o governare l’utilizzo dell’IA se non sanno dove e come l’IA viene utilizzata all’interno dell’organizzazione.

Rendere accessibile l’adozione sicura dell’IA

In Sophos, la nostra missione è da tempo quella di contribuire a colmare la cybersecurity poverty line. Questa missione è ancora più importante nell’era dell’IA.

Il nostro ruolo è aiutare i clienti ad adottare in sicurezza gli strumenti che scelgono, portando al contempo le tecnologie di sicurezza più avanzate disponibili alla portata concreta delle organizzazioni. Questo significa offrire alle organizzazioni visibilità sui propri ambienti, aiutarle a identificare i rischi e applicare protezioni adeguate alla loro realtà operativa.

Significa anche lavorare a stretto contatto con le organizzazioni che sviluppano sistemi di IA di frontiera. Gli sviluppatori di IA possono accelerare in sicurezza quando lavorano insieme agli specialisti di cybersecurity che osservano sul campo il comportamento degli attaccanti e il modo in cui la tecnologia viene utilizzata nelle organizzazioni reali.

Non si tratta di un invito ad andare velocemente ignorando le conseguenze. È piuttosto un invito a fare della sicurezza una componente dell’innovazione fin dall’inizio.

I principi fondamentali sono già a nostra disposizione: sapere cosa è in funzione nel proprio ambiente, capire a cosa può accedere, applicare controlli in base al rischio, monitorare ciò che fa e prepararsi ai possibili malfunzionamenti. E, soprattutto, adattarsi quando cambiano le evidenze.

L’IA potrebbe muoversi più velocemente di qualsiasi transizione tecnologica precedente. Questo non significa che la strategia di sicurezza debba cambiare al ritmo di ogni titolo di giornale. Significa semplicemente che la strategia deve essere costruita per adattarsi.