Da alleata a nemica: siamo pronti per l'IA offensiva?

L’IA sta svolgendo un ruolo sempre più importante nella cybersecurity, sprigionando vantaggi significativi — e per certi aspetti senza precedenti — in diversi ambiti. Ad esempio:

• Gestione delle vulnerabilità: l’IA e il machine learning usano tecniche avanzate per analizzare pattern insoliti e vulnerabilità.
• Gestione dei dati: l’IA monitora i dati transazionali della rete, per proteggerli da potenziali minacce.
• Rilevamento delle minacce: l’IA usa l’analisi comportamentale per identificare attività malevole in tempo reale e risponde immediatamente alle minacce.
• Monitoraggio e sicurezza della rete: l’IA stabilisce un punto di riferimento per il traffico di rete, e usa questa base per valutare e proteggere la rete.
• Sicurezza crescente nel tempo: l’IA diventa più intelligente e migliora continuamente le proprie misure di sicurezza nel tempo.

È chiaro che l’IA è diventata un tassello fondamentale del puzzle complessivo della cybersecurity — e siamo solo all’inizio. Si consideri che entro il 2030 le dimensioni del mercato globale della sicurezza basata sull’IA dovrebbero raggiungere i 133,8 miliardi di dollari, rispetto ai 14,9 miliardi del 2021 (tutte le cifre in USD).

L’ascesa dell’IA offensiva

Nonostante questo sviluppo positivo, cresce anche la consapevolezza che gli avversari stiano aggiornando le proprie strategie per sfruttare l’IA. Questo fenomeno è stato soprannominato “IA offensiva” (nota anche come IA armata). Un sondaggio tra i responsabili della sicurezza, commissionato da Darktrace e condotto da Forrester, ha rilevato che:

• L’88 percento ritiene che l’IA offensiva sia inevitabile.
• Il 77 percento si aspetta che l’IA offensiva porti a un aumento della portata e della velocità degli attacchi.
• Il 75 percento cita l’interruzione dei sistemi/attività aziendali come principale preoccupazione riguardo all’IA offensiva.
• Il 66 percento ritiene che l’IA offensiva innescherà attacchi che nessun essere umano può immaginare o anticipare.

Un altro sondaggio condotto da Deloitte ha rilevato che il 43 percento dei CIO ha “gravi o estreme preoccupazioni sui potenziali rischi dell’IA”, e il 49 percento afferma che le vulnerabilità di cybersecurity legate all’IA sono tra i loro maggiori timori.

Come gli avversari sfruttano l’IA

Secondo Hubsecurity.com, ecco alcuni dei modi in cui gli avversari sfruttano le vulnerabilità dei sistemi di IA e ML:

• fornendo ai sistemi input malevoli, che inducono gli algoritmi ad alto volume a fare previsioni false; di conseguenza, le macchine sono costrette a prendere decisioni su dati non verificati
• corrompendo (detto anche “avvelenamento”) l’integrità e l’affidabilità dei set di dati
• ingannando i modelli di ML specifici per compito, progettati per raggiungere obiettivi designati attraverso un addestramento specializzato
• fornendo ai sistemi online input falsi o riaddestrandoli gradualmente, in modo che producano output difettosi
• lanciando attacchi discreti di estrazione dati mirati al modello di ML stesso; gli avversari conducono anche attacchi di estrazione sub-simbolica più piccoli, relativamente meno complessi, più rapidi e che richiedono meno risorse

Inoltre, gli avversari usano l’IA per condurre campagne di disinformazione (“fake news”); alcune delle quali appaiono così autentiche e credibili da trarre in inganno persino professionisti esperti di cybersecurity. Commenta Fast Company:

“I transformer, come BERT di Google e GPT di OpenAI, usano l’elaborazione del linguaggio naturale per comprendere il testo e produrre traduzioni, riassunti e interpretazioni. Questi transformer vengono usati anche per diffondere false informazioni sulle minacce, e lo fanno abbastanza bene da mettere in difficoltà i veri cacciatori di minacce informatiche. Quando questa disinformazione sulle minacce informatiche si diffonde, può costringere il team di sicurezza a rifocalizzare l’attenzione su rischi falsi, lasciando i sistemi esposti ad attacchi realmente dannosi che potrebbero avere conseguenze tragiche.”

Come proteggere i sistemi di IA

Cosa possono fare le aziende per proteggere i propri sistemi di IA? Gli esperti indicano tre pilastri fondamentali:

• Mantenere protocolli di sicurezza estremamente rigorosi in tutto l’ambiente dei dati. Ciò include (ma non si limita a) il principio del privilegio minimo, lo zero trust, la separazione dei compiti, la difesa in profondità e il principio dei quattro occhi.

• Registrare e creare una traccia di audit per catturare tutte le operazioni svolte dall’IA. È necessaria visibilità per garantire che i requisiti di trasparenza siano soddisfatti — ma non superati. Per mitigare il rischio, potrebbe essere necessario o auspicabile limitare o vietare determinate forme di modello troppo complesse o opache.

• Implementare un controllo degli accessi e un’autenticazione solidi. Ciò include l’MFA, una gestione robusta delle password e una formazione completa degli utenti finali. Per la maggior parte delle aziende, ciò include anche la gestione delle sessioni privilegiate e/o la gestione degli accessi privilegiati per supportare funzioni come l’iniezione sicura delle credenziali, la rotazione automatica delle password, la scoperta degli account, avvisi/notifiche e la governance delle richieste di checkout.

Reagire con l’IA difensiva

Stiamo anche assistendo allo sviluppo e all’emergere dell’“IA difensiva”, ossia l’uso di metodi di IA e ML (machine learning) per analizzare grandi quantità di dati in ingresso e scoprire i pattern comportamentali normali e anomali di un sistema — arrivando in definitiva a individuare nuovi tipi di attacchi, migliorando continuamente la precisione. Commenta il World Economic Forum:

“L’IA difensiva non è solo un vantaggio tecnologico nel contrastare gli attacchi informatici, ma un’alleata fondamentale in questo nuovo campo di battaglia. Invece di affidarsi al personale di sicurezza per rispondere manualmente agli incidenti, le organizzazioni useranno l’IA per contrastare nel breve termine un problema in evoluzione, mentre i team umani supervisioneranno il processo decisionale dell’IA ed eseguiranno interventi correttivi che migliorano la resilienza complessiva nel lungo termine.”

In effetti, il ruolo primario degli esseri umani — e più specificamente, degli specialisti di cybersecurity altamente qualificati — nel nuovo mondo dell’IA difensiva non va sottovalutato. Idealmente, l’IA sarà responsabile del setaccio di enormi volumi di dati, dello svolgimento di compiti di routine e dell’adattamento agli attacchi. E mentre le macchine sono impegnate a fare questo, gli esseri umani possono monitorare l’integrità, l’accuratezza e la competenza del processo decisionale, contribuendo al tempo stesso a rendere l’IA più intelligente.

ITPro.com sottolinea:

“Proprio come in molte altre implementazioni dell’IA, l’IA difensiva aiuta gli esseri umani svolgendo gran parte del lavoro più pesante, compiendo alcune azioni in autonomia, imparando strada facendo, riferendo agli umani e aiutando gli umani — e le organizzazioni — a raggiungere i propri obiettivi.”

E il collaboratore del Forbes Business Council Victor Fredung aggiunge:

“L’essenziale è costruire un approccio olistico, usando sia analisti umani sia software di IA che si completino a vicenda. Delegare al software le attività dispendiose in termini di tempo poste da rischi di sicurezza di basso livello lascia il personale qualificato libero di concentrarsi sugli aspetti della sicurezza che richiedono un tocco umano. Un rapporto riuscito tra IA e personale qualificato può fare una differenza enorme nella difesa dal crimine informatico.”

La parola finale

Anche se a volte può sembrare soprannaturale, l’IA non è affatto una bacchetta magica. Tuttavia, può — e onestamente, deve — svolgere un ruolo significativo nel rafforzamento della cybersecurity, dato che gli avversari hanno già dimostrato la loro determinazione nel condurre attacchi informatici potenziati dall’IA: di tutto, dallo spamming infinito al fuzzing basato sull’IA.

Come società, abbiamo varcato il limite sull’IA, e non c’è modo di tornare indietro. Garantire che i pilastri fondamentali della cybersecurity e l’IA difensiva uniscano le forze per sconfiggere l’IA offensiva sarà determinante nello stabilire se questo capitolo della storia della nostra specie sarà una storia di trionfante successo — o un agghiacciante monito.