L’intelligenza artificiale generativa (GenAI) sta trasformando rapidamente numerosi settori, e la cyber security non fa eccezione.

La sua applicazione nella protezione dell’e-mail e nei team del Security Operations Center (SOC) sta portando a progressi significativi, sollevando al contempo nuove sfide.

Il lato oscuro: i rischi della GenAI

Nonostante le enormi opportunità che può offrire, è fondamentale riconoscere come l’AI generativa rappresenti un’arma a doppio taglio.

I criminali informatici possono sfruttare le stesse capacità per ottimizzare e rendere i loro attacchi più sofisticati, incrementando velocità e complessità delle minacce.

Quali sono i suoi principali rischi?

Ottimizzazione e sofisticazione degli attacchi

L’AI generativa permette di creare malware più efficaci, varianti nuove e più difficili da rilevare, e di affinare attacchi ransomware, phishing e di business email compromise (BEC).

L’AI consente di generare malware che si adattano e mutano automaticamente per sfuggire ai sistemi di difesa tradizionali, accelerandone diffusione e persistenza.

Cracking intelligente delle password

L’AI può analizzare database di password compromesse per sviluppare algoritmi più efficaci nel violare account, superando i metodi brute force tradizionali.

Ricognizione avanzata

Strumenti di machine learning possono scandagliare deep e dark web per identificare obiettivi redditizi e vulnerabilità da sfruttare, accelerando la fase di preparazione degli attacchi.

Fuga di informazioni e rischi di privacy

L’uso della GenAI comporta rischi di esposizione involontaria di dati sensibili inseriti come input, che potrebbero essere riutilizzati o divulgati.

Manipolazione e diffusione di fake news e contenuti falsi

L’AI può generare contenuti ingannevoli, aumentando il rischio di disinformazione e attacchi di social engineering altamente personalizzati.

Bot alimentati da AI possono eseguire attacchi automatizzati, come il testing di migliaia di combinazioni di password o la scansione di vulnerabilità, senza bisogno di intervento umano, riducendo drasticamente i tempi di compromissione dei sistemi.

La GenAI analizza profili online, email e comportamenti delle vittime per creare messaggi di phishing estremamente convincenti e su misura.

Il potenziale positivo della GenAI

Il quadro non è completamente nero, tutt’altro. Sono molti gli aspetti in cui l’intelligenza artificiale, soprattutto se generativa, può contribuire a rendere più efficaci le difese aziendali.

In particolare, cinque sono rilevanti per il contesto italiano, dimostrando il potenziale della GenAI nel rafforzare le difese cyber, pur riconoscendo il suo duplice impatto.

Rilevamento avanzato di phishing e spam: una difesa più intelligente

L’AI generativa può analizzare il contenuto, lo stile di scrittura e il contesto delle email per identificare modelli sospetti che sfuggono ai tradizionali filtri antispam.

Questo è particolarmente importante in un contesto globale in cui il social engineering sta diventando una componente sempre più frequente negli attacchi – come emerso nel report “The Human Factor 2025, Vol. 1: Social Engineering” di Proofpoint – con un quarto degli attacchi APT (Advanced Persistent Threat) che ne fa uso.

Anche in Italia, gli attacchi di phishing/social engineering sono stati causa dell’8% del totale degli incidenti, con un incremento del 33% nel 2024 rispetto all’anno precedente, come evidenziato dal Rapporto Clusit, l’Associazione Italiana per la Sicurezza Informatica.

La GenAI, attraverso l’analisi di pattern linguistici e strutturali, aiuta a identificare e bloccare email di phishing e URL dannosi, migliorando la protezione, traducendosi in una prevenzione del phishing più efficace, fondamentale per difendere utenti e aziende.

Automazione dell’analisi delle minacce: alleggerire il carico dei SOC

I team SOC sono spesso sopraffatti dal volume di avvisi di sicurezza. L’AI generativa può automatizzarne l’analisi, identificando rapidamente le minacce più critiche e fornendo informazioni contestuali per una risposta più efficace.

In Italia, dove la carenza di competenze sulla cyber security è un problema costante, l’automazione offerta dalla GenAI può alleggerire il carico di lavoro dei team SOC e migliorarne l’efficienza.

Questa capacità di analizzare grandi quantità di dati per definire comportamenti “normali” e identificare deviazioni sospette consente un rilevamento più rapido e accurato delle minacce, inclusi malware e attacchi sofisticati.

L’AI generativa permette ai SOC di passare da una postura reattiva a una proattiva, grazie alla creazione di modelli predittivi e all’intelligence che anticipano nuove minacce e vulnerabilità.

Risposte automatizzate agli incidenti: rapidità e riduzione dei danni

In caso di attacco, l’AI generativa può creare automaticamente risposte predefinite e personalizzate, ad esempio isolando i sistemi compromessi o inviando alert agli utenti interessati, riducendo tempi di risposta e danni.

Si tratta di un aspetto particolarmente cruciale in Italia, che ha subìto circa il 10% degli attacchi globali nel 2024, nonostante rappresenti solo l’1% del PIL mondiale.

L’automazione di attività ripetitive, come la gestione delle patch e il monitoraggio della conformità normativa, riduce ulteriormente tempi e costi operativi, permettendo ai team di concentrarsi su attività più strategiche.

Simulazione di attacchi: proattività e allocazione mirata delle risorse

La GenAI può simulare attacchi realistici e complessi per testare l’efficacia delle difese, permettendo alle aziende di identificare le vulnerabilità e migliorare la loro postura di sicurezza in modo proattivo.

In Italia, dove molte realtà, soprattutto le PMI, faticano a investire in cyber security, questo metodo può essere efficace per valutare i propri punti deboli e allocare le risorse in modo più mirato.

Documenti formativi personalizzati: aumentare la consapevolezza

L’intelligenza artificiale generativa può creare materiali personalizzati per la formazione dei dipendenti, basati sui ruoli e sulle minacce più rilevanti per la loro area operativa.

Questo aumenta la consapevolezza sulla sicurezza e riduce il rischio di errore umano.

La formazione è fondamentale in Italia, dove la consapevolezza sulla cyber security è ancora relativamente bassa e gli errori umani rappresentano una delle principali cause di violazioni dei dati.

Il ruolo dei SOC in Italia: superare le sfide con la GenAI

I Security Operations Center (SOC) stanno acquisendo un ruolo sempre più importante per la gestione proattiva delle minacce cyber.

Tuttavia, molti in Italia devono affrontare sfide quali mancanza di personale qualificato, difficoltà di integrare diverse tecnologie di difesa e necessità di migliorare la visibilità sulle minacce.

L’AI generativa può aiutare a superarle, automatizzando le attività ripetitive, migliorando l’analisi delle minacce e fornendo informazioni più accurate e tempestive.

Un approccio bilanciato per il futuro della cyber security

In sintesi, la GenAI sta rivoluzionando la sicurezza di e-mail e team SOC, offrendo nuove capacità per rilevare, analizzare, rispondere e prevenire le minacce. Le aziende che adottano queste tecnologie possono migliorare significativamente la loro postura di sicurezza e proteggere i propri asset digitali, affrontando sfide specifiche.

La sfida principale per le aziende è sfruttare le potenzialità dell’AI per la protezione, mitigando al contempo i rischi legati al suo abuso da parte dei cyber criminali.

La sua implementazione, unita a una maggiore consapevolezza e investimenti mirati, è fondamentale per rafforzare la cyber security di aziende di ogni dimensione, adottando un approccio evoluto e bilanciato per massimizzare i benefici e contenere le minacce, note ed emergenti.