Nel settore della sicurezza informatica si discute da tempo di una imminente minaccia automatizzata. Gli esperti usano spesso il termine bugpocalypse per descrivere questo potenziale scenario distruttivo.

Tuttavia, la distruzione su larga scala non si è ancora materializzata nel mondo reale. Per comprendere questo fenomeno, l’esperto James Wilson e Brad Arkin, ex CISO di Cisco e Adobe, hanno condiviso una dettagliata analisi tecnica che evidenzia un quadro inaspettato.

Le straordinarie capacità offensive dell’intelligenza artificiale si scontrano oggi con rigidi limiti organizzativi delle reti criminali.

La minaccia reale dell’intelligenza artificiale offensiva

L’assenza di attacchi di massa non indica una mancanza di strumenti tecnologici avanzati. Arkin spiega che le capacità offensive sono mutate profondamente a favore di chi attacca. Nello specifico, lo sviluppo di exploit funzionanti ha registrato una forte accelerazione. I modelli linguistici di ultima generazione mostrano potenzialità concrete in questo campo.

Arkin afferma: «La capacità di sviluppare exploit funzionanti per vulnerabilità reali sembra essere cambiata drasticamente con il rilascio dei modelli di classe Mythos». Questa definizione indica convenzionalmente i modelli avanzati di Anthropic. I picchi nel volume di vulnerabilità non rappresentano una narrazione mirata a spaventare il pubblico. Molti attori utilizzano con successo anche Sonnet o Kimi. Secondo Arkin, «non è più hype: trovare bug e scrivere exploit è diventato drasticamente più facile».

I test pratici sui modelli open-weight

Wilson conferma la validità di queste analisi attraverso i suoi test quotidiani. L’esperto sperimenta direttamente con modelli locali e soluzioni cinesi open-weight. La sua configurazione attuale sfrutta il modello GLM in cloud con l’orchestratore Zhipu AI. A questo si affianca un modello Qwen eseguito localmente su una infrastruttura NVIDIA DGX con compiti di analisi.

Questo sistema permette di individuare elementi di interesse all’interno dell’ecosistema Apple. Tuttavia, l’attività genera ancora un numero elevato di falsi positivi. Wilson sottolinea che la competenza umana resta insostituibile. Un operatore deve valutare all’istante se un bug sia reale o se possa produrre effetti concreti.

Il confronto con lo sviluppo software

Arkin propone un parallelo con il settore dei videogiochi per chiarire il livello di maturità della tecnologia. Strumenti come il modello Fable permettono persino a un ragazzo di undici anni di ottenere ottimi risultati su un progetto. La scrittura di exploit non ha ancora raggiunto una simile accessibilità di massa. Nonostante questo limite, l’intelligenza artificiale riduce già in modo drastico le ore di lavoro umano necessarie.

I colli di bottiglia organizzativi del cybercrimine

L’aumento complessivo di exploit disponibili nel mondo non ha modificato il numero osservabile di vittime di ransomware. Le grandi infrastrutture non registrano variazioni significative nei nodi compromessi rispetto al passato. Arkin individua la causa principale nelle difficoltà di gestione dei gruppi criminali.

Arkin dichiara: «La mia tesi è che i cattivi stiano avendo difficoltà a integrare questa tecnologia nei flussi di lavoro aziendali esistenti». Trovare una vulnerabilità rappresenta infatti solo una piccola parte di un intero ecosistema operativo. Un attacco richiede pianificazione, selezione della vittima, riciclaggio di denaro e trattative complesse per il riscatto.

Il caso di studio della campagna Polyfill

Esistono comunque eccezioni significative in cui l’intelligenza artificiale ha mostrato il suo potenziale su larga scala. La campagna Polyfill rappresenta un esempio eccellente di sfruttamento massimo delle capacità degli LLM. In questa operazione, gli aggressori hanno impiegato i modelli per il triage o per dare scala ad attacchi di tipo tradizionale.

I limiti operativi del Team PCP

Un altro esempio riguarda le attività del gruppo Team PCP. Questo attore ha sottratto centinaia di gigabyte di credenziali e ha colpito ottantamila dispositivi Fortinet. Nonostante il successo iniziale, l’operazione ha mostrato evidenti limiti nella fase successiva. Il massimo risultato ottenuto è stato la vendita online delle credenziali di un ufficio federale britannico per sessantamila dollari.

Wilson ritiene che Team PCP sia un operatore solitario con ottime competenze DevOps ma privo di capacità per l’esfiltrazione rapida dei dati. Molte aziende colpite hanno semplicemente ruotato le credenziali e ripulito i sistemi. Secondo Arkin, gli aggressori sono stati sopraffatti dal successo o hanno mostrato un fallimento nella pianificazione operativa. Il pericolo reale si manifesterà quando i criminali integreranno agenti IA in grado di velocizzare questi processi da 5 a 10 volte.

I limiti delle strategie basate sul patching continuo

Di fronte alla minaccia della bugpocalypse, molte grandi aziende investono somme enormi in progetti per trovare e correggere ogni bug. Arkin ritiene che questa non sia la strada corretta per garantire la sicurezza. Eliminare un bug noto è un’azione giusta, ma comporta effetti collaterali complessi.

Arkin spiega: «la correzione stessa comunica la presenza del bug, che prima era oscuro». Inoltre, il rilascio di una patch non garantisce la sua distribuzione immediata su ogni sistema esposto. Inseguire ogni singola falla richiede un investimento infinito. Questa attività genera un pesante costo opportunità, poiché distoglie risorse dallo sviluppo di architetture più sicure.

Akrites, Athena e i programmi pubblici di difesa

Nel mese di giugno sono nate tre importanti iniziative pubbliche per gestire lo tsunami di vulnerabilità. La Linux Foundation ha lanciato il programma Akrites per coordinare le informazioni e ridurre il carico sui manutentori open source. Il progetto Athena, guidato principalmente da Chainguard, adotta un approccio industriale focalizzato sulla divulgazione coordinata e sul rafforzamento degli ambienti tramite apposite librerie.

La terza iniziativa prende il nome di Patch the Planet ed è promossa da Trail of Bits e OpenAI Daybreak. Questo programma abbina la scoperta dei bug alla loro correzione diretta attraverso interventi mirati. Patch the Planet cerca punti di controllo nell’architettura dove una singola modifica può eliminare un’intera categoria di bug.

L’importanza dell’efficienza dei processi

Wilson esprime una netta preferenza per l’approccio di Patch the Planet. L’esperto cita i dati forniti da Dan Guido, secondo cui gli specialisti del team dedicano il cinquanta per cento del tempo ad attività su architettura, SDLC e governance. Wilson esprime un giudizio chiaro sui modelli alternativi: «Se automatizzi un processo inefficiente, ottieni solo un’automazione inefficiente». I vecchi metodi non possono scalare contro le nuove minacce informatiche.

La svolta strategica: sicurezza del runtime e mitigazione architetturale

I difensori devono concentrarsi sulla struttura dei sistemi piuttosto che sulla correzione dei singoli difetti. Wilson ricorda l’esperienza maturata in Apple, dove lo sviluppo del sandboxing è stato lungo e complesso. La svolta decisiva è arrivata con l’introduzione dei codici di autenticazione dei puntatori (PAC) e del Memory Integrity Enforcement.

Grazie a queste difese, i buffer overflow individuati oggi tramite gli LLM nell’ecosistema Apple risultano del tutto inutilizzabili. I PAC impediscono l’inserimento di puntatori e i controlli di integrità bloccano la scrittura in memoria. Questo dimostra l’efficacia degli investimenti in nuove infrastrutture rispetto al semplice patching.

Il ruolo protettivo degli ambienti di esecuzione

Arkin individua la vera opportunità di protezione nella piattaforma e negli ambienti di esecuzione del codice. Non è fattibile riscrivere l’immenso volume di software prodotto negli ultimi quaranta anni. Tuttavia, piccoli cambiamenti nei runtime di JVM, kernel Linux o servizi AWS aumentano drasticamente i costi per gli attaccanti.

Wilson evidenzia come il runtime stesso funga da meccanismo di difesa in linguaggi come Objective-C o Swift. In Objective-C, un tentativo di provocare una type confusion tra un oggetto NSData e un NSArray viene rilevato immediatamente. Il runtime si accorge della chiamata a un metodo non supportato e interrompe l’applicazione tramite un crash controllato. Rendere sicuri runtime diffusi come Node.js, PHP o la JVM riduce l’esposizione della società in modo massiccio.

L’isolamento dei processi e il controllo del blast radius

Arkin suggerisce di isolare il codice fragile all’interno di ambienti protetti. L’esperto propone una metafora: «prendere una carrozza del XVII secolo, avvolgerla in materassi e metterla sul pianale di un camion». Il veicolo può viaggiare in sicurezza a cento chilometri orari senza dover modificare la carrozza stessa.

I CISO possono applicare questo principio isolando i processi pericolosi in zone protette attraverso controlli di rete e confini di account cloud. Apple adotta questa strategia con iMessage attraverso il componente BlastDoor. L’analisi delle immagini avviene in un processo separato con privilegi minimi per azzerare l’impatto di una eventuale esplosione del codice.

La gestione delle credenziali e l’indurimento dell’ambiente

La riduzione del raggio d’azione di un attacco richiede una attenta configurazione delle credenziali aziendali. Arkin richiama una massima dell’esperto Haroon Meer, secondo cui i difensori devono chiedersi: «Dato l’accesso a questo punto, cosa servirebbe a un attaccante per causare un disastro?». Un ambiente indurito costringe l’avversario a dover concatenare più capacità distinte.

Una misura pratica consiste nel ridurre drasticamente la durata temporale delle credenziali. Passare da scadenze mensili a scadenze misurate in ore o minuti rende inutilizzabili i dati sottratti. Le informazioni scadranno prima che l’attaccante riesca a integrarle nella propria strategia operativa.

L’asimmetria economica della cyber difesa

La sfida sui bug gestita tramite gli LLM rischia di essere un gioco a somma zero. Al contrario, l’irrigidimento dell’infrastruttura rallenta l’attaccante in modo esponenziale rispetto sullo sforzo del difensore. Wilson evidenzia questo vantaggio economico: «Se spendi un’ora per rendere la vita di un attaccante più difficile di cinque ore, hai vinto». Questo approccio garantisce un valore duraturo nel tempo.

Il paradosso dei guardrail e le prospettive future

Un ostacolo attuale per la difesa è rappresentato dai rigidi blocchi imposti sui modelli commerciali occidentali. I sistemi interrompono le risposte non appena rilevano pattern legati a vulnerabilità come i buffer overflow. Questo limite costringe i ricercatori a utilizzare modelli cinesi open-weight per compiti legittimi di sicurezza. Wilson paragona questa situazione ai vecchi controlli sulle esportazioni della crittografia a quaranta bit.

I difensori non devono attendere soluzioni miracolose da progetti esterni. La minaccia della bugpocalypse non è scomparsa ma resta visibile all’orizzonte. Le aziende devono sviluppare una strategia interna sul modello di Patch the Planet. Dedicare il cinquanta per cento delle risorse all’infrastruttura permette di governare il proprio destino di fronte all’evoluzione degli agenti IA.