È venerdì pomeriggio. Ricevi via e-mail un documento di 150 pagine con l’analisi dei rischi di un nuovo fornitore cloud. Invece di scorrere le tabelle di conformità o verificare una per una le eccezioni di sicurezza, selezioni il file, lo trascini nel riquadro del tuo agente AI e digiti 16 caratteri: “Recap dei rischi”.

In quattro secondi scarsi, lo schermo ti restituisce tre punti elenco rassicuranti che promuovono l’architettura a pieni voti. Fai all’AI ancora qualche domanda estemporanea, chiudi il file e lo carichi nel sistema di gestione dei fornitori.

Non si tratta certamente di superficialità, né di negligenza: l’intelligenza artificiale è uno strumento creato anche per questo tipo di task e migliorerà continuamente. Delegare all’IA i propri compiti è la conseguenza prevedibile del caricamento cognitivo esterno (cognitive offloading), quel processo per cui la mente umana riduce progressivamente lo sforzo di analisi quando percepisce la presenza di una protesi informatica pronta a svolgere il lavoro al suo posto.

Soprattutto di venerdì pomeriggio, con una settimana sulle spalle.

L’atrofia del monitoraggio metacognitivo

Il concetto di caricamento cognitivo esterno (cognitive offloading), formalizzato da Evan F. Risko e Sam Gilbert (2016), descrive l’uso di supporti fisici o digitali per alterare i requisiti di elaborazione dell’informazione, riducendo l’impegno richiesto alla memoria di lavoro.

Questo meccanismo si lega strettamente alle ricerche di Adrian F. Ward (2017) sull’effetto della presenza dei dispositivi intelligenti sulle capacità cognitive di base, fenomeno comunemente noto come amnesia digitale o Google Effect.

Quando un individuo sa che un’informazione è reperibile o sintetizzabile all’esterno senza sforzo, il cervello tende spontaneamente a non codificare i dettagli in memoria e, cosa ben più grave, a disattivare il controllo di secondo livello sulla validità del dato trattato.

Nell’architettura mentale delineata da Daniel Kahneman (2011), l’analisi di documenti complessi o la ricerca di anomalie richiede il presidio costante del Sistema 2, il circuito lento, faticoso e orientato alla verifica logica.

Tuttavia, di fronte a un riassunto generato da un modello sintetico, che si presenta in forma fluida, coerente e priva di errori sintattici, interviene l’illusione di comprensione.

La mente confonde la facilità di lettura del riassunto con la correttezza del contenuto originale. Il monitoraggio metacognitivo – ovvero la capacità riflessiva di chiedersi “sto davvero capendo tutto?” oppure “manca qualcosa di importante?” – entra in un vero e proprio cortocircuito.

Delegando all’algoritmo non soltanto la lettura ma anche la selezione di ciò che merita attenzione, l’esperto cede la sua dote più importante: la capacità di dubitare.

Un caso per capire la dinamica

Immaginiamo, a titolo di esempio, uno scenario all’interno dell’ufficio di gestione del rischio informatico di un’azienda multinazionale del settore logistico. Il team è chiamato a valutare l’architettura di sicurezza di un nuovo servizio SaaS destinato alla gestione della catena di fornitura.

Il fornitore invia un Third-Party Risk Assessment: la relazione di audit sulle terze parti contenente decine di allegati tecnici e schemi di rete.

L’analista incaricato della revisione, sommerso dalle scadenze e possibilmente privo di competenze su tutte le tecnologie indicate negli schemi, decide di affidare l’esame del testo all’AI generativa in uso nella propria organizzazione. Digita la richiesta: “Estrai criticità relative alla protezione dei data at rest e al controllo degli accessi”.

L’agente sintetico processa il documento ed elabora una risposta impeccabile, confermando che i dati sono cifrati secondo standard elevati e che gli accessi sono regolati da autenticazione a più fattori. E ovviamente argomenta il tutto.

Una nota a piè di pagina riporta che la cifratura a riposo non copre gli archivi dei log temporanei, perché sono conservati in un ambiente cloud secondario gestito da un subfornitore. Accettabile, ma va effettuata una verifica con il subfornitore.

Tuttavia, il modello linguistico, ottimizzato per rilevare la struttura prevalente del testo ed eliminare i dettagli periferici per produrre una sintesi fluida, ha tralasciato l’eccezione isolata.

L’analista, fidandosi della sintesi, firma l’autorizzazione.

Un attaccante individua il bucket di archiviazione secondario esposto e privo di cifratura, sottraendo i dati di tracciamento delle merci. L’attaccante non ha dovuto inventare una tecnica complessa: ha sfruttato l’anestesia analitica provocata da un riassunto perfetto.

Le implicazioni per il CISO

Per il CISO, questa anestesia si traduce in una ridefinizione della valutazione del rischio di processo nei contesti in cui gli strumenti di intelligenza artificiale vengono impiegati per la sintesi, la classificazione o l’analisi della conformità.

Se il team di sicurezza perde l’abitudine alla lettura diretta delle fonti, il controllo sulle terze parti e la ricerca delle minacce si riducono a un mero esercizio burocratico, gestito da algoritmi privi di comprensione del contesto aziendale.

La contromisura non consiste nella messa al bando degli strumenti di sintesi, bensì nella strutturazione di protocolli di verifica che impongano il mantenimento della vigilanza analitica:

• Randomized Source Cross-Checking: Implementare procedure di controllo a campione secondo cui il responsabile della revisione deve verificare manualmente una percentuale fissa dei documenti sorgente, confrontando il testo originale con le sintesi fornite dall’agente sintetico.
• Adversarial Audit Prompts: Addestrare il personale a formulare query d’ispezione orientate alla ricerca attiva del difetto (es. “Elenca esclusivamente le clausole di deroga e le note a pie’ di pagina che limitano la responsabilità del fornitore”), anziché richieste generiche di sintesi che spingono il modello a sorvolare sulle anomalie.
• Source Citation Traceability: Configurare i copiloti aziendali affinché colleghino ogni singola affermazione della sintesi al riferimento esatto di pagina e paragrafo del documento sorgente, rendendo obbligatorio il passaggio del cursore e la verifica visiva prima della convalida finale.

In luogo dell’inaffidabile conteggio dei report analizzati o delle ore di formazione teorica completate, il KPI comportamentale su cui misurare l’efficacia del processo è il tasso di rilevamento delle discrepanze di sintesi. Questo indicatore si calcola inserendo periodicamente nei documenti di prova sottoposti al team di sicurezza incongruenze o clausole critiche nascoste deliberatamente, e valutando la frequenza con cui gli analisti riescono a intercettarle anziché accettare la sintesi incompleta generata dall’IA.

Una proposta metodologica

Il cybercognitivismo individua nell’atrofia del dubbio la principale minaccia della delega tecnologica incontrollata. L’errore umano non è quasi mai la causa radice di un incidente di sicurezza, ma rappresenta l’esito finale di un’architettura del lavoro che incoraggia il dipendente a rinunciare alla propria capacità di giudizio per inseguire la velocità di esecuzione.

Il Manuale CISO Security Manager (per la preparazione all’esame CISSP e la pratica quotidiana)[1] affronta la gestione del rischio legato alla catena di fornitura (Supply Chain Risk Management) ponendo al centro la separazione rigorosa tra l’ausilio informativo fornito dai sistemi di automazione e il momento decisionale, che deve rimanere ancorato alla responsabilità diretta dell’essere umano.

La definizione dei processi di Governance, Risk, and Compliance (GRC) richiede che ogni decisione di approvazione sia corredata dalle evidenze primarie verificate, impedendo che un’astrazione generata da un software si sostituisca all’ispezione documentale. Un riassunto perfetto non ti fa risparmiare la fatica di pensare: te la nasconde. Ed è comodo delegare la lettura, finché non tocca a te firmare ciò che non hai letto.

[1] Per saperne di più su queste tematiche e sui rischi della dipendenza cognitiva dall’AI, è possibile consultare il Manuale CISO Security Manager per la preparazione all’esame CISSP e per la pratica quotidiana.