Gli orizzonti tecnologici spostano sempre la frontiera dell’innovazione non appena sembrava di aver familiarizzato con l’ultima tecnologia in voga. È il caso AI agentiche che si presentano come strumenti nuovi e già pronti all’uso rispetto alle AI generative (LLM) con cui più o meno tutti hanno già iniziato a interagire o a lavorare, anche se non sempre secondo esplicite policy d’uso emesse dalla propria organizzazione.

L’autonomia apre opportunità straordinarie per la difesa informatica, permettendo anche di bilanciare gli usi malevoli e l’automazione degli attacchi da parte degli avversari digitali. Ma introduce anche una categoria di rischi inediti ed emergenti legati alla manipolazione cognitiva, alla perdita di controllo decisionale, alla privacy mentale e all’autonomia democratica.

La qualità e il livello di affidabilità delle AI agentiche

Con il termine AI agentica si indicano sistemi IA capaci di agire autonomamente, pianificare sequenze di azioni e collaborare con altri agenti.

Questi strumenti non si limitano a supportare attività operative, ma sono in grado di prendere decisioni autonome (nell’ambito del perimetro d’azione), interagire con sistemi complessi e coordinare azioni in tempo reale.

Le AI agentiche sono presentate come strumenti maturi, ma forse sono proprio gli utenti e le aziende a dover maturare un uso consapevole, valutando primariamente la qualità stesso di questo tipo di strumenti digitali e il livello di affidabilità limite da non oltrepassare.

È soprattutto il tema della delega e responsabilità ultima sulle azioni dell’agente artificiale che divide, con posizioni contrapposte, gli ottimisti entusiasti e coloro che hanno un certo timore o una vera e propria paura.

I primi si abbandonano alla pazza gioia di un uso sfrenato e non sempre consapevole, i secondi cautamente adottano questi strumenti con parsimonia e si interrogano o chiedono garanzie.

Nel mezzo gli indecisi, gli ignavi e tutti coloro che soffrono di digital divide. Fra tutte queste categorie il dibattito è più vivo che mai e alcune evidenze sono emerse anche durante la giornata Kaspersky Horizons 2026, evidenziando come il tema non sia più esclusivamente tecnico, ma coinvolga governance, etica, regolamentazione e tutela della persona.

Il ruolo delle AI agentiche per la cyber security: bilanciare le sorti degli attacchi digitali

Le AI agentiche, oltre ad essere estensivamente usate dagli attaccanti per massimizzare efficacia e velocità di attacco, si avviano a diventare uno strumento centrale per la difesa cyber, grazie alla loro capacità di automatizzare il rilevamento delle minacce, correlare grandi quantità di eventi e reagire rapidamente agli incidenti.

Le organizzazioni utilizzano sistemi AI-driven per migliorare detection, risposta automatizzata e resilienza operativa, soprattutto in un contesto in cui gli attacchi diventano sempre più veloci e coordinati.

Secondo i dati Kaspersky, il 57% delle aziende si aspetta un miglioramento del rilevamento delle minacce grazie all’AI, mentre il 49% punta su risposte
automatizzate agli incidenti.

Andrea Fumagalli, Cyber security and AI Advisor, sottolinea come la sicurezza informatica debba ormai adottare non più la logica del “se” o del “quando”, ma del “come si sopravvive ad un attacco”, superando il concetto tradizionale di resilienza: “Le organizzazioni devono adottare una mentalità basata sul principio presumere già una violazione e andare oltre la resilienza tradizionale, puntando alla Cyber endurance”.

La crescente autonomia degli agenti AI accelera infatti la velocità e la scala delle operazioni cyber, rendendo necessario un modello di difesa continuo e adattivo.

Monitoraggio della Supply Chain

L’automazione basata su AI consente inoltre di affrontare la crescente complessità delle supply chain digitali e degli ecosistemi interconnessi.

Gli agenti intelligenti possono monitorare anomalie, controllare autorizzazioni, analizzare flussi di dati e identificare comportamenti sospetti molto più rapidamente rispetto ai processi tradizionali.

Le vulnerabilità delle AI agentiche

Tuttavia, proprio questa autonomia operativa amplia la superficie di rischio. Plugin malevoli, prompt injection, data poisoning, ‘allucinazioni’ dei modelli e “malicious skills” ovvero tutte funzionalità dannose nascoste nei flussi di lavoro IA apparentemente legittimi, possono trasformare sistemi apparentemente affidabili in vettori di compromissione.

Lo stesso codice di cui sono costituite le AI agentiche non è immune a vulnerabilità.

Chi è responsabile per le AI agentiche

Quando si parla di responsabilità Luana Lo Piccolo Consulente senior in diritto tecnologico, governance dell’IA e affari digitali globali chiarisce come “si stia passando da sistemi che eseguono (LLM, n.d.r.) a sistemi (agentici, n.d.r.) che richiedono coordinamento condiviso.

Si devono valutare impatti e governare le responsabilità, stabilendo dei criteri” e continua “Le organizzazioni devono adottare modelli di governance che definiscano chiaramente in quali ambiti la supervisione umana rimane essenziale, come sia distribuita la responsabilità e come mantenere il controllo mentre i sistemi di IA operano con velocità, portata e autonomia sempre maggiori. La regolamentazione stabilisce la base; la governance è dove comincia la leadership” e chiude ricordando come “la responsabilità dei produttori è la capacità di creare prodotti senza arrecare danni, ma chi usa tali prodotti non deve abbandonarsi ciecamente alle regole esterne o agli strumenti stessi”.

Insomma, a ognuno la sua parte di responsabilità.

Cambio nei controlli di protezione

Dmitry Galov Head of Global Research and Analysis Team Russia presso Kaspersky evidenzia come l’introduzione degli agenti AI cambi radicalmente il concetto stesso di fiducia digitale: “La sicurezza non riguarda più solo la protezione degli endpoint, ma il controllo di come informazioni, autorizzazioni e decisioni si propagano attraverso processi interconnessi basati sull’intelligenza artificiale”.

La sicurezza informatica, quindi, non riguarda quindi solo la protezione dei sistemi, ma il controllo delle relazioni tra dati, i processi decisionali automatizzate e le autorizzazioni distribuite.

Raccomandazioni operative per le organizzazioni

Per mitigare i rischi, gli esperti suggeriscono un approccio strutturato basato su supervisione umana, implementazioni graduali, principio del minimo privilegio e monitoraggio continuo degli agenti AI.

Fondamentale diventa inoltre integrare audit trail, governance delle autorizzazioni e sistemi di verifica continua delle decisioni automatizzate.

Il rischio delle AI agentiche per la “human cognition”

Accanto alle opportunità per la cybersecurity, emerge però un rischio più profondo di natura antropologica: l’impatto delle AI agentiche sulla cognizione umana e sull’autonomia decisionale. I sistemi di AI cognitiva stanno evolvendo da strumenti di elaborazione dati e di profilazione, a strumenti capaci di profilazione pervasiva avanzata e manipolazione (mediante raccomandazioni e suggerimenti di preferenze).

Noushin Shabab Lead Security Researcher Kaspersky evidenzia chiaramente questo scenario: “Sebbene l’IA cognitiva sia ancora in una fase iniziale e lontana da una diffusione di massa, si sta sviluppando rapidamente. L’intelligenza artificiale sta rapidamente evolvendo da una tecnologia che si limita a elaborare le informazioni a una capace di interpretare e influenzare la cognizione umana. E quando ciò accadrà, dovremo essere pronti”.

Rischi emergenti

Il rischio non è solo tecnologico, ma sociotecnico: manipolazione cognitiva, social engineering avanzato, profiling predittivo e influenza dell’opinione pubblica diventano strumenti potenzialmente sistemici.

Le AI agentiche possono infatti utilizzare enormi quantità di dati per creare profili psicologici dettagliati e adattare contenuti, messaggi o campagne persuasive alle vulnerabilità emotive delle persone.

I deepfake, il phishing contestuale e le tecniche di micro-targeting trasformano il social engineering in una minaccia molto più sofisticata e difficile da riconoscere.
Allora Il nodo centrale del dibattito non è se l’IA cognitiva rappresenti un rischio – gli esperti concordano che lo sia -, ma chi ha la responsabilità di governarlo e con quale urgenza.

Il rischio non è solo per i singoli utenti: è per i sistemi collettivi di formazione dell’opinione e per la qualità della partecipazione democratica.

Teresa Potenza Giornalista e divulgatrice in materia di intelligenza artificiale, richiama l’attenzione sul rischio democratico e culturale di questa evoluzione: “Il vero rischio dell’intelligenza artificiale cognitiva è che plasmi le nostre menti, silenziosamente e su vasta scala”.

La progressiva dipendenza da sistemi ottimizzati per il coinvolgimento rischia infatti di erodere capacità critica, autonomia decisionale e fiducia collettiva.

In generale gli esperti concordano sul fatto che le cognitive delegation è un rischio sistemico che non possiamo permetterci di correre perché distrugge la capacità decisionale (decision making) e il pensiero critico (critical thinking) ma anche la creatività e quindi, in ultima analisi, la credibilità di ciascuno sulla propria capacità di ragionamento.

Luana Lo Piccolo in una battuta lo sintetizza: “Usate le AI agentiche come sparring partner, ma mai come ultima parola!” sottolineando la necessità di ripensare governance e responsabilità: “La sfida centrale non è più solo la resilienza tecnica, ma l’autonomia responsabile”.

Soluzioni di tipo multidisciplinare

Le organizzazioni devono quindi definire chiaramente dove l’automazione può essere delegata, dove la supervisione umana resta indispensabile e chi mantiene la responsabilità finale delle decisioni prese dagli agenti AI.

Le possibili soluzioni richiedono un approccio multidisciplinare costituito da: regolamentazione, auditabilità degli algoritmi, trasparenza dei sistemi decisionali e modelli di AI governance capaci di preservare autonomia cognitiva e diritti fondamentali.

In questo contesto, la collaborazione tra sviluppatori AI, ricercatori, giuristi, esperti di sicurezza e decisori politici diventa essenziale come essenziale resta il dibattito critico, ragionato e costruttivo fra tutte le parti in causa.