L’AI generativa viene usata sempre di più nei cyber attacchi

Ultimo aggiornamento: 26 giugno 2026

L’AI generativa nei cyber attacchi è ormai un acceleratore: riduce tempi e costi di preparazione, aumenta la credibilità dei messaggi e permette campagne più scalabili. Nel 2025 gli attacchi che sfruttano AI sono cresciuti rapidamente e in Italia una quota rilevante dei casi gravi coinvolge strumenti di AI generativa. Per decision maker, la priorità è combinare controlli tecnici, governance e formazione.

Perché l’AI generativa sta rendendo i cyber attacchi più rapidi, economici e credibili

L’AI generativa (modelli capaci di creare testo, codice, immagini e audio) è una tecnologia dual-use in cybersecurity: gli stessi Large Language Model (LLM) (modelli linguistici di grandi dimensioni) che aiutano i team possono amplificare le capacità offensive. Il vantaggio per gli attaccanti è chiaro: meno competenze richieste, meno tempo di preparazione, più persuasione.

Secondo il rapporto “AI Threat Landscape 2025” di Maticmind (ripreso da Il Sole 24 Ore, 2025), nel primo semestre 2025 gli attacchi che sfruttano AI sono aumentati del 47% rispetto all’anno precedente. In parallelo, il 77% dei professionisti security si aspetta un aumento di volume e velocità degli attacchi nei due anni successivi.

Gli usi malevoli più comuni includono:

• phishing e spear-phishing più credibili
• deepfake e voice cloning per impersonificazione
• generazione/raffinamento di codice malevolo
• automazione del social engineering su larga scala

Il punto chiave per aziende, PA, banche e università è che il 2025–2026 segna un passaggio: attacchi più convincenti e, soprattutto, più industrializzati.

Come stanno cambiando i cyber attacchi con l’AI generativa

I cyber attacchi stanno cambiando perché l’AI generativa rende più facile produrre contenuti credibili, personalizzati e “senza errori”. Il phishing (truffa che induce a cliccare, pagare o condividere credenziali) rimane la tipologia più usata: nel report citato da Maticmind, oltre l’80% delle email di phishing sfrutta modelli di AI generativa (2025), riducendo i segnali “classici” come gli errori grammaticali.

Lo stesso vale per il spear-phishing (phishing mirato su una persona o ruolo specifico): il report indica il 91% delle campagne come supportate da AI generativa (2025). In questo scenario cresce il Business Email Compromise (BEC) (frodi via email che imitano CEO/fornitori per ottenere bonifici o dati), perché i messaggi risultano coerenti con stile e contesto, anche usando strumenti consumer come OpenAI o Google Gemini (modelli generativi) in modo improprio.

Generative AI is a dual-use technology: it can significantly improve cyber defence, but it also lowers the barrier of entry for criminal actors by automating the creation of highly convincing phishing emails, malware code and social engineering scripts.

— Europol Innovation Lab, Innovation Lab analysts, Europol

In aumento anche i deepfake (audio o video sintetici che imitano una persona reale): dai 500.000 casi del 2023 si prevede di superare gli 8 milioni entro fine 2025, e oggi 1 caso su 20 nei controlli di verifica dell’identità è dovuto ai deepfake (stime riportate nel perimetro del report 2025). La differenza pratica è doppia: attacchi più convincenti e attacchi più scalabili.

Quali tecniche di attacco potenzia l’AI generativa oltre phishing e deepfake

Oltre a phishing e deepfake, l’AI generativa potenzia tecniche offensive “di catena”, spesso combinando LLM (testo/codice), OSINT (Open Source Intelligence: raccolta di informazioni da fonti pubbliche) e automazione. L’obiettivo tipico non è “inventare” un attacco nuovo, ma aumentare velocità, precisione e volume.

• Generazione assistita di malware: l’AI aiuta a scrivere o rifinire porzioni di codice malevolo e script, abbassando la barriera tecnica (Microsoft, 2025: The danger of AI’s role in cyber attacks).
• Prioritizzazione di vulnerabilità: l’AI può riassumere bollettini CVE (Common Vulnerabilities and Exposures) e suggerire quali sistemi colpire prima, accelerando la fase di targeting.
• Social engineering personalizzato: con OSINT e LLM è più semplice creare pretesti credibili per HR, procurement e segreterie, aumentando conversione e tasso di risposta.
• Voice cloning e spoofing: clonazione vocale e falsificazione dell’identità in scenari BEC, soprattutto per richieste urgenti di pagamento o cambio IBAN (UNODC, 2025: Emerging threats).
• Piattaforme “LLM criminali”: nomi come WormGPT o FraudGPT circolano come etichette di mercato; per i difensori contano come segnale di commoditizzazione, non come “strumenti magici”.

We are starting to see the first cyber-espionage operations fully orchestrated by AI agents, capable of scanning, identifying and exploiting vulnerabilities almost autonomously.

— Matteo Lucchetti, Curatore Forum ICT Security

In pratica, l’AI non sostituisce l’attaccante: ne amplifica la capacità di produrre varianti e di adattarsi rapidamente ai controlli.

Quando l’AI attacca l’AI: prompt injection, data poisoning e model theft

Il campo di battaglia si è ampliato: non sono solo a rischio dati e infrastrutture, ma gli strumenti AI stessi come prompt (istruzioni testuali), dataset (insiemi di dati) e modelli. Questo rende meno affidabili alcuni paradigmi tradizionali, perché la superficie d’attacco include anche interazioni linguistiche e pipeline di dati.

«Viviamo il paradosso dell’intelligenza artificiale: da un lato aumenta i vettori d’attacco e amplia la superficie esposta di chi la utilizza; dall’altro, se correttamente gestita, può rafforzare in modo significativo le difese».

— Pierguido Iezzi, Direttore Business Unit Cyber, Maticmind

Tre minacce ricorrenti, anche nel dibattito OWASP Top 10 for LLM Applications (linee guida per rischi LLM), sono:

• Prompt injection (manipolazione degli input per alterare l’output): può indurre un chatbot a rivelare dati o bypassare policy.
• Data poisoning (contaminazione dei dati di addestramento o di retrieval): degrada l’affidabilità delle risposte e può inserire “verità” malevole.
• Model theft (furto/replica non autorizzata di modelli e know-how): impatta proprietà intellettuale e vantaggio competitivo.

Per chi adotta chatbot, copilots o LLM interni, la difesa richiede controlli applicativi e di sicurezza del dato, come raccomandato anche da NIST (National Institute of Standards and Technology). Per un approfondimento tecnico su questi vettori, vedi tecniche di avvelenamento dei modelli AI come prompt injection e data poisoning.

Cyber attacchi tradizionali vs attacchi con AI generativa: cosa cambia davvero

Le tre differenze operative sono: velocità (cicli più corti), personalizzazione (messaggi su misura) e scalabilità (più varianti a parità di sforzo). Fonti come IBM e Microsoft descrivono l’AI come moltiplicatore sia per offensive sia per difesa, soprattutto su phishing, social engineering e automazione.

In difesa, strumenti di automazione e AI possono ridurre il tempo medio di identificazione e contenimento di una violazione di 108 giorni (IBM Cost of a Data Breach Report, 2024: fonte). Il punto è che la stessa logica di automazione accelera anche le campagne avversarie: non “vince” chi ha l’AI, ma chi governa meglio processi, dati e controlli nel SOC (Security Operations Center) e nel SIEM (Security Information and Event Management).

Quali settori sono più esposti: banche, università e supply chain digitale

Il rischio non è uniforme: alcuni settori hanno più incentivi economici, più identità da proteggere e processi più facilmente “imitabili” via AI. In Italia, quasi il 50% degli attacchi nel 2024 ha colpito Pubblica Amministrazione (30,3%) e Finance & Insurance (18,18%).

Banking: banche e istituti finanziari sono esposti a frodi, BEC e voice cloning su processi di pagamento, oltre che a rischi di resilienza operativa. Qui entrano in gioco anche DORA (Digital Operational Resilience Act) e GDPR (protezione dati), perché incident response e tracciabilità diventano requisiti oltre che best practice. Per approfondire architetture sicure, vedi architetture AI private e compliance nel settore bancario.

Università: atenei e centri di ricerca hanno una superficie ampia (studenti, docenti, ospiti) e asset sensibili (credenziali, dati di ricerca, proprietà intellettuale). Lo spear-phishing verso segreterie e gruppi di ricerca è un pattern ricorrente; in Italia il settore Educazione cresce fino a +43% (Clusit 2025). Sul contesto italiano, vedi partnership universitarie italiane con OpenAI e innovazione AI.

Supply chain digitale: un Managed Service Provider (MSP) (fornitore IT gestito) o un vendor può diventare la porta d’ingresso. L’AI rende più facile impersonare ruoli e “fare pressione” su ticketing, help desk e procurement, aumentando il rischio di compromissioni laterali.

Come difendersi dagli attacchi potenziati dall’AI generativa

Le aziende riducono il rischio combinando controlli tecnici, policy e formazione: nessuna misura singola basta contro attacchi più credibili e più veloci. Un approccio coerente con NIST Cybersecurity Framework (Identify–Protect–Detect–Respond–Recover) e con principi Zero Trust (verifica continua) aiuta a rendere le difese “resilienti” anche quando i contenuti sono sintetici.

1. Prevenzione: formazione anti-phishing aggiornata all’era GenAI (simulazioni con testi realistici, focus su BEC e richieste urgenti).
2. Prevenzione: MFA (Multi-Factor Authentication) ovunque e verifica out-of-band per pagamenti/cambio IBAN (telefonata su numero noto, non quello in email).
3. Detection: monitoraggio anomalie e behavioral analytics su email, accessi e transazioni; tuning di SIEM e playbook del SOC.
4. Response: procedure rapide per “stop payment” e comunicazione interna; runbook specifici per BEC e frodi con voice cloning.
5. Deepfake: protocollo di verifica per audio/video sospetti (challenge phrase, richiesta di video live, escalation a due persone).
6. LLM interni (es. Microsoft Copilot, Google Workspace): logging, controllo accessi API, segregazione dati, test di prompt injection e filtri su contenuti sensibili.
7. Governance: policy su dati inseriti nei modelli e valutazioni rischio/compliance (NIS2, GDPR, EU AI Act).

In contesti regolati (banking e PA) la differenza la fa la governance del cambiamento: ruoli chiari, auditabilità e controlli ripetibili. Per la parte normativa e di gestione rischio, vedi strategie di compliance e gestione del rischio AI secondo l’EU AI Act e impatto e adeguamenti dell’EU AI Act sull’intelligenza artificiale.

Nota pratica: molte discussioni operative su rilevazione deepfake e BEC emergono anche in community come r/cybersecurity su Reddit (thread 2025–2026), spesso citate da Perplexity per validazione “dal campo”.

FAQ: domande comuni sugli attacchi cyber con AI generativa

Come riconosco un phishing scritto con AI generativa?

Un phishing generato da AI è spesso grammaticalmente perfetto e coerente con il contesto, quindi i segnali “classici” non bastano. Conta verificare l’azione richiesta (urgenza, pagamento, credenziali), controllare dominio e canali, e usare una verifica out-of-band per richieste anomale, soprattutto in scenari BEC.

L’AI generativa può davvero creare malware da zero?

Sì, può assistere nella scrittura o modifica di codice e script, ma di solito amplifica tecniche già note più che “inventare” malware completamente nuovo. Il rischio maggiore è l’abbassamento della barriera tecnica e la velocità di iterazione, che aumenta il volume di varianti e la pressione sui controlli.

Quanto è difficile rilevare un deepfake convincente in azienda?

È più difficile di prima perché audio e video sintetici migliorano rapidamente e possono ingannare controlli umani iniziali. Nel 2025 si stimava che 1 controllo identità su 20 fosse legato a deepfake. Per ridurre il rischio servono protocolli di verifica, escalation e “challenge phrase”.

Quali settori sono più vulnerabili agli attacchi AI-driven in Italia?

Finance, Pubblica Amministrazione ed Educazione risultano tra i più colpiti e/o in crescita secondo il Rapporto Clusit 2025. Banche e assicurazioni sono bersagli per frodi e BEC; università e ricerca per credenziali e dati; la supply chain digitale perché un fornitore compromesso può aprire accessi a cascata.

Quali controlli posso implementare subito senza rifare tutta la sicurezza?

Le azioni più rapide sono MFA ovunque, verifica out-of-band per pagamenti e cambi IBAN, simulazioni phishing aggiornate, logging e alert su anomalie, e un playbook incident response per BEC e deepfake. Se usi LLM interni, aggiungi test di prompt injection e regole su dati inseriti nei modelli.

Approfondimenti correlati: evoluzione dei modelli linguistici di grandi dimensioni (LLM) e AI generativa; modelli AI che integrano tecniche tradizionali e AI generativa; uso dei gemelli digitali per la tracciabilità e conformità settoriale.