'/%3E%3C/svg%3E){kind=small}
Iniezione di istruzioni, avvelenamento dei dati, evasione dei modelli: i sistemi di Intelligenza Artificiale hanno una superficie di attacco propria, tanto specifica da essersi meritata tassonomie dedicate del NIST, del progetto OWASP e di MITRE. Presidiarla è il mestiere dell’AI Security Specialist, in un mercato europeo dove gli specialisti di sicurezza mancano prima ancora che l’IA li renda indispensabili.
Al primo posto della classifica dei rischi delle applicazioni di IA generativa non c’è un difetto di programmazione tradizionale, ma un attacco che tre anni fa non aveva nemmeno un nome consolidato: «A Prompt Injection Vulnerability occurs when user prompts alter the LLM’s behavior or output in unintended ways», così il progetto Open Worldwide Application Security Project – OWASP dedicato all’IA generativa (OWASP) (testo in lingua originale). È il segnale di un fatto nuovo: i sistemi di IA sbagliano, e vengono attaccati, in modi che non somigliano a nessun altro. Da qui il profilo dell’AI Security Specialist, responsabile della protezione dei sistemi di IA da minacce, vulnerabilità e attacchi lungo l’intero ciclo di vita.
Tassonomie dedicate: NIST e MITRE
Che la sicurezza dell’IA non coincida con la sicurezza informatica tradizionale lo attestano le fonti più autorevoli. Il National Institute of Standards and Technology – NIST, con il rapporto della serie sull’IA affidabile dedicato all’apprendimento automatico avversario, dichiara: «This NIST Trustworthy and Responsible AI report provides a taxonomy of concepts and defines terminology in the field of adversarial machine learning (AML)» (NIST) (testo in lingua originale): avvelenamento dei dati di addestramento, evasione in fase di inferenza, attacchi alla riservatezza dei dati e dei modelli, abuso delle capacità generative. E la base di conoscenza MITRE ATLAS si presenta come «a public knowledge base of adversary TTPs targeting AI systems» (MITRE ATLAS) (testo in lingua originale), catalogando tattiche e tecniche osservate contro sistemi reali.
La pratica della difesa
Nella concreta operatività, quattro presìdi definiscono il profilo maturo. La modellazione delle minacce specifiche: mappare il sistema, dai dati alle interfacce, sulle tassonomie dedicate, individuando gli scenari pertinenti al caso concreto. La verifica offensiva controllata: prove di attacco simulato e campagne di red teaming sulle applicazioni generative, trattando il modello come componente non fidato finché non dimostrato altrimenti; per i modelli con rischio sistemico, del resto, il collaudo contraddittorio è un obbligo espresso del Regolamento (UE) 2024/1689, c.d. AI Act. La difesa in profondità: filtri su ingressi e uscite, separazione dei privilegi degli agenti software, approvazione umana per le azioni ad alto impatto, telemetria e rilevazione degli abusi, perché la sicurezza del modello non basta se il sistema che lo circonda è indifeso. Infine il raccordo con la governance: contribuire alla gestione dei rischi e alla documentazione richieste dal quadro regolatorio, ivi compresi, per i soggetti che vi ricadono, gli obblighi della disciplina europea sulla cibersicurezza delle reti e dei sistemi informativi.
Un mercato in deficit strutturale
Quanto alla domanda, il contesto europeo parte da un deficit documentato: «In 2023, 57.5% of EU enterprises that recruited or tried to recruit ICT specialists had difficulties in filling ICT vacancies», con punte del 72,41 per cento in Germania (Eurostat) (testo in lingua originale). Su questo deficit generale si innesta la trasformazione portata dall’IA: il Centro europeo per lo sviluppo della formazione professionale – CEDEFOP la qualifica come «the next general-purpose technology reshaping labour markets, jobs and skills» (CEDEFOP) (testo in lingua originale), e le competenze di sicurezza sono tra quelle che la trasformazione rende più critiche, perché ogni nuova applicazione di IA è, insieme, una nuova superficie di attacco. Chi sappia unire il mestiere della sicurezza alle specificità dell’apprendimento automatico si colloca, oggi, all’incrocio di due scarsità.
Il riferimento italiano
La norma UNI 11621-8:2026 riconosce all’AI Security Specialist un profilo autonomo tra i dodici dell’IA, con competenze declinate secondo la metodologia dell’e-Competence Framework europeo, la norma UNI EN 16234-1; la valutazione e la certificazione delle competenze professionali avvengono presso organismi accreditati secondo lo Standard UNI CEI EN ISO/IEC 17024, nel quadro della Circolare informativa Accredia DC n. 21/2026 (Accredia).
Conclusioni
L’AI Security Specialist difende sistemi che sbagliano in modi nuovi da avversari che attaccano in modi nuovi: per questo la disciplina si è data tassonomie e basi di conoscenza dedicate, e per questo il profilo merita il riconoscimento autonomo che la norma italiana gli ha assegnato.
Alla luce di quanto esposto, ci si domanda se le organizzazioni sapranno estendere ai sistemi di IA la maturità di sicurezza faticosamente costruita sul software tradizionale, prima che a dimostrarne la necessità provvedano, come sempre più spesso accade, gli avversari.
Fonti
- Accredia, Circolare informativa DC N. 21/2026
- CEDEFOP, “Skills empower workers in the AI revolution”
- Eurostat, “ICT specialists – statistics on hard-to-fill vacancies in enterprises”
- MITRE ATLAS
- NIST, AI 100-2 E2025
- OWASP Gen AI Security Project, “LLM01:2025 Prompt Injection”
- UNI, comunicato del 30 aprile 2026 sulla norma UNI 11621-8:2026
