Il 9 ottobre 2026 la Commissione europea ha tenuto una riunione straordinaria del gruppo di esperti scientifici indipendenti previsto dall’AI Act, con la partecipazione annunciata della vicepresidente esecutiva Henna Virkkunen. Secondo il comunicato, il gruppo di 60 esperti ha indagato sui recenti incidenti di perdita di controllo e, insieme all’ufficio per l’IA, ha lavorato a una serie di domande per le società che hanno sviluppato i modelli coinvolti; nel corso della riunione avrebbe presentato alla Commissione raccomandazioni sui rischi per la sicurezza dell’IA di frontiera (Commissione europea). Il comunicato non nomina modelli né società, e a oggi non risultano pubblicati esiti o raccomandazioni (Commissione europea). Si può invece esaminare il quadro normativo, i cui poteri di esecuzione verso i fornitori di modelli sono esercitabili dal 2 agosto 2026. Un episodio di perdita di controllo non trova l’AI Act impreparato: trova una procedura già scritta, con soggetti, termini e poteri definiti.
La perdita di controllo nell’AI Act: un rischio sistemico dei modelli per finalità generali
Il regolamento (UE) 2024/1689 non usa l’espressione «perdita di controllo»: il considerando 110 richiama soltanto gli «involontari problemi di controllo relativi all’allineamento con l’intento umano» tra i rischi segnalati dagli approcci internazionali. La nozione di riferimento è il «rischio sistemico» dell’articolo 3, punto 65: un rischio specifico per le capacità di impatto elevato dei modelli di IA per finalità generali, con effetti negativi sulla salute pubblica, la sicurezza, i diritti fondamentali o la società, «che può propagarsi su larga scala lungo l’intera catena del valore» (EUR-Lex). La Commissione include espressamente la perdita di controllo tra i rischi di danno su larga scala che i fornitori dei modelli più avanzati devono affrontare, accanto, tra gli altri, all’offensiva informatica (Commissione europea).
La definizione operativa sta nel capitolo «Safety and Security» del codice di buone pratiche per i modelli di IA per finalità generali, che la include tra i rischi sistemici specificati di cui i firmatari devono tenere conto: rischi derivanti dalla perdita, da parte delle persone, della capacità di «dirigere, modificare o spegnere in modo affidabile un modello» (nostra traduzione) (Commissione europea). Il raccordo con l’articolato passa per l’«incidente grave» dell’articolo 3, punto 49, riferito però a un sistema di IA e alle sue conseguenze: decesso o gravi danni alla salute, perturbazione grave e irreversibile di infrastrutture critiche, violazione di obblighi a tutela dei diritti fondamentali, gravi danni alle cose o all’ambiente. Non ogni episodio di perdita di controllo è, per ciò solo, un incidente grave: lo diventa, riteniamo, quando conduce direttamente o indirettamente a una di quelle conseguenze.
Gruppo di esperti scientifici e ufficio per l’IA: dalla segnalazione qualificata all’intervento
L’articolo 68 affida alla Commissione l’istituzione, con atto di esecuzione, di un gruppo di esperti scientifici indipendenti «inteso a sostenere le attività di esecuzione» del regolamento. L’atto è il regolamento di esecuzione (UE) 2025/454, che fissa in 60 il numero massimo di componenti, nominati per due anni rinnovabili, indipendenti da qualsiasi fornitore di sistemi o modelli di IA e tenuti a dichiarazioni di interessi pubbliche (EUR-Lex). Lo strumento principale è la «segnalazione qualificata» dell’articolo 90, ammessa quando il gruppo abbia motivo di sospettare che un modello presenti «un rischio concreto identificabile a livello dell’Unione» o soddisfi le condizioni dell’articolo 51. Occorre una decisione almeno a maggioranza semplice dei membri, e l’ufficio per l’IA deve trattare la segnalazione completa entro due settimane, avviando le misure degli articoli da 91 a 93 o chiudendola; con l’autorizzazione di almeno un terzo dei membri il gruppo può anche chiedere che la Commissione rivolga una richiesta di informazioni al fornitore (articolo 91, paragrafo 3). Il comunicato del 9 ottobre non indica su quale base siano state preparate le domande alle società. La segnalazione qualificata è un’allerta tecnica che obbliga l’ufficio a decidere, non un accertamento di violazione.
L’articolo 88 attribuisce alla Commissione competenza esclusiva sulla vigilanza e l’esecuzione degli obblighi dei fornitori di modelli, affidata all’ufficio per l’IA. La Commissione può chiedere la documentazione degli articoli 53 e 55 (articolo 91); l’ufficio può valutare il modello «per indagare sui rischi sistemici a livello dell’Unione», anche con esperti del gruppo (articolo 92); la Commissione può poi chiedere misure di attenuazione, se la valutazione ha suscitato «un timore serio e comprovato» di rischio sistemico, oppure di limitare la messa a disposizione, ritirare o richiamare il modello (articolo 93). Gli impegni del fornitore possono essere resi vincolanti, e violazioni e inottemperanze sono sanzionabili fino al 3 per cento del fatturato mondiale annuo o a 15 milioni di euro, se superiore (articolo 101).
Il Digital Omnibus on AI, in vigore dal 27 luglio 2026, ha aggiunto un secondo binario. Il nuovo articolo 75 attribuisce all’ufficio per l’IA la competenza esclusiva sui sistemi di IA basati su modelli per finalità generali quando modello e sistema sono sviluppati dallo stesso fornitore o da fornitori della stessa impresa; gli articoli da 75 bis a 75 quinquies gli conferiscono i poteri di un’autorità di vigilanza del mercato, l’avvio di indagini, gli impegni vincolanti e la decisione di non conformità (EUR-Lex). Come osserva NicFab, si tratta di un modello procedurale mutuato dal diritto della concorrenza, mentre i deployer estranei all’impresa del fornitore restano soggetti al controllo nazionale (NicFab), che in Italia spetta alle autorità individuate dal d.lgs. 179/2026. Ne deriva che il modello si governa con la sezione 5 del capo IX, il sistema costruito sopra di esso con gli articoli 75 e seguenti.
Modelli con rischio sistemico: valutazione, attenuazione e notifica degli incidenti gravi
L’articolo 55, paragrafo 1, impone a questi fornitori di valutare i modelli secondo protocolli che rispecchino lo stato dell’arte, compreso il test contraddittorio; di valutare e attenuare i possibili rischi sistemici e le loro fonti; di tenere traccia, documentare e riferire «senza indebito ritardo» all’ufficio per l’IA le informazioni pertinenti su incidenti gravi ed eventuali misure correttive; di garantire un’adeguata cibersicurezza del modello e della sua infrastruttura fisica. Il paragrafo 2 consente di dimostrarne il rispetto aderendo a un codice di buone pratiche.
Il capitolo «Safety and Security», che la Commissione e il consiglio per l’IA hanno ritenuto strumento volontario adeguato (Commissione europea), scandisce quell’obbligo nel tempo: rapporto iniziale entro due giorni in caso di perturbazione grave e irreversibile di infrastrutture critiche, entro cinque in caso di grave violazione della cibersicurezza, compresa l'(auto)esfiltrazione dei pesi del modello, entro dieci in caso di decesso, entro quindici negli altri casi di incidente grave; poi rapporti intermedi almeno ogni quattro settimane e un rapporto finale entro 60 giorni dalla risoluzione. La segnalazione, precisa il codice, non equivale ad ammissione di responsabilità. Il codice non aggiunge obblighi al regolamento, ma rende verificabile il modo in cui li si adempie; chi non vi aderisce deve dimostrare mezzi alternativi adeguati.
Fornitori a valle e deployer: che cosa cambia per chi integra i modelli
L’AI Act definisce «fornitore a valle» chi integra un modello di IA, proprio o di terzi, in un proprio sistema (articolo 3, punto 68). L’articolo 53, paragrafo 1, lettera b), obbliga il fornitore del modello a mettere a disposizione informazioni che consentano di avere «una buona comprensione delle capacità e dei limiti» del modello. Il codice impegna i firmatari a facilitare le segnalazioni di incidenti gravi da parte di fornitori a valle, utilizzatori e terzi, indicando i canali diretti disponibili. L’articolo 89, paragrafo 2, riconosce ai fornitori a valle il diritto di presentare un reclamo, per il quale la Commissione ha attivato un canale dedicato. Chi poi destina il sistema a un impiego ad alto rischio assume gli obblighi del fornitore di un sistema ad alto rischio, come abbiamo esaminato a proposito di imputabilità e responsabilità nella catena del valore dell’IA.
Per i deployer, gli obblighi di monitoraggio e di comunicazione degli incidenti gravi dell’articolo 26, paragrafo 5, riguardano i sistemi ad alto rischio, le cui regole si applicano in larga parte dal 2 dicembre 2027 (Commissione europea). Riteniamo però che l’interesse a conoscere un incidente sul modello sottostante non attenda quella data: le clausole contrattuali su flussi informativi, versioni del modello e sospensione del servizio sono oggi il presidio più concreto. Va nella stessa direzione l’indicazione di NicFab secondo cui, quando la sequenza automatica è più rapida della possibilità di intervento, il controllo umano va collocato prima dell’azione rilevante (NicFab). Nel settore finanziario le autorità hanno già chiesto ai consigli di valutare l’esposizione ai rischi informatici dei modelli di frontiera, come ricordato a proposito dell’intelligenza artificiale di frontiera in consiglio di amministrazione.
Profili critici: trasparenza, definizioni e tempi della procedura
Il primo profilo riguarda la trasparenza: il regolamento di esecuzione prevede la pubblicazione dei pareri e delle raccomandazioni del gruppo, salvo che ne derivi la divulgazione di informazioni commerciali riservate, segreti commerciali o interessi strategici dell’Unione. L’eccezione è comprensibile, ma se modelli e società restano anonimi la riservatezza rischia di sottrarre ai fornitori a valle proprio l’informazione che servirebbe loro.
Il secondo profilo è definitorio: la perdita di controllo è definita da un codice volontario e da un considerando, non dall’articolato, e l’incidente grave è definito per i sistemi, mentre l’obbligo di segnalazione dell’articolo 55 grava sui modelli. Riteniamo che la saldatura regga, ma è affidata alla prassi dell’ufficio per l’IA.
Il terzo profilo riguarda i tempi: il codice misura le segnalazioni in giorni, la catena che va dall’allerta alla misura è più lunga, e l’articolo 93 subordina le misure di attenuazione a un timore «serio e comprovato». È una garanzia per i fornitori che rende la tempestività una questione di risorse più che di poteri. Sulla sostenibilità istituzionale dell’apparato di vigilanza si sofferma anche l’analisi di NicFab. Il comunicato, infine, non autorizza conclusioni sulla gravità degli episodi: parla di indagine, non di accertamenti.
Conclusioni
Ai fornitori di modelli con rischio sistemico spetta valutare e attenuare la perdita di controllo, documentare gli incidenti e segnalarli all’ufficio per l’IA nei termini che il codice rende verificabili; al gruppo di esperti scientifici l’allerta, all’ufficio per l’IA la decisione sulle misure. Mancano, per ora, gli esiti della riunione del 9 ottobre e una definizione normativa della perdita di controllo. A chi integra quei modelli conviene ottenere la documentazione dell’articolo 53, concordare canali e tempi di informazione sugli incidenti e collocare il controllo umano prima delle azioni irreversibili: l’AI Act distribuisce la gestione del rischio lungo la catena del valore, e ciascun anello risponde della propria parte.
Autore: Valentina Grazia Sapuppo
