Illustrazione di copertina: Dati sanitari e intelligenza artificiale: la rappresentatività per sesso tra ricerca clinica, EHDS e AI Act

Immagine creata con IAAI-generated image

Dati sanitari e intelligenza artificiale: la rappresentatività per sesso tra ricerca clinica, EHDS e AI Act

Il 30 settembre 2026 l’Agenzia europea per i medicinali (EMA) ha reso noti gli esiti dell’incontro multilaterale sulla salute delle donne svolto ad Amsterdam il 28 e il 29 settembre: i partecipanti hanno indicato dieci azioni prioritarie, che confluiranno in una tabella di marcia regolatoria e in un rapporto da pubblicare entro la fine del 2026 (EMA). Fra le azioni figurano un maggiore arruolamento delle donne nelle sperimentazioni cliniche con dati di alta qualità disaggregati per sesso, un’infrastruttura sostenibile per i dati del mondo reale (real-world data) e la formazione della rete regolatoria sulla valutazione sensibile al sesso e al genere; già il 2 luglio l’Agenzia aveva ricondotto la situazione anche a lacune nella comprensione delle differenze legate al sesso nella malattia e negli effetti dei trattamenti (EMA). Sperimentazioni e dati del mondo reale sono anche la materia prima dei sistemi di intelligenza artificiale in sanità, e il considerando 67 del regolamento (UE) 2024/1689, AI Act, avverte che le distorsioni intrinseche ai set di dati possono «perpetuare e amplificare le discriminazioni esistenti» (EUR-Lex). Verifichiamo dove le norme chiedono di misurare la rappresentatività per sesso dei dati e dove la lasciano all’interpretazione.

La ricerca clinica: le norme che nominano il sesso dei soggetti

Il regolamento (UE) n. 536/2014 sulla sperimentazione clinica dei medicinali enuncia il principio di rappresentatività nel considerando 14: salvo diversa disposizione motivata nel protocollo, i soggetti «dovrebbero essere rappresentativi dei gruppi della popolazione, ad esempio i gruppi per sesso ed età, che siano tra i possibili utilizzatori del medicinale oggetto della sperimentazione clinica». La regola vincolante sta negli allegati: il protocollo comprende «una giustificazione della scelta del genere e dell’età dei soggetti» e spiega i motivi dell’eventuale esclusione o sottorappresentazione di un gruppo (allegato I, punto 17, lettera y)); la sintesi dei risultati riporta «la ripartizione per gruppi di età e per genere» e include il genere fra le caratteristiche di base obbligatorie (allegato IV) (EUR-Lex).

Per i dispositivi medici, il regolamento (UE) 2017/745 chiede che la domanda di indagine clinica indichi «il numero e il sesso dei soggetti» e che il piano di indagine descriva «la rappresentatività della popolazione oggetto dell’indagine rispetto alla popolazione destinataria» (allegato XV, capo II, punti 1.11 e 3.6.3) (EUR-Lex). In Italia la legge 11 gennaio 2018, n. 3, ha delegato il Governo a riformare la sperimentazione clinica prevedendo, fra i criteri, «che la sperimentazione clinica dei medicinali sia svolta attraverso un’adeguata rappresentatività di genere» (articolo 1, comma 2, lettera h), numero 3)) e, all’articolo 3, un piano per diffondere pratiche che «nella ricerca, nella prevenzione, nella diagnosi e nella cura tengano conto delle differenze derivanti dal genere» (Gazzetta Ufficiale).

Fra le norme esaminate, solo quelle sulla ricerca clinica nominano espressamente il sesso dei soggetti. Il dato ha un seguito nello spazio europeo dei dati sanitari: l’articolo 51, paragrafo 1, lettera m), del regolamento (UE) 2025/327, EHDS, include fra le categorie per l’uso secondario i dati delle sperimentazioni e delle indagini cliniche, con applicazione dal 26 marzo 2031 (articolo 105) (EUR-Lex).

L’EHDS: il marchio di qualità e i metadati minimi delle serie di dati

Dell’EHDS abbiamo illustrato la distinzione tra uso primario, uso secondario e usi vietati; qui rileva l’articolo 78, di cui abbiamo esaminato anche il raccordo con l’AI Act per l’addestramento dei sistemi. Il marchio di qualità e di utilità dei dati, obbligatorio per le serie raccolte con finanziamenti pubblici dell’Unione o nazionali, riguarda, se del caso, i processi di gestione della qualità dei dati, «compresi processi di riesame e audit, ed esame delle distorsioni», e la valutazione della copertura: «periodo, copertura della popolazione e, se del caso, rappresentatività della popolazione campionata». La Commissione può modificare gli elementi del marchio con atti delegati e deve fissarne entro il 26 marzo 2027, con atti di esecuzione, le caratteristiche visive e le specifiche tecniche, tenendo conto delle prescrizioni dell’articolo 10 dell’AI Act (EUR-Lex). Alla data in cui scriviamo, la ricerca su EUR-Lex non restituisce atti di esecuzione sul marchio. Nessuno degli elementi elencati dall’articolo 78 nomina il sesso; nel testo italiano del regolamento la parola «sesso» non ricorre mai e «genere» compare una sola volta, nella locuzione «in genere».

Il regolamento di esecuzione (UE) 2026/2098 della Commissione, del 18 settembre 2026, pubblicato il 21 settembre e applicabile dal 26 marzo 2029, fissa i metadati minimi che i titolari devono fornire per descrivere le serie di dati: fra gli altri, il numero stimato di individui unici, la copertura geografica e temporale e una descrizione strutturata delle variabili con nome, definizione e tipo di dati. Nessun elemento riguarda la composizione della serie per sesso; l’articolo 1, paragrafo 3, consente ai titolari di fornire ulteriori metadati su base volontaria (EUR-Lex). A nostro avviso, dal catalogo risulterà se una serie registra il sesso, non come le persone vi siano distribuite: la composizione per sesso di una serie di dati sanitari non è un metadato obbligatorio. La sede naturale di questa informazione è la voce del marchio sulla rappresentatività della popolazione campionata. Poiché il considerando 54 riconosce la tensione fra serie di dati esaustive e rappresentative e diritto di esclusione dall’uso secondario (articolo 71), riteniamo che il marchio debba dar conto anche dell’effetto delle esclusioni sulla composizione della serie.

L’articolo 10 dell’AI Act: rappresentatività dei set di dati e gruppi di persone

L’articolo 10 dell’AI Act sottopone i set di dati di addestramento, convalida e prova dei sistemi ad alto rischio a pratiche di governance che comprendono «un esame atto a valutare le possibili distorsioni suscettibili di incidere sulla salute e sulla sicurezza delle persone», le misure per «individuare, prevenire e attenuare» tali distorsioni e l’individuazione di «lacune o carenze pertinenti nei dati» (paragrafo 2, lettere f), g) e h)). I set di dati devono essere «sufficientemente rappresentativi» e possedere «le proprietà statistiche appropriate anche, ove applicabile, per quanto riguarda le persone o i gruppi di persone» cui il sistema è destinato (paragrafo 3). Le istruzioni per l’uso indicano, ove opportuno, le prestazioni del sistema «per quanto riguarda le persone o i gruppi di persone specifici» cui è destinato (articolo 13, paragrafo 3, lettera b), punto v)) (EUR-Lex).

Il sesso non è nominato in queste disposizioni: il considerando 67 cita come esempio i gruppi razziali o etnici e il sesso compare soltanto a proposito dei sistemi biometrici (ad esempio nel considerando 16). Il criterio dell’articolo 10 è relativo alla finalità prevista, non a un elenco chiuso di caratteristiche. Per un sistema diagnostico destinato a donne e uomini, tuttavia, il sesso è fra i primi gruppi rispetto ai quali verificare le proprietà statistiche: a nostro avviso un esame delle distorsioni che non disaggrega i risultati per sesso difficilmente dimostra la rappresentatività richiesta. Le prestazioni distinte per sesso sono anche l’informazione che, attraverso le istruzioni per l’uso, consente alla struttura sanitaria deployer di valutare il sistema.

Il regolamento (UE) 2026/1744, Digital Omnibus sull’IA, ha soppresso il paragrafo 5 dell’articolo 10 e ne ha trasferito il contenuto nel nuovo articolo 4 bis: i fornitori possono eccezionalmente trattare categorie particolari di dati personali per rilevare e correggere le distorsioni, solo se ciò non è realizzabile «mediante il trattamento di altri dati, compresi i dati sintetici o anonimizzati»; il paragrafo 2 estende la facoltà ad altri fornitori e ai deployer, precisando che esso «non crea alcun obbligo di rilevare e correggere tali distorsioni» (EUR-Lex). Come osserva Nicola Fabiano (NicFab), la facoltà, collocata nel capo I, opera dall’entrata in vigore del regolamento modificativo, il 27 luglio 2026, prima dell’obbligo dell’articolo 10 cui è funzionale; la necessità del trattamento va motivata nei registri delle attività di trattamento (paragrafo 1, lettera f)). Se i dati sintetici siano davvero anonimi è questione che abbiamo esaminato per i gemelli digitali del paziente. Lo stesso regolamento fissa l’applicazione delle regole sui sistemi ad alto rischio al 2 dicembre 2027 per l’allegato III e al 2 agosto 2028 per l’allegato I, che nella sezione A comprende i regolamenti sui dispositivi medici e sui dispositivi medico-diagnostici in vitro soggetti a valutazione della conformità da parte di terzi (articolo 6, paragrafo 1).

Profili critici: testo delle norme, dispositivi medici, calendario e terminologia

Il primo profilo è testuale. Né l’articolo 10 dell’AI Act, né l’articolo 78 dell’EHDS, né il regolamento 2026/2098 nominano il sesso: la sua rilevanza discende dall’interpretazione del criterio dei «gruppi di persone» e, per il marchio, da atti di esecuzione non ancora adottati.

Il secondo riguarda i dispositivi medici. Il nuovo articolo 2, paragrafo 13, dell’AI Act consente di limitare, fra gli altri, gli obblighi degli articoli da 9 a 15 per i sistemi dell’articolo 6, paragrafo 1, se la normativa di armonizzazione dell’allegato I, sezione A, garantisce un livello di protezione equivalente o superiore, e impone alla Commissione di adottare i relativi atti delegati entro il 2 agosto 2027 (EUR-Lex). Il regolamento 2017/745 disciplina la rappresentatività della popolazione di un’indagine clinica, non quella dei set di dati di addestramento: a nostro avviso l’equivalenza rispetto all’articolo 10 non può prescindere dalla rappresentatività per sesso dei dati.

Il terzo è il calendario: obblighi per i sistemi dell’allegato I dal 2 agosto 2028; marchio di qualità e metadati minimi dal 26 marzo 2029, data da cui si applica il capo IV dell’EHDS sull’uso secondario (articolo 105; cfr. NicFab); dati delle sperimentazioni dal 26 marzo 2031. Le regole sulla ricerca clinica sono invece già vigenti.

Il quarto è terminologico. Il regolamento 536/2014 parla di gruppi «per sesso» nel considerando 14 e di «genere» negli allegati, la legge n. 3 del 2018 di «rappresentatività di genere»; l’ISS richiama la definizione dell’OMS, che distingue le differenze biologiche «(definite dal sesso)» da quelle socio-economiche e culturali «(definite dal genere)» (ISS). Una documentazione dei dati che non precisa quale delle due variabili registra non consente di verificarne la rappresentatività.

Conclusioni

Le regole sulla ricerca clinica impongono già di giustificare e documentare la composizione per sesso dei soggetti; l’EHDS e l’AI Act chiedono rappresentatività ed esame delle distorsioni senza nominare il sesso. Restano in capo ai promotori gli obblighi del regolamento 536/2014, ai titolari delle serie finanziate con fondi pubblici il marchio dell’articolo 78 e ai fornitori di sistemi ad alto rischio la governance dei dati e le istruzioni per l’uso; mancano gli atti di esecuzione sul marchio, gli atti delegati sulle limitazioni per i prodotti dell’allegato I e la tabella di marcia dell’EMA. Conviene che titolari dei dati e fornitori registrino sesso e genere come variabili distinte, descrivano la distribuzione per sesso fra i metadati volontari e nella documentazione della serie e riportino le metriche di prestazione disaggregate per sesso nella documentazione tecnica e nelle istruzioni per l’uso.

Autore: Valentina Grazia Sapuppo


AI AnthropoCosmic In evidenzaAI AnthropoCosmicUn progetto internazionale per un’IA a servizio dell’Uomo, dell’Ambiente e del Cosmo, che mette al centro la dignità della persona nella progettazione dei sistemi. Leggi l’articoloAI Open Mind AI AnthropoCosmic FeaturedAI AnthropoCosmicAn international project for an AI at the service of humanity, the environment and the cosmos, placing human dignity at the centre of system design. Read the articleAI Open Mind Agentic AI In evidenzaAgentic AILimiti prima dell’azione, evidenze durante, responsabilità dopo. Il volume di Nicola Fabiano sulla governance dei sistemi agentici, con la prefazione di Antonino Caffo.Capitolo 16 a cura dell’Avv. Valentina Grazia SapuppoLeggi l’articolo Agentic AI FeaturedAgentic AILimits before the action, evidence during, responsibility afterwards. Nicola Fabiano’s book on the governance of agentic systems, with a preface by Antonino Caffo.Chapter 16 by Valentina Grazia SapuppoRead the article
Intervista Radio Radio IntervistaLegge e colossi del digitaleIl patteggiamento di Meta sui minori non è una condanna. Stati Uniti ed Europa seguono strade opposte, e sugli agenti di IA resta aperta la domanda su chi risponde.Un Giorno Speciale su Radio Radio, con Alessio De Paolis · audio dal minuto 2:26:00Ascolta l’intervistaGuarda il videoLeggi l’articolo
Digital Omnibus ContributoIl Digital Omnibus cambia l’AI ActNuove scadenze per i sistemi ad alto rischio e un chiarimento sull’obbligo di AI literacy: più tempo per adeguarsi, nessuno sconto sulla preparazione di persone e processi.Articolo scritto per il blog di SkillaLeggi su Skilla
Digeat Festival 2026 SpeakerDigeat Festival 2026Valentina Grazia Sapuppo tra i relatori del festival dedicato a protezione dei dati, archivi digitali e regole del futuro. Interviene sul tema «Le regole dell’IA: nuove leggi o principi del diritto?».Venerdì 6 novembre 2026, ore 16:30, Ex Convitto Palmieri, LecceL’interventoLa scheda relatriceIl festival
AI AnthropoCosmic 2026AI AnthropoCosmic 2026Valentina Grazia Sapuppo nel progetto dell’Università Pontificia Salesiana su Persona, Ambiente e Cosmo: moderazione della sessione mattutina del Convegno finale e intervento negli AI Laboratori del Domani su commercio elettronico e IA.14 novembre 2026, online · 28 novembre 2026, Università Pontificia Salesiana, RomaIl convegnoL’incontroIl contributoIl comitato scientificoLa relatriceIl progetto
Interview Radio Radio InterviewLaw and the digital giantsThe Meta settlement on minors is not a conviction. The United States and Europe take opposite paths, and on AI agents the question of who answers remains open.Un Giorno Speciale on Radio Radio, with Alessio De Paolis · audio from 2:26:00 · in ItalianListen to the interviewWatch the videoRead the article
Digital Omnibus ContributionThe Digital Omnibus reshapes the AI ActNew deadlines for high-risk systems and a clarification on the AI literacy duty: more time to comply, no discount on preparing people and processes.Article written for the Skilla blog, in ItalianRead on Skilla
Digeat Festival 2026 SpeakerDigeat Festival 2026Valentina Grazia Sapuppo among the speakers of the festival on data protection, digital archives and the rules of the future. She takes part in the panel «The rules of AI: new laws or principles of law?».Friday 6 November 2026, 16:30, Ex Convitto Palmieri, LecceThe panelSpeaker profileThe festival
AI AnthropoCosmic 2026AI AnthropoCosmic 2026Valentina Grazia Sapuppo in the project of the Università Pontificia Salesiana on Person, Environment and Cosmos: moderator of the morning session of the closing conference and speaker at the AI Laboratori del Domani on e-commerce and AI.14 November 2026, online · 28 November 2026, Università Pontificia Salesiana, Rome · sessions held in ItalianThe conferenceThe sessionThe contributionThe scientific committeeSpeakerThe project