Ogni sistema di intelligenza artificiale (IA) restituisce risultati sulla base di criteri stabiliti da esseri umani. Questo contributo ricostruisce chi definisce quei criteri, quali regole e standard tecnici li disciplinano e in che modo se ne può verificare il rispetto.
La responsabilità umana dietro le decisioni automatiche
Un sistema di IA non “pensa” nel senso in cui pensa una persona: elabora grandi quantità di dati e individua correlazioni. I criteri con cui seleziona, pondera e restituisce un risultato derivano però da decisioni umane. Qualcuno stabilisce quali dati usare per l’addestramento, quali obiettivi ottimizzare e quali errori considerare accettabili. Anche un calcolo statistico riflette, così, priorità e ipotesi definite a monte.
A questo si collega il tema del bias, la distorsione sistematica. Quando i dati storici usati per l’addestramento riflettono disuguaglianze o pregiudizi, il modello tende a riprodurli, talvolta amplificandoli, con un’apparenza di oggettività che li rende più difficili da riconoscere. Un sistema che seleziona curriculum, valuta l’affidabilità creditizia o affianca una diagnosi non è più imparziale dei dati e delle scelte che lo hanno definito. La responsabilità delle decisioni automatiche resta, in ultima analisi, umana e individuabile.
Le regole europee: trasparenza e sorveglianza umana
Per anni l’etica dell’IA è rimasta un insieme di principi generali, come equità, trasparenza e responsabilità. Con il regolamento europeo sull’intelligenza artificiale (AI Act), il Regolamento (UE) 2024/1689 del 13 giugno 2024, l’Unione europea ha dato a quei principi una forma giuridica. È il primo quadro normativo organico dedicato all’IA e adotta un approccio basato sul rischio: maggiore è l’incidenza potenziale di un sistema sui diritti e sulla sicurezza delle persone, più stringenti sono gli obblighi.
Due previsioni riguardano direttamente il tema. La trasparenza (articolo 13) richiede che i sistemi ad alto rischio funzionino in modo sufficientemente comprensibile, perché chi li utilizza possa interpretarne i risultati. La sorveglianza umana (articolo 14) impone che tali sistemi siano progettati per poter essere effettivamente supervisionati da persone fisiche, in grado di coglierne limiti e anomalie e, se necessario, di intervenire.
Gli standard tecnici: dai principi alle pratiche verificabili
Le regole definiscono gli obiettivi; gli standard tecnici indicano come raggiungerli. Elaborati da organismi internazionali come l’Organizzazione internazionale per la normazione (ISO) e la Commissione elettrotecnica internazionale (IEC), non sono norme giuridiche, ma riferimenti condivisi che traducono principi astratti in procedure verificabili, spesso utilizzate dalle organizzazioni per dimostrare la conformità a quanto la normativa richiede.
Lo standard ISO/IEC 42001:2023 definisce i requisiti di un sistema di gestione dell’intelligenza artificiale: distribuzione dei ruoli, documentazione delle scelte, monitoraggio dei rischi lungo il ciclo di vita del sistema. Lo standard ISO/IEC 42005:2025 riguarda invece la valutazione d’impatto, ossia il metodo per analizzare come un sistema di IA possa incidere su individui, gruppi e società. Entrambi contribuiscono alla spiegabilità: documentare dati, criteri e responsabilità è ciò che rende una scelta automatica ricostruibile e, se necessario, contestabile.
Prospettive
L’AI Act è entrato in vigore nel 2024 e le sue disposizioni si applicano in modo scaglionato negli anni successivi, con obblighi progressivamente operativi per i sistemi ad alto rischio. Sul piano tecnico, gli standard a supporto del regolamento sono in larga parte ancora in elaborazione presso gli organismi europei e internazionali. Restano da definire, in particolare, i riferimenti armonizzati che collegheranno i requisiti giuridici alle specifiche tecniche, e le modalità con cui trasparenza, sorveglianza umana e gestione del rischio saranno verificate in concreto.
In dialogo con l’Agenda 2030
- Obiettivo 16: Pace, giustizia e istituzioni solide
- Obiettivo 9: Imprese, innovazione e infrastrutture
