ISO 42001: imparare a valutare l’impatto dell’AI sulle persone

Dai risultati alle conseguenze sulle persone

Un progetto di intelligenza artificiale viene spesso presentato attraverso tre indicatori: tempo risparmiato, riduzione dei costi e qualità del risultato. Sono informazioni utili per decidere un investimento, ma lasciano aperta una domanda: quali conseguenze produce il sistema sulle persone che entrano nel processo? È una domanda che merita spazio nella formazione di chi propone, acquista e utilizza l’AI.

Il riferimento confermato è ISO/IEC 42001:2023, standard per i sistemi di gestione dell’intelligenza artificiale, applicabile alle organizzazioni che sviluppano, forniscono o utilizzano prodotti e servizi basati sull’AI. ISO ne presenta l’impostazione come un percorso strutturato di governo dei rischi e delle opportunità. [1]

A questo quadro si affianca ISO/IEC 42005:2025, pubblicata il 28 maggio 2025. Secondo le schede ufficiali ISO e IEC, la guida riguarda la valutazione degli impatti dei sistemi AI su persone e società, la documentazione delle valutazioni e il loro inserimento nel ciclo di vita e nella gestione aziendale. Non si tratta quindi di un nuovo standard pubblicato oggi. [2] [3]

Un laboratorio sul processo reale

La proposta formativa di DM Web Solution è dedicare un laboratorio a un caso d’uso reale, descritto senza informazioni personali superflue. Per esempio: un assistente suggerisce l’ordine con cui trattare le richieste dei clienti. Prima di discutere algoritmi e prestazioni, il gruppo ricostruisce il processo: chi invia le richieste, quali informazioni vengono utilizzate, chi legge il suggerimento e chi assume la decisione.

Il passaggio successivo consiste nel cambiare punto di osservazione. Per l’impresa, un errore può significare ritardo, costo o reclamo. Per il cliente, può significare attendere più a lungo per un’esigenza urgente. Per l’operatore, può significare dover spiegare una priorità che non comprende. Queste prospettive possono sovrapporsi, ma aiutano a individuare conseguenze che una valutazione soltanto economica potrebbe trascurare.

Durante l’esercitazione, i partecipanti descrivono scenari verificabili. Una richiesta scritta in modo poco chiaro viene sistematicamente penalizzata? La scarsità di informazioni viene interpretata come scarsa importanza? Il personale tende ad accettare il suggerimento per velocizzare il lavoro? L’obiettivo è formulare ipotesi da controllare, mantenendo distinta una possibilità ragionevole da un problema già osservato.

Dalle conseguenze alle misure

Il gruppo passa poi dalle conseguenze alle misure. Se il sistema può abbassare impropriamente una priorità, si può prevedere una revisione dei casi dubbi. Se il suggerimento è difficile da comprendere, l’interfaccia può mostrare gli elementi utilizzati. Se un dato essenziale manca, il processo può richiederne l’integrazione. Ogni misura deve indicare chi la attua e quale evidenza permette di valutarne l’efficacia.

Un punto delicato è la supervisione umana. Scrivere che “l’operatore controlla” lascia irrisolti molti aspetti: dispone del tempo necessario? Può modificare l’esito? Conosce i limiti del sistema? Sa come segnalare un comportamento ricorrente? Nel laboratorio conviene simulare una decisione contestata e verificare se il percorso di revisione funziona anche sotto pressione operativa.

La documentazione prodotta dovrebbe essere breve e riutilizzabile. Per ciascuno scenario possiamo registrare soggetti coinvolti, conseguenza possibile, evidenze disponibili, misura prevista, responsabile e condizione di riesame. Questa è una proposta di lavoro, non un modulo ufficiale ISO. Il vantaggio è poter aggiornare il ragionamento quando cambiano dati, popolazione interessata o utilizzo del sistema.

Valutare l’apprendimento e decidere

La verifica dell’apprendimento può consistere nella discussione di un caso nuovo. I partecipanti devono individuare chi potrebbe subire conseguenze, spiegare quali informazioni mancano e proporre una misura controllabile. Il docente valuta la qualità del ragionamento e la chiarezza delle responsabilità, evitando di premiare soltanto la familiarità con le sigle.

Per la direzione, il risultato utile è una decisione motivata sul caso d’uso: procedere con condizioni definite, modificare il processo oppure raccogliere ulteriori evidenze. La formazione diventa così parte del governo aziendale. Il suo valore si misura nella capacità delle persone di riconoscere un impatto, discuterlo con gli interlocutori corretti e trasformarlo in un’azione verificabile.