Quando si parla di formazione sull’intelligenza artificiale, l’attenzione viene spesso concentrata sulla GenAI.
Nel manifatturiero, però, il panorama è molto più ampio.
L’AI può essere presente nei sistemi di visione, nelle applicazioni di predictive maintenance, negli strumenti per l’ottimizzazione dei processi, nella robotica, nei software di progettazione e nei sistemi che suggeriscono all’operatore azioni da intraprendere.
Questo rende particolarmente importante uno dei principi dell’AI Act: la preparazione delle persone deve essere collegata al contesto nel quale il sistema viene utilizzato.
Un errore in un chatbot e un errore sulla linea non hanno lo stesso impatto
Un impiegato può utilizzare un sistema generativo per predisporre una prima versione di una relazione.
Se l’AI produce un dato inesatto, il controllo umano può intercettarlo prima della pubblicazione.
In un sistema di computer vision destinato al controllo qualità, invece, un errore può determinare la classificazione non corretta di un componente.
In un’applicazione per la manutenzione predittiva potrebbe modificare la valutazione relativa allo stato di una macchina.
In un sistema utilizzato per supportare una decisione con conseguenze su persone, sicurezza o diritti, le implicazioni possono diventare ancora più significative.
Il concetto di AI literacy deve quindi essere letto anche come capacità di comprendere le conseguenze dell’output prodotto dal sistema.
Produzione: capire quando non fidarsi dell’algoritmo
Uno dei fenomeni richiamati direttamente dall’AI Act per i sistemi ad alto rischio è l’automation bias, cioè la tendenza delle persone a fare eccessivo affidamento su una raccomandazione prodotta automaticamente.
La sorveglianza umana deve permettere di comprendere capacità e limiti del sistema, interpretarne correttamente l’output e, quando necessario, ignorarlo, modificarlo o interrompere il funzionamento del sistema.
È un principio che, anche al di fuori delle applicazioni classificate ad alto rischio, offre una buona indicazione per progettare la formazione industriale.
Il lavoratore non deve soltanto sapere quale pulsante premere.
Deve sapere quando il comportamento del sistema non è coerente con quello atteso.
Ufficio tecnico: l’AI propone, il progettista verifica
Lo stesso principio riguarda progettazione e ricerca e sviluppo.
Generative design, assistenti integrati nei CAD, strumenti di simulazione supportati dall’AI e sistemi di ricerca semantica permettono di velocizzare molte attività.
Ma l’output dell’algoritmo rimane un input all’interno di un processo di progettazione.
La formazione dovrebbe quindi comprendere temi quali qualità dei dati, attendibilità del risultato, verifica tecnica, gestione delle informazioni proprietarie e responsabilità sulla decisione finale.
Costruire percorsi diversi per persone diverse
Un modello di formazione industriale può partire da un modulo comune e svilupparsi successivamente per ruolo:
uffici e GenAI, progettazione e R&D, produzione e manutenzione, IT/OT e cybersecurity, HR, responsabili di funzione e figure incaricate della supervisione dei sistemi.
Nel caso dei sistemi AI ad alto rischio l’AI Act è particolarmente esplicito: chi esercita la sorveglianza umana deve disporre di competenza, formazione, autorità e supporto necessari.
È quindi difficile immaginare una formazione sull’AI completamente indistinta per tutta l’organizzazione.
Per approfondire come organizzare l’AI literacy nei differenti reparti: AI Act e formazione per industria, uffici e produzione.
