AI Act e formazione: cosa devono sapere le persone che utilizzano l’intelligenza artificiale in azienda
L’AI Act non riguarda soltanto chi sviluppa sistemi di intelligenza artificiale. Riguarda anche le imprese che li utilizzano.
Dagli assistenti generativi impiegati negli uffici ai sistemi di visione installati sulle linee produttive, dagli algoritmi utilizzati per analizzare dati industriali agli strumenti che supportano manutenzione, qualità, progettazione e gestione delle risorse umane, l’intelligenza artificiale sta entrando in un numero crescente di processi aziendali.
Con questa diffusione cresce anche la necessità di sapere come utilizzare l’AI in modo consapevole, controllabile e coerente con il quadro normativo europeo.
L’articolo 4 dell’AI Act introduce infatti il principio di AI literacy, cioè l’alfabetizzazione sull’intelligenza artificiale. Provider e deployer di sistemi AI devono adottare misure per sviluppare le competenze del personale e delle altre persone che utilizzano tali sistemi per loro conto, tenendo conto delle conoscenze tecniche, dell’esperienza, della formazione e soprattutto del contesto nel quale l’AI viene utilizzata.
Cosa significa AI literacy in un’azienda industriale
Non significa necessariamente trasformare ogni lavoratore in uno specialista di machine learning.
Significa fare in modo che chi utilizza un sistema AI sappia almeno comprendere:
- che cosa sta utilizzando e con quale finalità;
- quali attività possono essere affidate al sistema e quali richiedono una valutazione umana;
- quali sono i principali limiti dell’AI;
- perché un output può essere incompleto, inesatto o distorto;
- quali informazioni possono o non possono essere inserite in uno strumento AI;
- quali rischi possono riguardare dati personali, proprietà intellettuale e informazioni aziendali riservate;
- quando un risultato prodotto dall’AI deve essere verificato;
- come segnalare anomalie o utilizzi impropri;
- quali regole interne disciplinano l’utilizzo dei sistemi AI.
La formazione deve quindi essere collegata agli strumenti realmente utilizzati e alle responsabilità delle diverse persone.
Non tutte le persone hanno bisogno della stessa formazione
L’approccio più coerente con l’AI Act è quindi una formazione differenziata.
Un dipendente che utilizza occasionalmente un assistente generativo ha esigenze diverse da quelle di un tecnico che supervisiona un sistema di computer vision sulla linea.
Allo stesso modo, IT, responsabili AI, HR e management hanno bisogno di conoscere aspetti di governance che possono non essere necessari all’utilizzatore occasionale.
Per i sistemi classificati ad alto rischio il tema della competenza diventa ancora più specifico: l’AI Act prevede che la sorveglianza umana sia affidata a persone dotate delle necessarie competenze, formazione, autorità e supporto.
AI negli uffici: dalla GenAI all’automazione dei processi
Per molti lavoratori il primo contatto con l’AI avviene attraverso strumenti di AI generativa.
Marketing, vendite, amministrazione, acquisti, risorse umane, ufficio tecnico e management possono già utilizzare sistemi per generare testi, sintetizzare documenti, analizzare informazioni, preparare presentazioni, scrivere codice o supportare attività decisionali.
In questi casi la formazione deve affrontare temi concreti: attendibilità degli output, hallucination, verifica delle fonti, gestione dei dati aziendali, copyright, dati personali, utilizzo di account aziendali e strumenti autorizzati.
AI in progettazione e ricerca e sviluppo
Anche gli ambienti CAD, CAE, PLM e di simulazione stanno integrando funzionalità basate sull’intelligenza artificiale.
L’AI può supportare generative design, ottimizzazione geometrica, ricerca delle informazioni, automazione di attività ripetitive e analisi dei dati di prodotto.
In questi contesti l’AI literacy deve comprendere anche il rapporto tra suggerimento algoritmico e responsabilità progettuale: il fatto che una soluzione sia stata generata o proposta da un algoritmo non elimina la necessità di verificarne correttezza, sicurezza e conformità ai requisiti di progetto.
AI in produzione
In fabbrica l’intelligenza artificiale può essere utilizzata per controllo qualità, computer vision, ottimizzazione dei parametri di processo, manutenzione predittiva, robotica, analisi delle anomalie e supporto agli operatori.
L’output di un sistema AI può infatti influenzare una decisione operativa, un controllo su un componente, una regolazione di processo o l’interazione tra persona e macchina.
La formazione deve quindi comprendere procedure di escalation, controllo umano, gestione delle anomalie e conoscenza dei limiti operativi del sistema.
AI Act nell’industria: dalla compliance alla capacità di utilizzare meglio l’AI
L’AI literacy può avere anche un effetto operativo.
Un lavoratore che conosce capacità e limiti di un sistema utilizza meglio lo strumento, riconosce più facilmente un output anomalo e sa quando è necessario coinvolgere una persona con competenze superiori.
La formazione diventa quindi una componente della governance dell’intelligenza artificiale e, contemporaneamente, del processo di adozione tecnologica.
In questa sezione Smart Notizie raccoglie approfondimenti dedicati all’AI Act applicato all’industria, alla formazione e all’utilizzo dell’intelligenza artificiale negli uffici, nella progettazione e nei reparti produttivi.
