L’introduzione dell’IA comporta diversi rischi che devono essere attentamente valutati e mitigati. Le Linee Guida propongono un approccio graduale e gerarchico per la mitigazione:

• rischi: violazioni della privacy, errori sistemici, discriminazioni (bias), malfunzionamenti tecnici, opacità dei processi decisionali, uso improprio degli strumenti, dipendenza eccessiva dalla tecnologia, isolamento sociale. I sistemi IA ad alto rischio (es. per valutazione dell’apprendimento o ammissione) possono influire profondamente sul percorso di vita dello studente.
• azioni di mitigazione protezione dei dati: misure di sicurezza, privacy by design e by default, limiti all’accesso e all’uso dei dati, utilizzo di dati sintetici.
• programmi di manutenzione: aggiornamenti software/hardware, monitoraggio delle reti, backup dei dati, test di compatibilità, formazione tecnica del personale.
• progettazione etica degli algoritmi: auditing dei dati di addestramento per correggere bias, test regolari per equità, monitoraggio continuo e normalizzazione dei dati.
• migliore comprensione dell’IA: adozione di tecniche di spiegabilità per rendere i processi decisionali dell’IA chiari e comprensibili agli utenti.
• formazione continua: per tutto il personale e gli studenti sull’uso responsabile, etico e sicuro dell’IA, inclusa l’identificazione e mitigazione dei bias.
• integrazione di sistemi ibridi: mantenimento della centralità dell’intervento umano, combinando l’automazione delle attività ripetitive con l’interazione diretta tra docenti e studenti.
• interazione sociale: bilanciare l’uso dell’IA con momenti di apprendimento sociale e attività collaborative per contrastare l’isolamento e sviluppare competenze interpersonali.
• promozione del dialogo e del coinvolgimento: comunicazione chiara e trasparente con tutti gli stakeholder.