5 verità sull’Intelligenza Artificiale a scuola che stanno cambiando tutto

Introduzione: il paradosso della spiegazione

Ogni giorno utilizziamo software incredibilmente complessi. Apriamo un programma di fotoritocco e, con un clic, rimuoviamo lo sfondo da un’immagine. Usiamo un’app di navigazione per trovare il percorso più veloce attraverso il traffico di punta. Non chiediamo mai a questi strumenti di spiegarci come ci riescono; ci fidiamo che funzionino.

Perché, allora, quando si tratta di IA, soprattutto a scuola, la richiesta di una “spiegazione” diventa improvvisamente fondamentale? Un recente rapporto dell’European Digital Education Hub offre alcune risposte sorprendenti e cruciali. Abbiamo distillato le cinque verità più impattanti che ogni genitore, insegnante e studente dovrebbe conoscere.

1. Perché l’IA non è come Photoshop: la necessità di una spiegazione

La ragione per cui chiediamo spiegazioni all’IA, e non al software tradizionale, risiede in una differenza fondamentale nel loro funzionamento. Un programma standard, come un editor di testi o un foglio di calcolo, segue una serie fissa di comandi scritti da un essere umano. Fa quello che gli è stato detto di fare, né più né meno. I sistemi di intelligenza artificiale, invece, sono progettati per operare con autonomia e adattabilità.

La legge europea sull’IA (l’AI Act) li definisce in modo molto preciso:

«Sistema di IA»: un sistema automatizzato progettato per funzionare con livelli di autonomia variabili e che può presentare adattabilità dopo la diffusione e che, per obiettivi espliciti o impliciti, deduce dall’input che riceve come generare output quali previsioni, contenuti, raccomandazioni o decisioni che possono influenzare ambienti fisici o virtuali;

Da questa definizione emergono due concetti chiave che cambiano tutto. Primo, i sistemi di IA operano con autonomia e adattabilità, svolgendo compiti che prima erano esclusiva degli esseri umani. Secondo, i loro output (previsioni, raccomandazioni, decisioni) sono complessi e non sempre facili da comprendere.

Questo crea due rischi principali che rendono la spiegazione non solo desiderabile, ma necessaria:

• Il rischio di compromettere l’agenzia umana (l’IA prende decisioni al nostro posto): l’IA potrebbe influenzare il percorso formativo di uno studente in modi che non comprendiamo appieno.
• Il rischio di imprecisione: a differenza di un software che funziona o non funziona, i risultati di un sistema di IA potrebbero essere semplicemente imprecisi. Per gli utenti abituati alla certezza del software tradizionale, questo è uno scenario completamente nuovo che richiede cautela e verifica.

2. Non tutta l’IA è una ‘scatola nera’ misteriosa

L’idea che ogni intelligenza artificiale sia un’imperscrutabile “scatola nera” è una semplificazione eccessiva. Esistono due approcci tecnici principali all’IA, e la loro differenza è cruciale per capire da dove può arrivare una spiegazione.

• IA basata sulla conoscenza (Knowledge-based): questo approccio funziona sulla base di conoscenze e regole logiche codificate da esseri umani. Immaginate un sistema diagnostico che segue una serie di regole “se-allora”. Ottenere una spiegazione da questo tipo di IA è relativamente semplice: è come ripercorrere la logica di un programma standard per capire perché ha prodotto un certo risultato.
• IA basata sui dati (Data-driven): questo è l’approccio che include il machine learning e l’IA generativa. Invece di seguire regole esplicite, questi sistemi “imparano” analizzando enormi quantità di dati. Il risultato del loro apprendimento è un modello complesso definito da milioni di parametri numerici. Spiegare una decisione basata sull’interazione di tutti questi numeri è molto, molto più difficile.

Questa distinzione è fondamentale. Per settori critici come l’istruzione, alcune istituzioni potrebbero preferire un sistema di IA basato sulla conoscenza, più trasparente e facile da spiegare, anche se leggermente meno potente di un modello basato sui dati. Quando la posta in gioco è la valutazione di uno studente, la fiducia e la chiarezza possono valere più della performance pura. Questa distinzione tecnica è fondamentale, ma racconta solo metà della storia. Sapere se un’IA si basa su regole o su dati non risponde alla domanda più importante: un essere umano può davvero comprendere la sua spiegazione? È qui che l’obiettivo si sposta da una proprietà tecnica a una necessità umana.

3. “Spiegabile” non basta: l’obiettivo è la “comprensibilità” per l’essere umano

Nel mondo dell’IA spiegabile (XAI), ci sono quattro concetti fondamentali che si dividono in due dimensioni.

• Dimensione Tecnica: include la trasparenza (rendere disponibili le informazioni sul sistema) e l’ interpretabilità (la facilità con cui un esperto può capire come funziona un modello). Queste sono proprietà intrinseche del sistema.
• Dimensione Umana: include la spiegabilità (la capacità attiva del sistema di chiarire il suo funzionamento) e la comprensibilità (il grado in cui un utente umano capisce quella spiegazione). Queste riguardano l’interazione con l’utente finale.

Qui sta la verità più importante. Un sistema “spiegabile” è in grado di parlare, ma un sistema “comprensibile” garantisce che qualcuno stia davvero ascoltando e capendo. La prova del nove non è ciò che la macchina può produrre, ma ciò che l’essere umano può interiorizzare. Come la definisce il rapporto:

“Il grado in cui le informazioni fornite possono avere senso per le conoscenze specifiche del pubblico di destinazione”

Una spiegazione tecnicamente perfetta ma incomprensibile per chi deve usarla è, in pratica, inutile. L’obiettivo non è che l’IA possa “spiegarsi”, ma che gli esseri umani possano “comprenderla”. Questo focus sulla comprensione umana non è un semplice ideale accademico. Come vedremo, la legge europea sta trasformando questa necessità etica in un requisito legale per molti degli strumenti utilizzati nelle nostre scuole.

4. Lo strumento di IA di tuo figlio è probabilmente classificato “ad alto rischio” dalla legge

La necessità di spiegazioni non è solo una questione tecnica o etica; è sempre più un obbligo di legge. L’AI Act dell’Unione Europea introduce un sistema di classificazione basato sul rischio, e la notizia più scioccante per il mondo della scuola è questa: molti strumenti di IA usati oggi nelle aule rientrano nella categoria più alta.

Secondo la legge, i sistemi di IA utilizzati in ambito educativo per due scopi specifici sono automaticamente classificati come “ad alto rischio”:

1. sistemi che determinano l’accesso agli istituti di istruzione e formazione professionale
2. sistemi destinati a valutare i risultati dell’apprendimento o le ammissioni

Cosa significa in pratica questa classificazione per le scuole e gli sviluppatori?

• Impone misure di trasparenza rigorose.
• Richiede l’implementazione di una sorveglianza umana efficace, assicurando che una persona possa sempre supervisionare e, se necessario, annullare le decisioni della macchina.
• Conferisce agli utenti il diritto legale a una spiegazione per le decisioni che li riguardano.

Questo cambia completamente le carte in tavola. La spiegabilità nell’istruzione non è più una funzionalità opzionale. Per molte delle applicazioni più comuni — dalla valutazione automatizzata dei compiti ai sistemi di tutoraggio adattivo — è un obbligo legale ed etico. Questi obblighi legali possono sembrare astratti, ma hanno conseguenze profonde e reali quando vengono ignorati. Per capire la posta in gioco, basta considerare la storia di uno studente.

5. L’occhio anti-plagio dell’IA può essere pericolosamente miope

Per capire perché tutto questo è così importante, basta guardare a un caso reale citato nel rapporto. Emil è uno studente di 16 anni che si è visto bocciare un importante compito di storia. Il motivo? Uno strumento di rilevamento dei contenuti basato sull’IA aveva segnalato il suo elaborato come “probabilmente generato da una macchina”.

Il problema di fondo è che questi strumenti non sono infallibili. Sono probabilistici e possono commettere errori, noti come “falsi positivi”, con conseguenze devastanti per la carriera accademica e il benessere emotivo di uno studente.

Proprio per questo, il rapporto lancia un avvertimento cruciale, legando il loro “elevato tasso di errore” alla conclusione che il loro impiego in ambito scolastico dovrebbe essere sottoposto a un attento controllo umano o, addirittura, “evitato del tutto”.

La storia di Emil è un potente monito: nella fretta di adottare l’IA per risolvere problemi come il plagio, rischiamo di crearne di nuovi e potenzialmente più dannosi se non pretendiamo trasparenza e non manteniamo il giudizio umano al centro del processo.

Conclusione: l’IA è la risposta, ma qual era la domanda?

Le cinque verità emerse da questo rapporto convergono su un unico, potente messaggio: l’IA spiegabile non è una caratteristica tecnica per addetti ai lavori, ma un requisito fondamentale per costruire fiducia, garantire equità e preservare l’autonomia umana nel campo dell’istruzione. È il ponte tra la promessa tecnologica e la responsabilità pedagogica.

Mentre integriamo questi potenti strumenti nelle nostre aule, la domanda più importante che dobbiamo porci non è solo cosa l’IA può fare, ma come pensa, e se le sue ragioni sono abbastanza buone per il futuro dei nostri studenti.

L’IA “spiegabile” nell’istruzione: promuovere la sorveglianza umana e la responsabilità condivisa – European Digital Education Hub ,Gruppo di lavoro sull’IA spiegabile nell’istruzione.