Mission impossible 9: prof vs. chatbot

Panoramica sui sistemi che cercano di dare un senso al sistema educativo nell'era della AI generativa. E una chicca su un topo peloso come un mammut.

Hello humans

il Lunch Break di oggi è dedicato a prof, studenti, famiglie e parla di una delle sfide più impossibili poste dall’AI generativa, quella che ogni giorno si trovano a combattere i sistemi educativi di tutto il mondo. Io sono Matteo Montan e questa è [humans/AI] e se volete saperne di più sulla newsletter e su di me trovate tutto nelle Info. E ora, andiamo!

Come avete letto ieri, dallo stato di New York alla California, dalla FDA alle associazioni qualcuno in America torna a porre la questione dei rischi di un’AI che cresce senza controllo nonostante per Trump/Vance questa non sia affatto una priorità.

Una questione molto meno sexy dei rischi catastrofici dell’AI (i cosiddetti CBRN risks: su questo vi rimando ad un lungo articolo che ho scritto per Il Foglio, è sotto paywall ma chi è interessato mi scriva rispondendo a questa mail e gliene mando un estratto) ma molto più immediata è quella che riguarda l’impatto dell’AI sulle nuove generazioni, ed in generale sul sistema educativo che se ne deve occupare (già nella ricerca di cui ho parlato ieri ne avete avuto un assaggio).

Per dare un’idea a chi è finalmente fuori dall’età scolare dei figli del pasticcio che già ora milioni di famiglie stanno vivendo, ho scelto un articolo di Axios che annuncia l’arrivo di una nuova piattaforma che promette di portare una tregua nella guerra di logoramento che da 2 anni si consuma silenziosamente nelle classi, nelle aule, nelle camerette e che vede schierati sui diversi fronti prof, studenti, genitori e chatbot.

Dall’avvento di ChatGPT, chi più chi meno, tutti i sistemi educativi del mondo hanno adottato qualche forma di difesa dall’AI generativa: alcuni l'hanno vietata completamente per scongiurare il rischio di un totale affidamento dei ragazzi ai bot, altri entro certi limiti l’hanno consentita vedendo nell’AI l’occasione di trasformare l’apprendimento in una esperienza più attuale e personalizzata.

Sono fioriti così numerosi tool che con più o meno efficacia e sovraccarico di lavoro stanno aiutando gli educatori a fare il loro lavoro nell'era dell'intelligenza artificiale generativa. Più o meno tutti, di fatto, trasformano i prof in digital detective, e nessuno di questi si è dimostrato infallibile. Cosa fanno, in pratica:

• Analizzano i testi per identificare pattern tipici dell'intelligenza artificiale (ripetitività, mancanza di "imperfezioni" umane, strutture linguistiche prevedibili).

• Verificano se il contenuto assomiglia a risposte standard generate da modelli AI noti come ChatGPT, Claude o Gemini etc

• Integrano al rilevamento AI le funzionalità tradizionali antiplagio, verificando similitudini con testi pubblicati.

• Generano rapporti che indicano in percentuale la probabilità di uso dell'AI e evidenziano specifiche sezioni incriminate

• Offrono ai prof interfacce per gestire multiple verifiche e monitorare trend nell'uso dell'AI tra gruppi di studenti.

L’articolo di Axios affronta la questione partendo da un nuovo approccio tentato da un sistema popolare anche in Italia, Turnitin, che ieri ha annunciato l’arrivo (in US dopo l’estate, in Europa non si sa) di Clarity, una piattaforma online dove gli studenti possono creare i loro lavori utilizzando strumenti AI approvati. Proporre di usare un sistema che non più solo deterrente & sanzionatorio ma che permette l’utilizzo dell’AI può sembrare una resa, ma non lo è secondo me: nessuno è mai riuscito a fermare il vento con le mani, quindi, prima si prende atto che con l’AI ci si deve convivere, meglio è. Anche a scuola.

“Clarity mira a creare uno spazio online dove gli studenti possono fare i compiti anche grazie all’AI e dove si ricostruisce la fiducia tra insegnanti e studenti ”, ha spiegato la responsabile del prodotto di Turnitin. Un ambiente controllato, insomma, dove i ragazzi possono fare i compiti trasparentemente con il supporto di AI autorizzate e sicure e dove gli insegnanti non devono dedicare tutto il proprio tempo e materia grigia a controllare se, dove, e quanto uno studente x ha barato.

Clarity e i cloni evolutivi che sicuramente ne seguiranno saranno un successo? E chi lo sa, è lo stesso discorso della sicurezza dell’AI: il fatto che è sempre più difficile garantire uno sviluppo dei modelli controllato e responsabile non è un buon motivo per arrendersi e non continuare a cercare approcci nuovi. Tornando alle sfide educative, alcuni prof , per esempio, hanno scelto un approccio non tecnologico, iniziando a privilegiare esami orali, ma questo ruba tempo prezioso all’insegnamento in aula. Forse un ibrido tra questa soluzione e sistemi alla Clarity potrebbe essere una soluzione sensata. Vedremo.

Ma prima di lasciarvi, vi rubo un altro minuto perché questa è troppo bella e non ho resistito. Dunque, in America esiste una società che si chiama Colossal Biosciences, valutata 10.2 billion, che ha un solo grande obiettivo: ricreare in laboratorio un Mammut lanoso vivente entro il 2028 (in realtà anche una Tigre della Tasmania e un più modesto Dodo, uccello estinto incapace di volare di cui ignoravo fino ad oggi l’esistenza).

A 3 anni dalla deadline, la Colossal ieri ha annunciato di avere partorito un topo lanoso, ovvero geneticamente modificato in modo da avere una pelliccia simile a quella del futuro mammut (foto sopra). Per ingegnerizzare il "topo lanoso" (sicuramente grazie all’AI, così posso parlarne qui!) gli scienziati della Colossal hanno individuato nei topi dei geni omologhi a quelli che nel mammut lanoso erano responsabili della folta pelliccia. Per farla breve, dopo vari trattamenti di laboratorio, un po’ di madri topo surrogate hanno dato alla luce dei piccoli topi con una pelliccia che per colore, consistenza e spessore ricorda quelle del famoso mammut lanoso. “Riteniamo che il mantello lanoso consentirà ai topi geneticamente modificati di sopravvivere in climi freddi, ora dobbiamo ricevere le approvazioni del caso per garantire che il nostro esperimento si svolga con modalità etica e umana”.

In attesa di sapere se quelli della Colossal per l’esperimento metteranno i topi lanosi in freezer, David Gold, professore di Paleobiologia di UC Davis, spegne gli entusiasmi: “Produrre multiple mutazioni nei topi è difficile, ma non è neanche lontanamente complesso quanto creare un mammut lanoso”. Molto contenti del risultato invece quelli della Colossal: "I topi lanosi sono sani e hanno esattamente i fenotipi che avevamo previsto, l'unica cosa inaspettata è il fattore adorabilità: sono molto più carini di quanto ci aspettassimo!”.

E’ tutto per oggi, a domani!

Matteo. M

PS. Una gentile lettrice (credo sia stata anche una prof) mi ha bacchettato perché non ho segnalato che questo post può anche essere ascoltato; per farlo, occorre trovarsi sulla app di Substack e fare tap sul trangolino Play in alto: la voce non è un granché, ma se siete on the move va abbastanza bene, sto comunque pensando a come migliorare l’esperienza!