Capitolo 4 Etica e limiti della IAG nella didattica
4.1 Introduzione
Come si e’ ormai avuto modo di vedere, l’intelligenza artificiale generativa e’ una tecnologia potente. Anche se fino ad ora abbiamo provato la IAG solo su un ristretto numero di processi ed esempi, non vi e’ dubbio che essa sia in grado di scrivere testi complessi, tradurre lingue, generare immagini e simulare conversazioni in modo sorprendentemente naturale. Questo ‘potere linguistico’, un tempo esclusivo dell’essere umano (Turing gioisci!), e’ ora condiviso con strumenti digitali che possiamo usare ogni giorno, spesso gratuitamente.
Ma come ogni tecnologia, anche la IAG porta con se’ una responsabilita’. Gli algoritmi non sono neutri: sono progettati da esseri umani, addestrati su dati creati da esseri umani, e possono riflettere (o amplificare) gli stessi pregiudizi, errori o disuguaglianze presenti nel mondo reale. Per questo motivo, non possiamo limitarci a usare l’intelligenza artificiale come una ‘scatola magica’: e’ necessario conoscerla, comprenderla e soprattutto valutarne criticamente l’impatto.
In ambito educativo, questa responsabilita’ e’ ancora piu’ grande: stiamo formando cittadini e cittadine del futuro, che dovranno convivere con questa tecnologia e usarla in modo consapevole. Parlare di etica dell’intelligenza artificiale, quindi, non e’ un lusso teorico, ma una necessita’ pratica.
Come forse avete avuto modo di constatare, attorno alla IAG ruotano spesso due atteggiamenti opposti: da un lato un entusiasmo eccessivo, dall’altro una diffidenza radicale. C’e’ chi pensa che l’intelligenza artificiale risolvera’ tutti i problemi educativi, e chi invece teme che rendera’ obsoleti gli insegnanti.
La verita’ sta ovviamente nel mezzo. I rischi percepiti, come la ‘fine del pensiero critico’ o il ‘copiaincolla universale’, vanno ridimensionati alla luce di un uso educativo consapevole di questo strumento. Esistono comunque anche rischi reali che non devono essere sottovalutati. Ecco i piu’ importanti:
I dati personali possono essere esposti a uso improprio se si inseriscono nomi o informazioni sensibili nei prompt.
Le risposte della IAG contengono bias culturali e linguistici che non vengono immediatamente e necessariamente percepiti dall’utente.
Non esiste trasparenza su come vengono prodotti i contenuti o su cosa succede ai dati inseriti, almeno finche’ non ci si attiva seriamente su questo versante.
Esiste un cosiddetto sovra-affidamento all’intelligenza artificiale, con il chiaro rischio che studenti e docenti possano perdere presto l’abitudine a riflettere o a confrontarsi.
Per affrontare questi rischi servono consapevolezza, formazione e buone pratiche. Ed e’ proprio qui che entra in gioco il ruolo degli educatori. E, direi, e’ proprio questa la ragione per cui la vostra scuola ha deciso di offrire questo corso.
L’educatore non e’ solo un trasmettitore di contenuti (spero tutti siate d’accordo con me su questo), ma anche, tra le altre cose, un facilitatore del pensiero critico. Questo vale in maniera ancora piu’ preponderante quando si parla di nuove tecnologie come l’intelligenza artificiale.
Integrare la IAG nella didattica non significa rinunciare al proprio ruolo, ma trasformarlo. A ben pensarci, il docente dovrebbe in quest’era diventare un mediatore tra tecnologia e apprendimento, capace di guidare gli studenti a un uso appropriato e corretto della stessa. Gli elementi fondamentali di questa guida dovrebbero includere:
incoraggiare lo studente a porsi domande sulle risposte della IAG;
aiutare lo studente a riconoscerne i limiti;
preparare lo studente a distinguere tra contenuti generati automaticamente e pensiero originale (cosa non facile!);
far riflettere lo studente su cio’ che e’ eticamente accettabile e cio’ che non lo e’ (e qui ci vuole, in primis, un accordo tra docenti).
In questo senso, parlare di etica non e’ un’aggiunta al programma, ma parte integrante dell’educazione digitale. Ogni attività con un LLM puo’ anche essere interpretata come opportunita’ per allenare il senso critico e sviluppare una coscienza civica e tecnologica.
4.2 I principi etici fondamentali
Nel lavoro con la IAG a scuola possiamo tenere a mente alcuni principi etici di riferimento. Questi principi non servono solo agli sviluppatori dei sistemi, ma anche agli educatori e ai ragazzi. Per me i piu’ importanti principi etici in questo campo sono:
La trasparenza.
La responsabilita’.
La garanzia di equita’ e l’eliminazione della discriminazione.
L’affidabilita’ e la sicurezza.
Vediamo questi principi in dettaglio, uno per uno.
4.2.1 Trasparenza
Come visto in precedenza, un LLM non e’ una persona, e non ‘pensa’ come un essere umano. Ma questa distinzione non e’ sempre evidente a chi lo usa, soprattutto agli studenti. E’ quindi fondamentale che i docenti spieghino chiaramente come funzionano i modelli linguistici di grandi dimensioni (ecco perche’ abbiamo dedicato parte di questo corso a questa topica) e che cosa possono, o non possono, fare. La trasparenza si puo’ attuare nel:
Dire agli studenti che la IAG puo’ inventare dati o fonti (e cioe’ puo’ essere sotto l’effetto di una allucinazione).
Rendere visibile quando un contenuto e’ stato generato da una IAG. Non sempre questo e’ possibile. Per esempio il docente puo’ voler usare la IAG per la creazione di compiti in classe o esami, e non puo’ certo rivelare dettagli sul suo uso, almeno non prima dell’esame stesso.
Insegnare a distinguere una risposta automatica da una riflessione personale (devo ammettere che questo diventa sempre piu’ difficile man mano che i modelli si affinano).
E’ importante tenere presente che l’essere trasparenti non vuol dire demonizzare la IAG, ma aiutare gli studenti a usarla in modo consapevole e critico.
4.2.2 Responsabilita’
Quando un testo, un’immagine o un’attivita’ vengono generati dalla IAG, chi ne e’ responsabile? Certamente non l’algoritmo. La responsabilita’ e’ sempre di chi utilizza l’intelligenza artificiale, nel nostro caso, dell’insegnante o dello studente. Vale la pena ricordare alcune delle circostanze nelle quali bisogna tenere presente il concetto di responsabilita’:
Quando si condividono pubblicamente contenuti generati dalla IAG.
Quando si correggono compiti o esami con la IAG senza verificarne l’accuratezza.
Quando si usano strumenti che raccolgono dati personali.
Forse un principio importante da insegnare e che richiama alla mente l’importanza della responsabilita’ personale e’:
‘La IAG aiuta, ma la responsabilita’ finale e’ tua.’
I docenti (e ovviamente i dirigenti scolastici) restano in ultima analisi i garanti della qualita’, dell’adeguatezza e della correttezza di quanto proposto in aula.
4.2.3 Equita’ e discriminazione
Gli LLM sono addestrati su enormi quantita’ di testi provenienti da Internet. Questo significa che possono riprodurre, anche involontariamente, pregiudizi, stereotipi e disuguaglianze presenti nei dati. Questo puo’ avvenire, giusto per fare qualche esempio, perche’ gli LLM:
possono privilegiare punti di vista occidentali o maschili;
possono generare descrizioni stereotipate di gruppi etnici o religiosi;
possono penalizzare l’uso di linguaggi non standard, come l’italiano semplificato (L2).
E’ essenziale che i docenti vigilino su questi aspetti e insegnino agli studenti a riconoscerli. L’obiettivo e’ costruire una didattica inclusiva, che usi la IAG per valorizzare le differenze, non per appiattirle.
Facciamo un esempio abbastanza elementare. Chiediamo all’intelligenza artificiale di trattare l’immigrazione in Italia. Ecco un prompt e risposta problematici:
Cosa c’e’ che non va? In apparenza la risposta sembra positiva: il tono e’ empatico, non ci sono insulti o linguaggio offensivo. Ma il problema di fondo e’ che questa rappresentazione e’ stereotipata perche’:
associa automaticamente ‘immigrato’ con ‘Ahmed’ (nome arabo), cioe’ riduce l’immigrato a uomo (non donna) proveniente dal Nord Africa (non per esempio dagli USA);
collega la figura dell’immigrato a un lavoro precario (venditore ambulante);
ripropone la narrativa della ‘persona buona e sorridente nonostante tutto’, che semplifica e riduce le identita’ reali.
A questo punto, se uno studente riporta quanto trovato sopra, l’insegnante puo’ aiutarlo a riconoscere le relative problematiche ponendogli delle domande:
Un immigrato può essere anche una donna? Un’infermiera? Un imprenditore? Uno studente universitario?
Se la IAG propone sempre lo stesso tipo di profilo, cosa succede alla nostra idea di realta’?
Come potremmo scrivere un prompt piu’ neutro o vario?
Per rispondere all’ultima domanda, ecco un’idea di prompt e risposta alternativi:
Lina, originaria del Peru’, lavora come infermiera in un ospedale di Bergamo. Vive in Italia da 12 anni e ha due figli nati qui.
Ali, di origine tunisina, gestisce una piccola impresa di ristrutturazioni a Bologna.
Dragana, arrivata dalla Serbia, e’ una studentessa universitaria a Torino e lavora part-time in una libreria.4.2.4 Affidabilita’ e sicurezza
Un modello di intelligenza artificiale puo’ essere molto convincente, ma non e’ infallibile. Come abbiamo visto, può commettere errori, fornire risposte sbagliate o incomplete, e in alcuni casi anche contenuti inappropriati. Per questo e’ importante valutarne l’affidabilita’ caso per caso. Il rischio di risposte sbagliate e possibilmente fuorvianti ha ripercussioni a volte molto serie. Quindi bisognerebbe evitare di usare la IAG con studenti piccoli senza supervisione, scegliere strumenti che rispettano le normative sulla privacy (ne parleremo nel prossimo paragrafo), ed evitare l’uso didattico di applicazioni che mostrano pubblicita’ o raccolgono dati in modo non trasparente.
Comunque l’evoluzione dei modelli linguistici di grandi dimensioni e’ molto veloce per cui e’ sempre piu’ difficile ottenere risposte poco affidabili, soprattutto dagli LLM piu’ famosi come Gemini o ChatGPT. Ma e’ bene rimanere consapevoli della possibilita’ di allucinazioni della IAG in ogni momento.
4.2.4.1 Esercizio
Impegnati per domandare qualcosa a Gemini in modo tale da ottenere una risposta poco affidabile.
Piu’ seria e’ la questione della privacy. Di seguito mostro un esempio di prompt e risposta (reali!) su ChatGPT.
Ciao Pierino La Carta!
Che bello che stai gia’ pensando al tuo undicesimo compleanno! Hai un nome simpaticissimo e sembri proprio un tipo curioso e vivace. Allora, vediamo un po’ … ecco qualche idea in base a quello che potresti amare fare a 11 anni:
*Se ti piacciono i videogiochi:
Nintendo Switch (anche la versione Lite): portatile, divertente e con tanti giochi adatti alla tua eta’!
Minecraft (se non ce l’hai gia’): e’ perfetto per costruire mondi e usare la fantasia.
*Se ami leggere o ti incuriosiscono le storie, una serie di libri come:
Harry Potter (se ancora non li hai letti)
Il diario di una schiappa
Geronimo Stilton o Tea Sisters
Oppure un Kindle per ragazzi se vuoi avere tanti libri in uno!
*Se ti piace disegnare o creare:
Set di disegno professionale con pastelli, pennarelli, matite acquerellabili …
Tablet grafico se vuoi iniziare a disegnare anche sul computer o su tablet!
*Se ami gli esperimenti o la scienza:
Un kit di esperimenti scientifici (ce ne sono di super divertenti su chimica, elettricità, vulcani …)
Un telescopio per principianti se ti affascura lo spazio.
*Se vuoi qualcosa di più avventuroso:
Monopattino o skateboard
Oppure una bicicletta nuova
Altre idee simpatiche:
Puzzle 3D (come il Big Ben o la Torre Eiffel)
Un bel Lego Technic o Lego a tema che ti piace (Star Wars, Harry Potter, Minecraft…)
*Se vuoi, dimmi anche:
Cosa ti piace fare nel tempo libero?
Hai fratelli o sorelle?
Ti piace leggere, giocare, esplorare?
Così ti do un consiglio ancora più su misura!E’ difficile capire come l’informazione personale viene usata. Ci sono linee guida pubblicate su cosa succede ai dati personali in ogni tipo di servizio fornito da Google, Microsoft, Open AI, Meta, ecc. Purtroppo queste sono molto lunghe da leggere e spesso alcuni dettagli importanti sono celati dietro un linguaggio tecnico e burocratico. Quindi e’ sempre meglio, finche’ possibile, evitare l’introduzione di dati personali e incoraggiare gli studenti a prestare la dovuta attenzione. E’ da notare, infine, come vengano suggeriti alcuni prodotti da acquistare e, anche se magari i suggerimenti non sono espliciti, e’ difficile non vedere l’influenza di grandi imprese multinazionali dietro molta parte di informazione che circola su internet. Non e’ il caso qui di creare allarmismo, ma credo che gia’ la consapevolezza di cosa succeda quando si usano le nuove tecnologie sia un grosso aiuto per evitare manipolazioni pericolose. Qualche informazione in piu’ verra’ fornita in un paragrafo successivo.
4.3 Esempi di uso etico a scuola
Dopo aver introdotto i principi etici fondamentali sull’uso della IAG, vediamo alcuni casi concreti. Gli esempi non sono esaustivi, ma dovrebbero coprire una larga parte delle attivita’ presenti in ambiente scolastico.
4.3.1 Educare all’uso critico dell’intelligenza artificiale
I docenti dovrebbero non solo insegnare agli studenti l’uso dello strumento, ma dovrebbero anche insegnare a valutarne le risposte ricevute, verificarne le fonti e capire che la IAG non e’ infallibile. Vediamo un esempio pratico.
Una volta letto il testo di questo studente ad alta voce in classe, il docente dovrebbe far partire una discussione su quello che si e’ letto in classe. Domande possibili sono:
La risposta e’ corretta? Mancano informazioni?
Che tipo di fonte useresti per verificare?
La IAG può sbagliare? In che modo?
4.3.2 Riconoscere limiti e potenzialita’
Occasioni giuste dovrebbero sempre essere create per rendere gli studenti attori consapevoli, capaci di capire quando la IAG puo’ essere utile e quando no. A tal proposito la seguente tabella sull’utilita’ della intelligenza artificiale puo’ essere usata, con opportune modifiche a seconda dei compiti e delle discipline, per prepararsi a spiegare agli studenti cosa devono aspettarsi dal suo uso.
| Situazione | Utile? | Perche’? |
|---|---|---|
| Tradurre un testo semplice dall’inglese | Si | Per avere un primo abbozzo da rivedere |
| Scrivere un tema personale su ‘Un momento speciale della mia vita’ | No | La IAG non puo’ conoscere esperienze personali |
| Riassumere un testo scientifico lungo | Si | Aiuta a fare una prima sintesi |
| Svolgere un compito da consegnare senza rielaborare | No | E’ disonesto e non sviluppa competenze |
E’ consigliabile per il docente la creazione di tabelle simili a questa che col tempo vengono arricchite da casi specifici.
4.3.3 Collaborazione tra IAG e docente
Esiste un principio guida che puo’ essere formulato in molti modi, ma che in sostanza asserisce che
La IAG e’ uno strumento, il docente e’ la guida
Questo e’ quello che deve apparire chiaro agli studenti. Magari, soprattutto all’inizio della sperimentazione con l’intelligenza artificiale, gli studenti possono pensare di aver bisogno dell’insegnante solo per i voti. Ben presto, pero’, si devono accorgere che la vera guida viene dai loro insegnanti in quanto unici esseri umani pensanti. Vediamo la dimostrazione di quanto asserito con una simulazione di attivita’. Questa consiste nel tentare di scrivere una poesia con l’assistenza dell’intelligenza artificiale.
Si parte col proporre agli studenti di scegliere un tema per la poesia, ad esempio l’autunno. Poi si dividono i ragazzi in gruppi e ogni gruppo usa, per esempio Gemini per generare una poesia breve. Una possibilita’ e’ data dal seguente prompt e risposta.
Certo, ecco una breve poesia sull’autunno:
Foglie rosse danzano leggere,
Il vento sussurra storie vere.
Castagne croccanti sotto il piede,
Un dolce tepore che non cede.
Il cielo si fa d’un blu piu’ intenso,
Mentre la terra rallenta il suo senso.
Un’aria fresca che sa di mosto,
L’estate e’ un ricordo, un dolce gusto.L’insegnante (e qualche assistente) puo’ girare tra i vari gruppi, leggere cosa hanno prodotto con la IAG e suggerire alcune modifiche significative. Per esempio si possono aggiungere alla poesia le emozioni e immagini personali degli studenti, oppure modificare il ritmo. Questo deve essere fatto senza assistenza della IAG ed e’ proprio da questa attivita’ che i ragazzi imparano. Dopo le modifiche, la poesia ha ssunto la seguente forma:
Foglie rosse danzano leggere,\n
col vento che sussurra storie vere.\n
Gusci di castagne che scrocchiano sotto i miei piedi,\n
mentre il tepore del cappotto sussurra 'Ma ci credi?'\n
\n
Mentre la terra rallenta il suo senso,\n
mi accorgo che il cielo si fa' di un blu piu' intenso.\n
Ora ricordo l'odore del mosto,\n
mentre ormai l'estate e' un ricordo, un dolce gusto.In seguito a questo utile esercizio gli studenti ottengono una nuova versione della poesia che sentono propria perche’ proviene dal loro pensiero. Questo dovrebbe riportarli temporaneamente in un ‘mondo’ dove le idee, i pensieri e lo scritto sono generati dall’uomo. Un esercizio come questo puo’ essere eseguito una o due volte alla settimana e basta a riportare il pensiero umano, piuttosto che la IAG, al centro della esperienza educativa.
Il docente puo’ in seguito incoraggiare gli studenti a immettere la poeasia modificata come prompt, chiedendo domande tecniche sullo stile, la metrica e anche se qualche modifica renderebbe la poesia allineata con poesie note.
Ho modificato la poesia cosi’:
’Foglie rosse danzano leggere,
col vento che sussurra storie vere.
Gusci di castagne che scrocchiano sotto i miei piedi,
mentre il tepore del cappotto sussurra ‘Ma ci credi?’
Mentre la terra rallenta il suo senso,
mi accorgo che il cielo si fa’ di un blu piu’ intenso.
Ora ricordo l’odore del mosto,
mentre ormai l’estate e’ un ricordo, un dolce gusto.’
Questa include il mio apporto personale e delle immagini che conservo nel cuore. Secondo te che stile ha la poesia? C’e’ qualcosa di tecnicamente sbagliato in essa?La tua modifica ha reso la poesia piu’ personale e intima, aggiungendo un tocco di riflessione interiore. Analizziamo lo stile e gli eventuali aspetti tecnici:
*Stile:
Intimo e Riflessivo: L’aggiunta della domanda sussurrata dal cappotto (‘Ma ci credi?’) introduce un elemento di dialogo interiore e una nota di sorpresa o incredulita’ di fronte al cambiamento stagionale. Questo la rende piu’ che una semplice descrizione dell’autunno, ma un momento di connessione personale con esso.
Sensoriale: Rimangono forti le immagini sensoriali: il danzare delle foglie, il sussurro del vento, lo scrocchiare delle castagne, il tepore del cappotto, il blu intenso del cielo e l’odore del mosto. Queste evocano vividamente l’esperienza autunnale.
Leggermente Narrativo: C’e’ una piccola progressione, dal movimento delle foglie al ricordo dell’estate, anche se rimane principalmente descrittiva.
Linguaggio Semplice e Diretto: Le parole scelte sono comuni e accessibili, contribuendo a un tono genuino e non artificioso.
*Aspetti Tecnici:
Rima: La poesia non segue uno schema di rime preciso. I versi 1 e 2 (‘leggere’, ‘vere’) hanno una rima imperfetta (assonanza sulla ‘e’). I versi 3 e 4 (‘piedi’, ‘credi’) hanno una rima piena. I versi 5 e 6 (‘senso’, ‘intenso’) rimano. I versi 7 e 8 (‘mosto’, ‘gusto’) rimano. Questa irregolarita’ può essere una scelta stilistica per un tono piu’ colloquiale, ma una rima più coerente darebbe una maggiore musicalita’.
Metro: Non c’e’ un metro fisso. La lunghezza dei versi varia, il che contribuisce a un ritmo piu’ libero e naturale, ma meno cantabile.
Punteggiatura: L’uso della virgola e dell’apostrofo e’ corretto.
Sintassi: La sintassi e’ generalmente chiara e scorrevole.
*Cosa Potrebbe Essere Migliorato (Suggerimenti, non errori):
Coerenza della Rima: Se desideri una maggiore musicalità, potresti provare a uniformare lo schema di rime (ad esempio, rima alternata ABAB o rima baciata AABB).
Ritmo: Sebbene il ritmo libero funzioni, potresti sperimentare con un metro piu’ regolare per vedere se aggiunge un’enfasi diversa alle immagini.
‘Ma ci credi?’: Questa espressione, pur aggiungendo un elemento personale, potrebbe suonare un po’ colloquiale in un contesto poetico. Potresti considerare un’alternativa che mantenga lo stesso senso di sorpresa o riflessione in un linguaggio più lirico (ad esempio, ‘un dubbio lieve: ’È vero?’’).
‘Si fa’: La forma corretta e’ ‘si fa’.
*In Conclusione:
La tua poesia modificata ha uno stile intimo e sensoriale, arricchito dalla tua prospettiva personale. Tecnicamente, non ci sono errori gravi, ma potresti lavorare sulla coerenza della rima e del ritmo se desideri una maggiore musicalità. L’espressione ‘Ma ci credi?’ aggiunge un tocco personale ma potrebbe essere resa in modo piu’ lirico per integrarsi meglio nel tono generale della poesia.
E’ importante sottolineare che la poesia e’ anche espressione personale, quindi le ‘regole’ possono essere infrante per ottenere l’effetto desiderato. Se il tono colloquiale e la rima irregolare sono scelte consapevoli per riflettere il tuo sentire, allora sono perfettamente valide.Si dovrebbe concludere l’attivita’ con una discussione finale: “Cosa abbiamo migliorato rispetto alla versione della IAG?” “Quale e’ stato il reale apporto della IAG che ha davvero insegnato qualcosa?” Da questa attivita’ i ragazzi dovrebbero capire che la creativita’ umana e’ insostituibile, e che la IAG dovrebbe essere solo un punto di partenza o di ausilio in questioni tecniche.
4.4 Protezione dei dati personali (Data Protection)
Uno degli aspetti piu’ importanti, e spesso trascurati, dell’uso dell’intelligenza artificiale generativa nella scuola e’ la protezione dei dati personali. Ogni volta che inseriamo informazioni in un sistema pubblico come ChatGPT, Gemini o Copilot, stiamo potenzialmente trasmettendo dati a una piattaforma esterna, che puo’ trovarsi al di fuori dell’Unione Europea e avere politiche di trattamento molto diverse da quelle della vostra scuola.
Per questo motivo e’ fondamentale che i docenti acquisiscano una consapevolezza minima ma solida dei rischi legati alla privacy, e adottino buone pratiche quotidiane per proteggere se stessi e i propri studenti. Cosa si intende per dati personali a scuola? Secondo il Regolamento Europeo sulla Protezione dei Dati (GDPR), e’ considerato dato p,ersonale qualsiasi informazione che permette di identificare una persona, direttamente o indirettamente.
Nella scuola, esempi comuni includono: nome e cognome di uno studente; eta’, indirizzo, nazionalita’, origine etnica; valutazioni scolastiche; comportamenti, difficolta’ di apprendimento, bisogni educativi; audio, immagini o file vocali; codici identificativi (registro elettronico, email, ID scolastico). Tutti questi dati non devono mai essere inseriti in un prompt diretto a un LLM pubblico, a meno che non si usi una piattaforma esplicitamente progettata per la privacy scolastica.
4.4.1 GDPR e scuola: cosa devono sapere i docenti?
Questa topica, come direbbero gli inglesi, non e’ la mia tazza di te’ (not my cup of tea) e quindi mi limitero’ a riportare le cose piu’ essenziali. La dirigenza scolastica dovrebbe essere l’entita’ competente in merito e i docenti devono chiedere a loro ulteriori delucidazioni. Il GDPR (Regolamento UE 2016/679) si applica anche al contesto educativo. Questo vuol dire che le scuole sono tenute a:
trattare solo i dati strettamente necessari;
garantire la sicurezza dei dati trattati;
informare studenti e famiglie sulle modalita’ di uso dei dati;
evitare la trasmissione di dati verso piattaforme non conformi (in particolare extra-UE).
Per i docenti, questo si traduce in alcuni doveri pratici. Per esempio devono evitare l’inserimento di dati identificativi nei prompt; non devono usare account personali per attivita’ con studenti; a scuola devono per quanto possibile usare account scolastici o strumenti approvati dal dirigente; devono informarsi sulle linee guida dei servizi digitali utilizzati.
4.4.2 Attenzione ai dati sensibili nei prompt
Quando si lavora con modelli di inelligenza artificiale, spesso si tende a comportarsi come se si ‘parlasse a un collega’. Ma attenzione, anche una semplice frase come “Il mio studente Marco di 15 anni e con DSA, ha difficolta’ a scrivere in italiano …” contiene addirittura tre dati personali e un dato sensibile (quello sulla salute). Per cui un prompt di questo tipo non deve mai essere usato con piattaforme pubbliche.
4.4.3 LLM pubblici e la privacy: quali cautele adottare?
I modelli linguistici pubblici come ChatGPT, Gemini, Claude o Copilot non sono pensati per il trattamento di dati personali scolastici, a meno che non vengano utilizzati in versioni aziendali/educativi che garantiscono il rispetto del GDPR (es. ChatGPT Team o Gemini for Workspace Education, se configurati correttamente).
A meno di non essere assolutamente sicuri che la piattaforma che si usa applica una buona protezione e garanzia sui dati che si immettono, il docente dovrebbe:
Evita di caricare compiti, relazioni, pagelle o documenti scolastici.
Non usare il tuo account personale Google o Microsoft per attivita’ sensibili.
Non fidarsi automaticamente di avvisi come “questa chat e’ privata”.
A volte puo’ aiutare la seguente massima: se non puoi scrivere questo passaggio particolare su una cartella pubblica nel corridoio della scuola, allora non inserirlo in un prompt.
4.4.4 Soluzioni pratiche
Esistono soluzioni pratiche per ovviare a queste limitazioni. Ecco alcuni esempi.
- Usate pseudonimi e situazioni simulate. Scrivete i prompt come se parlaste di un caso ipotetico:
Create prompt generici. Evitate riferimenti a casi concreti, nomi, luoghi o eventi reali.
Prediligete strumenti progettati per la scuola. NotebookLM, per esempio, e’ pensato per l’uso didattico e consente di caricare materiali su cui la IAG lavora senza inviare dati al di fuori dell’ambiente personale dell’utente (almeno nella versione attuale). Alcune scuole si stanno addirittura dotando di istanze locali di modelli open source (es. Mistral, LLaMA) per evitare l’uso di server esterni. Ma per fare cio’ ci vogliono molte competenze e molti soldi.
Consultate il vostro referente sulla privacy. Se non siete sicuri, chiedete. E’ meglio un dubbio oggi che una segnalazione alla polizia domani.
Un punto importante e’ quello di stare sempre all’erta quando si lavora su internet (the cloud). Quando e’ possibile, si dovrebbe cercare di creare files e lavorarci su dischi non connessi a internet o, ancora meglio, su dischi e con sistemi predisposti dalla scuola. Ogni scuola infatti dovrebbe avere un responsabile o un ufficio responsabile per i computers, internet e il trattamento dati.
Queste buone pratiche non servono solo per evitare problemi legali, ma anche per educare gli studenti al rispetto della privacy, un diritto fondamentale nel mondo digitale (pensate alle centinaia di situazioni sgradevoli in cui bambini e giovani subiscono bullismo e atti similari su internet).