L’intelligenza artificiale può sbagliare? Allucinazioni, bias e controllo delle risposte

Una risposta ben scritta non è necessariamente corretta

Manuali Sapere Quotidiano per il mondo scuola

Tre volumi pensati per docenti, aspiranti insegnanti e candidati ai concorsi: strumenti pratici per gestire la classe reale, progettare didattica inclusiva e prepararsi con metodo.

DOP

Una guida pratica per gestire rifiuti, provocazioni ed esplosioni emotive senza perdere la guida educativa della classe.

Acquista su Amazon Scarica l’indice in PDF

Il Docente Inclusivo

Un manuale operativo per leggere la classe reale, progettare lezioni accessibili e trasformare PEI, PDP e UDA in azioni concrete.

Acquista su Amazon Scarica l’indice in PDF

Competenze Psicopedagogiche

Contenuti pubblicati su Sapere Quotidiano, selezionati e riorganizzati per un ripasso chiaro e sistematico.

Acquista su Amazon Scarica l’indice in PDF

Uno strumento di intelligenza artificiale può produrre in pochi secondi una spiegazione ordinata, convincente e apparentemente completa. Può utilizzare un linguaggio appropriato, suddividere il testo in paragrafi e presentare esempi plausibili.

Tutto questo, però, non garantisce che le informazioni siano corrette.

L’intelligenza artificiale generativa può:

• confondere fatti simili;
• attribuire un’affermazione all’autore sbagliato;
• inventare una fonte;
• presentare come certa un’informazione dubbia;
• utilizzare dati non aggiornati;
• riprodurre stereotipi presenti nei dati;
• costruire collegamenti logici credibili, ma non dimostrati.

Il rischio è maggiore proprio quando la risposta appare fluida. Un errore grammaticale è facile da notare; un’affermazione falsa inserita in una spiegazione ben costruita può invece passare inosservata.

Per questo l’intelligenza artificiale non dovrebbe essere trattata come una fonte, ma come uno strumento capace di elaborare e generare contenuti che devono essere controllati.

Perché l’intelligenza artificiale può sbagliare

Nel loro funzionamento di base, i modelli linguistici generativi non verificano automaticamente ogni affermazione consultando una banca dati autorevole. Alcuni sistemi possono accedere al web, analizzare documenti o utilizzare strumenti esterni, ma la presenza di queste funzioni non garantisce da sola l’esattezza della risposta.

I modelli linguistici riconoscono regolarità nei dati utilizzati durante l’addestramento e generano sequenze di parole compatibili con la richiesta ricevuta.

In termini semplificati, il sistema costruisce la risposta scegliendo progressivamente le parole che risultano più coerenti con il contesto.

Questo meccanismo permette di produrre testi nuovi e ben strutturati, ma presenta un limite fondamentale: il sistema può generare una frase plausibile senza disporre di elementi sufficienti per stabilire se sia vera.

Il modello cerca una continuazione plausibile

Di fronte a una domanda, l’intelligenza artificiale tende a costruire una risposta compatibile con le strutture linguistiche e informative apprese.

Non verifica necessariamente, prima di ogni affermazione:

Dispongo di prove sufficienti per sostenerla?

Il processo di generazione è più vicino alla ricerca della continuazione che appare maggiormente coerente con la richiesta e con i modelli appresi.

Ciò non significa che ogni risposta sia inaffidabile. Significa che la correttezza non deriva automaticamente dalla fluidità del testo.

La sintassi corretta può nascondere un errore

Un modello può produrre una frase grammaticalmente impeccabile ma fattualmente errata o incoerente rispetto al contesto.

La capacità di organizzare bene le parole, infatti, non coincide con la verifica del loro rapporto con la realtà. Il testo può “suonare giusto” anche quando contiene un errore.

È una distinzione importante soprattutto a scuola, dove gli studenti potrebbero interpretare la sicurezza espressiva della risposta come una prova di autorevolezza.

Le informazioni possono essere incomplete o superate

Una risposta può basarsi su informazioni non aggiornate oppure non considerare modifiche recenti a:

• norme;
• linee guida;
• programmi;
• ruoli istituzionali;
• dati statistici;
• caratteristiche di una piattaforma;
• conoscenze scientifiche.

Per gli argomenti soggetti a cambiamenti, la data delle fonti è parte integrante della verifica.

Che cosa sono le allucinazioni dell’intelligenza artificiale

Con l’espressione allucinazione dell’intelligenza artificiale si indica generalmente la produzione di informazioni false, infondate o non sostenute dalle fonti, presentate però in una forma apparentemente attendibile.

Il National Institute of Standards and Technology utilizza anche il termine confabulation per descrivere i casi in cui un sistema di intelligenza artificiale generativa produce e presenta con sicurezza contenuti falsi o errati. Il fenomeno è incluso tra i rischi specifici dell’IA generativa che devono essere individuati e gestiti.

La parola “allucinazione” è ormai diffusa, ma non deve far pensare che il sistema possieda una mente o una percezione della realtà. Il modello non vede qualcosa che non esiste nel senso umano del termine: genera una risposta linguisticamente plausibile che non corrisponde ai fatti.

Esempi di allucinazione

Un sistema potrebbe:

• inventare il titolo di un libro;
• attribuire una teoria a uno studioso diverso;
• fornire una data inesatta;
• citare un articolo scientifico inesistente;
• descrivere un comma che non compare nella norma;
• creare una citazione mai pronunciata;
• affermare che una piattaforma possiede una funzione non disponibile;
• indicare un collegamento web inesistente o non funzionante.

Alcuni errori sono facilmente riconoscibili. Altri richiedono competenze specifiche o il confronto con fonti esterne.

Le fonti inventate sono particolarmente insidiose

Quando viene chiesto di preparare una bibliografia, l’intelligenza artificiale può combinare elementi realistici:

• il nome di un autore esistente;
• un titolo verosimile;
• una casa editrice reale;
• un anno plausibile.

Il risultato può sembrare una citazione autentica pur non corrispondendo ad alcuna pubblicazione.

Una fonte bibliografica non dovrebbe quindi essere considerata verificata soltanto perché è presentata in un formato accademico corretto.

Esiste una percentuale fissa di errori?

Non esiste una percentuale universale che indichi quanto sbaglia l’intelligenza artificiale.

L’accuratezza varia in base a numerosi fattori:

• modello utilizzato;
• versione del sistema;
• argomento;
• complessità della domanda;
• disponibilità di fonti aggiornate;
• precisione della richiesta;
• lingua utilizzata;
• tipo di risposta;
• possibilità di consultare fonti esterne;
• criterio adottato per valutare l’errore.

Una risposta su un concetto generale e consolidato non presenta gli stessi rischi di una risposta riguardante una norma appena modificata, una diagnosi, un calcolo complesso o una ricerca bibliografica specialistica.

Non è quindi corretto affermare genericamente che tutti i sistemi commettano una determinata percentuale di errori.

La domanda più utile non è:

Quanto sbaglia l’intelligenza artificiale in assoluto?

È invece:

Quanto sarebbe rischioso un errore in questa specifica attività?

Un’imprecisione in una proposta creativa può essere facilmente corretta. Un errore inserito in un materiale scientifico, sanitario, giuridico o valutativo può avere conseguenze molto più rilevanti.

Allucinazione, imprecisione e informazione superata non sono la stessa cosa

Non tutti gli errori prodotti dall’intelligenza artificiale hanno la stessa origine.

• Allucinazione
  • Che cosa accade: Il sistema genera un’informazione priva di fondamento
  • Esempio: Inventa un libro o una circolare
• Imprecisione
  • Che cosa accade: L’informazione è parzialmente corretta, ma formulata in modo inesatto
  • Esempio: Generalizza una regola che prevede eccezioni
• Informazione superata
  • Che cosa accade: La risposta si basa su dati che erano corretti in passato
  • Esempio: Indica una procedura non più vigente
• Omissione
  • Che cosa accade: Manca un elemento necessario
  • Esempio: Spiega una norma senza ricordarne i limiti
• Errore di contesto
  • Che cosa accade: L’informazione è corretta, ma non applicabile al caso
  • Esempio: Utilizza criteri riferiti a un altro ordine di scuola
• Contraddizione
  • Che cosa accade: Parti della risposta non sono coerenti tra loro
  • Esempio: Afferma prima una regola e poi il contrario
• Eccesso di sicurezza
  • Che cosa accade: Presenta come certo ciò che è discusso o incerto
  • Esempio: Non segnala che le fonti sono discordanti

Riconoscere il tipo di problema aiuta a scegliere il controllo più appropriato.

Che cosa sono i bias dell’intelligenza artificiale

Il termine bias può essere tradotto, a seconda del contesto, come distorsione, inclinazione sistematica o pregiudizio.

I modelli vengono addestrati utilizzando grandi quantità di dati prodotti da persone, istituzioni e comunità. Questi materiali non sono neutrali: possono contenere squilibri, stereotipi, esclusioni e rappresentazioni culturali prevalenti.

Se alcuni gruppi, lingue o punti di vista sono poco rappresentati, anche i risultati del sistema possono riflettere questo squilibrio.

Studi e documenti dell’UNESCO hanno richiamato l’attenzione sulla presenza di stereotipi di genere, culturali e razziali nei contenuti prodotti da alcuni modelli linguistici. L’organizzazione raccomanda quindi un approccio all’intelligenza artificiale centrato sulla persona, inclusivo e attento alla diversità culturale e linguistica.

Come può manifestarsi un bias

Una risposta può:

• associare automaticamente alcune professioni a un genere;
• descrivere una famiglia utilizzando un solo modello;
• presentare una cultura come norma e le altre come eccezioni;
• produrre immagini stereotipate;
• ignorare varietà linguistiche meno rappresentate;
• suggerire esempi poco adatti a determinati contesti;
• interpretare comportamenti diversi attraverso categorie troppo rigide;
• offrire spiegazioni costruite prevalentemente su fonti di una sola area geografica.

Il bias non consiste sempre in un’affermazione apertamente discriminatoria. Può manifestarsi anche attraverso la ripetizione sistematica delle stesse rappresentazioni.

Bias non significa soltanto informazione scorretta

Un contenuto può essere formalmente corretto e offrire comunque una visione parziale.

Per esempio, se alla richiesta di descrivere dieci scienziati il sistema propone quasi esclusivamente uomini provenienti dallo stesso contesto culturale, il problema non è necessariamente la falsità delle informazioni. Il limite riguarda ciò che la selezione rende invisibile.

A scuola è quindi utile controllare non soltanto che cosa dice la risposta, ma anche:

• quali prospettive include;
• quali esperienze esclude;
• quali ruoli assegna;
• quali esempi ripete;
• quale idea di normalità comunica.

Perché questi errori sono importanti nella scuola

Un docente possiede, almeno in parte, gli strumenti disciplinari necessari per riconoscere un errore. Uno studente che sta ancora apprendendo un argomento potrebbe invece non riuscire a distinguerlo.

Un contenuto errato può essere:

• memorizzato;
• riportato in un elaborato;
• utilizzato per studiare;
• condiviso con i compagni;
• inserito in una presentazione;
• interpretato come una fonte autorevole.

La particolare fluidità dei testi generati rende quindi necessaria un’educazione specifica alla verifica.

Le Linee guida italiane per l’introduzione dell’intelligenza artificiale nelle istituzioni scolastiche, allegate al Decreto ministeriale n. 166 del 9 agosto 2025, propongono un quadro di riferimento per un’adozione consapevole, responsabile e sicura delle tecnologie basate sull’IA.

La competenza da sviluppare non consiste soltanto nel saper formulare una buona richiesta. Comprende anche la capacità di sospendere il giudizio, valutare il risultato e verificarne gli elementi essenziali.

Come verificare una risposta dell’intelligenza artificiale

Il livello di verifica deve dipendere dal tipo di contenuto e dal rischio associato all’errore.

Non è necessario controllare nello stesso modo una proposta per il titolo di un racconto e una spiegazione destinata a una lezione di scienze.

1. Separare i fatti dalle formulazioni

Il primo passaggio consiste nell’individuare quali parti della risposta rappresentino affermazioni verificabili.

In una spiegazione possono comparire:

• date;
• nomi;
• definizioni;
• dati numerici;
• riferimenti normativi;
• citazioni;
• rapporti di causa ed effetto;
• risultati di ricerche;
• indicazioni bibliografiche.

Sono questi gli elementi che richiedono il controllo più attento.

Espressioni generiche come “questa attività può favorire il coinvolgimento” devono invece essere valutate anche sul piano pedagogico: in quali condizioni? Per quali studenti? In relazione a quale obiettivo?

2. Cercare la fonte primaria

Quando possibile, la verifica dovrebbe partire dalla fonte che ha prodotto direttamente l’informazione.

Per esempio:

• il testo ufficiale di una norma;
• il sito del Ministero competente;
• la pubblicazione scientifica originale;
• le linee guida dell’organizzazione che le ha emanate;
• la documentazione ufficiale della piattaforma;
• il rapporto dell’ente che ha raccolto i dati.

Un articolo che riassume una norma può essere utile per orientarsi, ma non sostituisce il testo ufficiale quando serve precisione.

3. Controllare data e contesto

Anche una fonte autentica può non essere aggiornata o non riferirsi al caso considerato.

È opportuno chiedersi:

• quando è stata pubblicata?
• esistono aggiornamenti successivi?
• riguarda lo stesso Paese?
• si riferisce allo stesso ordine scolastico?
• descrive una regola generale o un caso particolare?
• utilizza ancora la stessa terminologia?

Il controllo della data è particolarmente importante per normativa, tecnologia e strumenti digitali.

4. Confrontare più fonti quando il tema è controverso

Su alcuni argomenti non esiste un’unica interpretazione condivisa.

In questi casi la verifica non deve servire soltanto a trovare una pagina che confermi la risposta, ma a comprendere:

• quali posizioni esistono;
• su quali prove si fondano;
• dove si trova il consenso;
• quali aspetti restano discussi;
• quali limiti presentano gli studi disponibili.

Una risposta affidabile dovrebbe distinguere i fatti consolidati dalle ipotesi e dalle interpretazioni.

Un controllo proporzionato

• Contenuto generato: Idee per un titolo; livello di controllo: Basso
• Contenuto generato: Traccia per una discussione; livello di controllo: Basso o medio
• Contenuto generato: Riassunto di un testo fornito; livello di controllo: Medio
• Contenuto generato: Domande per una verifica; livello di controllo: Medio-alto
• Contenuto generato: Spiegazione disciplinare; livello di controllo: Alto
• Contenuto generato: Bibliografia; livello di controllo: Alto
• Contenuto generato: Indicazione normativa; livello di controllo: Molto alto
• Contenuto generato: Informazione sanitaria o di sicurezza; livello di controllo: Molto alto

Questa tabella non sostituisce una procedura completa, ma aiuta a comprendere che la verifica deve essere proporzionata alle conseguenze dell’errore.

Chiedere all’intelligenza artificiale di controllarsi è sufficiente?

No.

È possibile chiedere al sistema di:

• rivedere la risposta;
• segnalare i punti incerti;
• distinguere fatti e ipotesi;
• indicare possibili errori;
• proporre fonti;
• formulare un’obiezione.

Queste richieste possono migliorare il risultato, ma non costituiscono una verifica indipendente.

Lo stesso sistema che ha prodotto l’errore potrebbe:

• non riconoscerlo;
• confermarlo;
• elaborare una giustificazione non corretta;
• generare una nuova fonte inesistente;
• correggere un dato introducendo un altro errore.

La verifica richiede quindi almeno un riferimento esterno attendibile o il controllo diretto da parte di una persona competente.

Un esempio pratico

Un docente chiede all’intelligenza artificiale:

Prepara una breve spiegazione sulla teoria dello sviluppo cognitivo di Jean Piaget e indica le fonti essenziali.

La risposta appare ordinata, ma contiene:

• un anno inesatto;
• un’opera attribuita a Piaget con un titolo tradotto in modo improprio;
• una semplificazione eccessiva degli stadi;
• una fonte bibliografica inesistente.

Il docente può trasformare l’errore in un’attività didattica. Presenta agli studenti la spiegazione insieme a una fonte accademica verificata e chiede di individuare:

1. quali affermazioni coincidono;
2. quali differiscono;
3. quali non sono sostenute dalle fonti;
4. quali espressioni presentano come certa una semplificazione.

L’intelligenza artificiale non viene quindi utilizzata come un manuale, ma come un testo da sottoporre ad analisi critica.

Come educare gli studenti al dubbio ragionato

Dire semplicemente agli studenti che “l’intelligenza artificiale sbaglia” non è sufficiente. Potrebbe portarli a rifiutare lo strumento oppure a sottovalutare gli errori quando la risposta sembra particolarmente convincente.

È più utile insegnare alcune domande ricorrenti:

• Quale affermazione posso controllare?
• Da dove proviene questa informazione?
• La fonte esiste davvero?
• È aggiornata?
• La risposta distingue fatti e opinioni?
• Mancano eccezioni o punti di vista?
• Utilizza un tono troppo sicuro?
• Posso spiegare il contenuto con parole mie?

Lo scopo non è sviluppare una sfiducia indiscriminata, ma una fiducia proporzionata alle prove disponibili.

Dal consumo alla valutazione

Lo studente competente non si limita a copiare o accettare la risposta.

Impara a:

• scomporla;
• confrontarla;
• correggerla;
• integrarla;
• dichiararne l’utilizzo quando richiesto;
• assumersi la responsabilità del testo finale.

L’intelligenza artificiale può così diventare uno strumento per esercitare il pensiero critico anziché una scorciatoia per evitarlo.

Errori frequenti nell’uso scolastico dell’intelligenza artificiale

Considerare la fluidità una prova di competenza

Un testo chiaro e ben strutturato può contenere informazioni false. La qualità linguistica e la correttezza fattuale devono essere valutate separatamente.

Copiare direttamente la bibliografia generata

Ogni fonte deve essere cercata e verificata singolarmente. Titolo, autore, anno ed editore devono corrispondere a una pubblicazione reale.

Accettare una risposta perché conferma ciò che si pensa

Anche l’utente può essere influenzato da un bias. Una risposta che conferma un’opinione precedente viene spesso controllata meno attentamente.

Usare l’intelligenza artificiale su un tema che non si conosce affatto

Quando manca una base disciplinare, diventa più difficile riconoscere omissioni e contraddizioni. In questi casi è ancora più importante partire da fonti affidabili.

Chiedere una certezza dove non esiste

Il sistema può fornire una risposta anche quando la domanda riguarda un tema controverso o poco documentato. È utile chiedere esplicitamente di distinguere ciò che è noto da ciò che è incerto, ma il risultato deve comunque essere verificato.

Domande frequenti

Perché l’intelligenza artificiale inventa informazioni?

Perché genera sequenze linguistiche plausibili sulla base dei modelli appresi. Quando le informazioni disponibili non sono sufficienti, può completare la risposta con elementi verosimili ma non reali.

Che cosa significa allucinazione dell’intelligenza artificiale?

Indica una risposta falsa, infondata o non sostenuta dalle fonti, presentata in una forma apparentemente credibile. Non implica che il sistema possieda coscienza o percezioni.

Tutte le risposte dell’intelligenza artificiale devono essere controllate?

Il livello di controllo dipende dallo scopo. Le informazioni fattuali utilizzate per insegnare, valutare, prendere decisioni o fornire indicazioni importanti devono essere verificate con particolare attenzione.

L’intelligenza artificiale può fornire fonti attendibili?

Può suggerire fonti reali, ma può anche inventarle o riportarle in modo inesatto. Ogni riferimento deve essere controllato nel catalogo dell’editore, nelle banche dati o nel sito dell’istituzione competente.

Una risposta con collegamenti web è automaticamente affidabile?

No. Il collegamento potrebbe non sostenere l’affermazione, essere superato, provenire da una fonte debole o non funzionare. Occorre aprirlo e leggere il contenuto.

Che differenza c’è tra errore e bias?

L’errore riguarda un’informazione inesatta o una conclusione non corretta. Il bias è una distorsione sistematica che può favorire alcune rappresentazioni, prospettive o categorie rispetto ad altre.

Un prompt migliore elimina le allucinazioni?

Una richiesta precisa può ridurre le ambiguità e migliorare la risposta, ma non elimina il rischio. Anche un prompt ben costruito richiede una verifica esterna quando il contenuto è importante.

Si può usare un errore dell’intelligenza artificiale in una lezione?

Sì. Il confronto tra una risposta generata e fonti attendibili può diventare un’attività utile per sviluppare pensiero critico, competenza informativa e consapevolezza linguistica.

Conclusione

L’intelligenza artificiale può produrre contenuti utili, ma non offre una garanzia automatica di verità.

Il suo funzionamento permette di generare risposte fluenti e coerenti, ma anche informazioni inesatte, fonti inesistenti e rappresentazioni parziali. Il problema non si risolve affidandosi soltanto a una formulazione migliore della domanda o chiedendo al sistema di controllare se stesso.

Nella scuola, la risposta generata dovrebbe essere considerata un materiale da valutare, non un risultato definitivo.

Il ruolo del docente rimane centrale: stabilisce il livello di affidabilità necessario, confronta le fonti, riconosce il contesto e decide se il contenuto può essere utilizzato. Anche i quadri UNESCO sulle competenze relative all’IA sottolineano che questi strumenti devono sostenere, e non sostituire, le responsabilità e la capacità decisionale degli insegnanti.

Educare all’intelligenza artificiale significa anche educare al dubbio ragionato. Non vuol dire diffidare di ogni risposta, ma imparare a distinguere ciò che appare convincente da ciò che è realmente sostenuto da prove verificabili.

Fonti essenziali

• Ministero dell’Istruzione e del Merito, Linee guida per l’introduzione dell’Intelligenza Artificiale nelle istituzioni scolastiche, allegate al Decreto ministeriale n. 166 del 9 agosto 2025.
• National Institute of Standards and Technology, Artificial Intelligence Risk Management Framework: Generative Artificial Intelligence Profile, NIST AI 600-1, 2024.
• UNESCO, Guidance for Generative AI in Education and Research, 2023.
• UNESCO, Recommendation on the Ethics of Artificial Intelligence, 2021.
• UNESCO, AI Competency Framework for Teachers, 2024.
• UNESCO, AI Competency Framework for Students, 2024.

Articoli consigliati

• Intelligenza artificiale a scuola: come usarla in modo consapevole nella didattica
• Metacognizione a scuola: cos’è e perché aiuta gli studenti a imparare meglio
• Imparare a imparare: significato e strategie per sviluppare autonomia nello studio