#55 – 22 giugno 2025
Sta facendo il giro dei giornali nostrani, che sembrano avere una particolare avversione nei confronti dei LLM, un recente studio del MIT Media Lab di Boston, intitolato “Your Brain on ChatGPT: Accumulation of Cognitive Debt when Using an AI Assistant for Essay Writing Task“.
Lo studio evidenzia come l’uso massiccio dei modelli generativi possa ridurre l’attività cerebrale e la capacità di apprendimento e memorizzazione.
Uno sguardo allo studio del MIT
I ricercatori del MIT hanno condotto lo studio scegliendo la scrittura di un saggio come compito principale. Lo studio ha coinvolto 54 partecipanti di età compresa tra 18 e 39 anni, reclutati da cinque università dell’area di Boston. Questi partecipanti sono stati divisi in tre gruppi distinti per le prime tre sessioni, ciascuna della durata di 60 minuti:
- Gruppo LLM: I partecipanti potevano utilizzare esclusivamente ChatGPT di OpenAI come risorsa per scrivere il saggio, senza accesso ad altri browser o app;
- Gruppo motore di ricerca: I partecipanti potevano usare qualsiasi sito web (prevalentemente Google) ma con la clausola “-ai” aggiunta a tutte le query per evitare risposte migliorate dall’IA;
- Gruppo “solo cervello”: i partecipanti non potevano utilizzare alcun sito web, strumento online/offline o LLM, dovendosi basare esclusivamente sulle proprie conoscenze.
Durante ogni sessione, l’attività cerebrale dei partecipanti è stata monitorata tramite elettroencefalografia (EEG). Oltre ai dati EEG, sono state condotte analisi di elaborazione del linguaggio naturale (NLP) sui saggi prodotti e interviste post-sessione con ciascun partecipante. I saggi sono stati valutati sia da insegnanti umani sia da un giudice AI appositamente creato.
Il “Test del debito cognitivo”
La quarta sessione è stata la più rivelatrice in termini di debito cognitivo. Diciotto dei 54 partecipanti hanno scelto di proseguire con questa sessione aggiuntiva. Qui, i ruoli sono stati invertiti:
- I partecipanti originariamente nel gruppo LLM hanno dovuto scrivere saggi senza l’ausilio di alcun strumento.
- I partecipanti originariamente nel gruppo “Solo Cervello” hanno invece utilizzato un LLM.
I risultati chiave: Il debito cognitivo prende forma
1. Attività cerebrale e carico cognitivo: meno AI, più cervello attivo
Il dato più significativo è emerso dall’analisi EEG. La connettività neurale è risultata sistematicamente ridotta con l’aumento del supporto esterno.
- Gruppo solo cervello: Ha mostrato le reti più robuste e ad ampio raggio in tutte le bande di frequenza (alfa, beta, delta, theta). Quindi un maggiore coinvolgimento delle risorse cognitive interne.
- Gruppo motore di ricerca: Ha mostrato un impegno intermedio, con una connettività totale inferiore rispetto al gruppo solo cervello (dal 34% al 48% in meno a seconda della banda).
Gruppo LLM: qui è emersa la connettività neurale più debole in assoluto, con una riduzione fino al 55% della connettività totale rispetto al gruppo solo cervello. In particolare, l’attività cerebrale si è spostata verso l’integrazione procedurale e la coordinazione motoria (ad es. la digitazione), piuttosto che l’elaborazione semantica o la valutazione visiva.
Sessione 4: Il Debito si Palesa
I risultati della Sessione 4 sono stati i più allarmanti. I partecipanti del gruppo LLM-a-Cervello (coloro che avevano usato l’LLM nelle sessioni precedenti e poi hanno dovuto scrivere senza strumenti) hanno mostrato una connettività neurale ridotta, indicativa di un minore impegno nella pianificazione interna, nel ragionamento critico e nell’uso della memoria di lavoro.
Al contrario, il gruppo Cervello-a-LLM (coloro che avevano scritto senza strumenti e poi hanno usato l’LLM) ha mostrato un aumento significativo della connettività cerebrale in tutte le bande di frequenza. Questo indica che l’introduzione dell’AI in un flusso di lavoro guidato internamente ha costretto il cervello a riconciliare i piani interni con i suggerimenti esterni, aumentando la domanda di attenzione e il carico di integrazione.
2. Memoria e difficoltà a ricordare ciò che l’AI ha scritto
Un’altra differenza si è riscontrata nella capacità dei partecipanti di citare correttamente i propri saggi.
- Nel Gruppo LLM, l’83,3% dei partecipanti (15 su 18) ha avuto difficoltà a fornire una citazione corretta nella Sessione 1, e nessuno ha prodotto una citazione esatta.
- I gruppi Motore di Ricerca e Solo Cervello non hanno mostrato tali deficit, raggiungendo quasi la perfezione nella capacità di citare i propri saggi entro la Sessione 2.
3. Omogeneità Linguistica e Bias: L’Impronta dell’AI
L’analisi del linguaggio naturale (NLP) ha rivelato che i saggi prodotti con l’aiuto degli LLM erano statisticamente più omogenei all’interno di ogni argomento (quindi di contenuto assai simile).
Nel gruppo LLM-a-Cervello della Sessione 4, è stata osservata una persistenza di bias dall’uso precedente degli LLM: i partecipanti hanno continuato a riutilizzare lo stesso vocabolario e la stessa struttura, a differenza del gruppo Solo Cervello che non mostrava tale ripetitività nelle sessioni precedenti.
4. Il Giudizio Umano vs. il Giudizio AI: un sapore “senza anima”
Gli insegnanti umani, pur non conoscendo l’assegnazione dei gruppi, hanno riconosciuto uno stile di scrittura distintivo associato al gruppo LLM. Hanno descritto questi saggi come “senz’anima”, con frasi tipiche e una struttura convenzionale, nonostante la loro lunghezza e la trattazione approfondita. La loro valutazione ha privilegiato l’individualità e la creatività rispetto alla “perfezione” oggettiva.
Il giudice AI, al contrario, tendeva a valutare gli stessi saggi del gruppo LLM con punteggi elevati in unicità e qualità.
Le conclusioni: usare solo gli LLM causa un debito cognitivo
Secondo i ricercatori i risultati dello studio indicherebbero che sebbene gli LLM possano ridurre il carico cognitivo immediato e aumentare la produttività in alcune attività di scrittura, questo beneficio può comportare un costo a lungo termine per le capacità cognitive intrinseche. Il “debito cognitivo” si accumula quando la dipendenza ripetuta da sistemi esterni, come gli LLM, sostituisce i processi cognitivi faticosi ma essenziali per il pensiero indipendente.
Insomma, usare solo gli LLM per lungo tempo determina un deterioramento delle capacità cognitive. Le conseguenze includono:
- Diminuzione delle abilità di pensiero critico.
- Ridotta creatività e originalità
- Compromissione della memoria e dell’apprendimento profondo
- Perdita di autorialità
Come evitare il debito cognitivo: strumenti e strategie per un uso consapevole degli LLM
Personalmente non credo che sia il caso di allarmarsi in maniera esagerata oppure di demonizzare gli LLM, dato che ben prima di loro il “debito cognitivo” poteva (e può ancora) essere accumulato guardando troppa televisione, stando troppo sui social media o, comunque, in tutte quelle attività che fanno, per così dire, “spegnere il cervello”.
Vero è che gli LLM pongono una sfida ulteriore, perché la loro utilità è indubbia in molteplici ambiti, anche lavorativi, e lo studio non fa che evidenziare l’assoluta necessità che abbiamo di imparare a usarli in modo strategico e consapevole. L’obiettivo è sfruttare i loro benefici senza compromettere le nostre capacità cognitive fondamentali. Il pensiero critico rimane la base di ogni ragionamento.
Ecco alcune strategie e “strumenti” che possiamo utilizzare:
1. L’Approccio “Cervello Prima”:
- Inizia sempre con la tua mente: prima di rivolgerti a un LLM, prova a generare idee, una bozza o uno schema basandoti sulle tue conoscenze. Questa attivvità aiuterà anche successivamente a formulare i prompt giusti;
- Sfrutta l’AI per la revisione, non per la generazione iniziale: usa l’LLM per controllare la grammatica, migliorare la fluidità, riorganizzare i paragrafi o espandere un punto che hai già formulato.
2. Impara a fare “Prompt Engineering Critico”:
- Non accettare passivamente: Invece di chiedere semplicemente “scrivi un saggio su X”, prova a chiedere:
- “Quali sono gli argomenti principali pro e contro X?” (per stimolare il pensiero dialettico)
- “Forniscimi fonti autorevoli per queste affermazioni su X” (per verificare le informazioni e sviluppare l’abilità di ricerca)
- “Quali sono i possibili bias in questa risposta su X?” (per allenare il riconoscimento dei bias)
- “Riformula questo paragrafo con un tono più formale/informale, ma mantieni la mia idea originale” (per affinare la tua voce autoriale).
- Richiedi prospettive diverse: chiedi di presentare diverse angolazioni su un argomento, come fanno i motori di ricerca tradizionali.
3. Bilanciare le fonti e verificare sempre:
- Diversifica gli strumenti: non affidarti a un solo LLM o a un solo motore di ricerca. Usa gli LLM per la sintesi e la generazione di idee, ma poi verifica le informazioni con motori di ricerca tradizionali, banche dati accademiche, libri e fonti primarie. La capacità di accedere a un’ampia varietà di risorse online promuove il pensiero critico.
- Fai fact-checking manuale: Non dare per scontato che l’output dell’AI sia sempre accurato. L’LLM può “allucinare” riferimenti o introdurre bias.
4. Promuovere l’Impegno Attivo e la Riflessione:
- Focus sul processo, non solo sul prodotto: Ricorda che l’apprendimento non è solo il risultato finale, ma il percorso per arrivarci. Interagisci attivamente con il materiale, rielaboralo, sintetizzalo e collegalo alle tue conoscenze esistenti.
- Metacognizione: Rifletti su come stai usando l’AI e su come sta influenzando il tuo processo di pensiero. Chiediti: “Sto davvero imparando o sto solo delegando?”.
- Discuti con gli altri: Il confronto umano-umano e l’apprendimento collaborativo sono fondamentali per la comprensione e la ritenzione dei materiali.
5. Sfruttare l’AI per “allenare” il tuo Cervello:
- Usa l’AI come “sparring partner”: Invece di far scrivere un saggio all’AI, chiedile di farti domande, di proporre argomenti contrari, o di simulare un dibattito per rafforzare il tuo pensiero critico.
- Crea “quiz” personalizzati: Dopo aver studiato un argomento, chiedi all’AI di generare domande o scenari per testare la tua comprensione e la tua memoria.
E poi, ovviamente, la cura di tutto: leggere molti bei libri!
Happy Prompting!
