Un nuovo studio della Virginia Tech, presentato alla conferenza CHI ad aprile dal dottorando Caleb Wohn e guidato dall'assistente professoressa Eugenia Rho, mostra che dichiarare l'autismo modifica in modo significativo i consigli forniti dai grandi modelli linguistici. I ricercatori hanno identificato 12 stereotipi ben documentati e hanno creato centinaia di scenari decisionali «Dovrei fare A o B?» su eventi quotidiani, confronti, nuove esperienze e relazioni sentimentali.
Hanno testato sei grandi modelli, tra cui GPT-4, Claude, Llama, Gemini e DeepSeek, generando 345.000 risposte. In molti casi le raccomandazioni si sono spostate verso ipotesi stereotipate — per esempio maggiore propensione a rifiutare inviti o a evitare relazioni romantiche — anche quando gli utenti si limitavano a dire solo di essere autistici.
- Un modello ha consigliato di rifiutare un invito quasi il 75% delle volte dopo la dichiarazione, contro circa il 15% senza dichiarazione.
- In scenari di appuntamenti un altro modello ha suggerito di evitare il romanticismo quasi il 70% delle volte, rispetto al 50% senza citare l'autismo.
- Undici dei 12 segnali stereotipati hanno influenzato le decisioni in almeno quattro dei sei sistemi testati.
Il team ha inoltre mostrato esempi di risposte a 11 utenti autistici: alcuni sono rimasti scioccati e hanno definito i consigli restrittivi o paternalistici, uno ha commentato «Stiamo scrivendo una rubrica di consigli per Spock?», mentre altri hanno trovato rassicurante un tono più cauto. Rho ha riassunto la tensione con la frase «Il pregiudizio di un utente potrebbe essere la personalizzazione di un altro utente.» Wohn ha avvertito che l'IA può apparire affidabile pur nascondendo bias sistematici; i ricercatori auspicano sistemi più trasparenti che consentano agli utenti di controllare come le informazioni personali influenzano le risposte.
Parole difficili
- autistico — che riguarda l'autismo o la condizione autisticaautistici
- stereotipo — idea fissa e semplificata su un gruppostereotipi
- modello linguistico — programma che genera testo imitandone il linguaggio umanograndi modelli linguistici
- dichiarare — dire ufficialmente o comunicare apertamente qualcosa
- paternalistico — atteggiamento che limita autonomia per eccessiva protezionepaternalistici
- trasparente — chiaro e comprensibile, senza informazioni nascostetrasparenti
- consentire — permettere a qualcuno di fare o usare qualcosaconsentano
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- In che modo consigli stereotipati dei modelli linguistici possono influire sulla vita quotidiana di una persona autistica? Dai esempi concreti.
- Quali caratteristiche pratiche dovrebbe avere un sistema più trasparente che permette agli utenti di controllare l'uso dei loro dati?
- Gli utenti autistici hanno reagito in modo diverso ai consigli mostrati nello studio. Perché possono esistere opinioni così diverse e quale approccio preferiresti ricevere?
Articoli correlati
Persone con degenerazione maculare stimano l'arrivo delle auto
Uno studio con realtà virtuale ha confrontato adulti con degenerazione maculare legata all'età e adulti con visione normale nella stima del tempo di arrivo di un veicolo. I risultati mostrano performance simili e nessun vantaggio aggiuntivo dalla combinazione vista+suono.
Indonesia rafforza le regole per le piattaforme digitali
Il governo indonesiano intensifica la regolazione delle piattaforme digitali, chiedendo trasparenza sugli algoritmi e imponendo registrazioni, rimozioni e multe. La scelta ha provocato controversie, proteste e critiche sulla chiarezza delle norme.
Targhette metalliche senza batteria per la casa intelligente
Ricercatori del Georgia Tech hanno creato piccole targhette metalliche senza batteria che inviano brevi impulsi ultrasonici quando vengono toccate. Un dispositivo indossabile vicino può rilevare i segnali per monitorare attività in casa.
