Un nuovo studio della Virginia Tech, presentato alla conferenza CHI ad aprile dal dottorando Caleb Wohn e guidato dall'assistente professoressa Eugenia Rho, mostra che dichiarare l'autismo modifica in modo significativo i consigli forniti dai grandi modelli linguistici. I ricercatori hanno identificato 12 stereotipi ben documentati e hanno creato centinaia di scenari decisionali «Dovrei fare A o B?» su eventi quotidiani, confronti, nuove esperienze e relazioni sentimentali.
Hanno testato sei grandi modelli, tra cui GPT-4, Claude, Llama, Gemini e DeepSeek, generando 345.000 risposte. In molti casi le raccomandazioni si sono spostate verso ipotesi stereotipate — per esempio maggiore propensione a rifiutare inviti o a evitare relazioni romantiche — anche quando gli utenti si limitavano a dire solo di essere autistici.
- Un modello ha consigliato di rifiutare un invito quasi il 75% delle volte dopo la dichiarazione, contro circa il 15% senza dichiarazione.
- In scenari di appuntamenti un altro modello ha suggerito di evitare il romanticismo quasi il 70% delle volte, rispetto al 50% senza citare l'autismo.
- Undici dei 12 segnali stereotipati hanno influenzato le decisioni in almeno quattro dei sei sistemi testati.
Il team ha inoltre mostrato esempi di risposte a 11 utenti autistici: alcuni sono rimasti scioccati e hanno definito i consigli restrittivi o paternalistici, uno ha commentato «Stiamo scrivendo una rubrica di consigli per Spock?», mentre altri hanno trovato rassicurante un tono più cauto. Rho ha riassunto la tensione con la frase «Il pregiudizio di un utente potrebbe essere la personalizzazione di un altro utente.» Wohn ha avvertito che l'IA può apparire affidabile pur nascondendo bias sistematici; i ricercatori auspicano sistemi più trasparenti che consentano agli utenti di controllare come le informazioni personali influenzano le risposte.
Parole difficili
- autistico — che riguarda l'autismo o la condizione autisticaautistici
- stereotipo — idea fissa e semplificata su un gruppostereotipi
- modello linguistico — programma che genera testo imitandone il linguaggio umanograndi modelli linguistici
- dichiarare — dire ufficialmente o comunicare apertamente qualcosa
- paternalistico — atteggiamento che limita autonomia per eccessiva protezionepaternalistici
- trasparente — chiaro e comprensibile, senza informazioni nascostetrasparenti
- consentire — permettere a qualcuno di fare o usare qualcosaconsentano
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- In che modo consigli stereotipati dei modelli linguistici possono influire sulla vita quotidiana di una persona autistica? Dai esempi concreti.
- Quali caratteristiche pratiche dovrebbe avere un sistema più trasparente che permette agli utenti di controllare l'uso dei loro dati?
- Gli utenti autistici hanno reagito in modo diverso ai consigli mostrati nello studio. Perché possono esistere opinioni così diverse e quale approccio preferiresti ricevere?
Articoli correlati
Collegare computer quantistici a lunga distanza
Ricercatori della University of Chicago propongono un approccio per collegare computer quantistici su grandi distanze. Hanno migliorato la coerenza di atomi in cristalli e usato una tecnica di crescita diversa per ottenere materiali più puri.
Il clima minaccia le banane dell'America Latina
Un nuovo studio e testimonianze di produttori mostrano che il riscaldamento e le ondate di calore stanno riducendo le aree adatte alla produzione di banane da esportazione. Alcune aree sono già molto vulnerabili e servono misure di adattamento.
Case automobilistiche cinesi puntano sull'Africa per gli EV
Dazi e controlli in USA ed Europa hanno spinto le aziende cinesi di veicoli elettrici a cercare nuovi mercati. Molte ora guardano all'Africa per vendite, produzione e catene di fornitura, con progetti concreti in diversi paesi.
