Ad aprile il dottorando Caleb Wohn ha presentato alla conferenza CHI uno studio condotto dal laboratorio dell'assistente professoressa Eugenia Rho alla Virginia Tech. Il team ha analizzato come cambiano le risposte dei grandi modelli linguistici quando gli utenti dichiarano di essere autistici prima di chiedere consigli sociali.
I ricercatori hanno identificato 12 stereotipi comuni e hanno creato centinaia di scenari decisionali «Dovrei fare A o B?» su eventi, nuove esperienze e relazioni. Hanno testato sei modelli, tra cui GPT-4, Claude, Llama, Gemini e DeepSeek, generando 345.000 risposte.
Alcuni esempi mostrano cambiamenti netti: un modello consigliava di rifiutare inviti molto più spesso dopo la dichiarazione dell'autismo; in alcuni scenari di appuntamenti un altro modello suggeriva di evitare il romanticismo più frequentemente. Il team ha anche intervistato 11 utenti autistici; alcuni hanno definito le risposte paternalistiche, altri le hanno trovate rassicuranti. Rho ha parlato di una tensione tra pregiudizio e personalizzazione, e Wohn ha avvertito che l'IA può celare bias sistematici.
Parole difficili
- dottorando — persona che sta facendo un dottorato
- stereotipo — idea generalizzata e spesso sbagliata su un gruppostereotipi
- scenario — situazione ipotetica usata per valutare sceltescenari
- modello — sistema o programma che genera rispostemodelli
- consiglio — suggerimento su cosa fare in una situazioneconsigli
- paternalistico — atteggiamento che tratta gli altri come bambinipaternalistiche
- pregiudizio — opinione negativa non basata su fatti
- personalizzazione — adattare risposte o servizi a una persona
- autismo — condizione neurologica che riguarda comunicazione e comportamento
Suggerimento: passa il mouse o tocca le parole evidenziate nell’articolo per vedere definizioni rapide mentre leggi o ascolti.
Domande di discussione
- Gli utenti dovrebbero dichiarare di essere autistici prima di chiedere consigli all'IA? Perché sì o perché no?
- Quali problemi possono nascere quando un modello cambia le risposte dopo la dichiarazione di autismo?
- Come pensi che i progettisti possano migliorare le risposte dei modelli per essere più utili e rispettosi?
Articoli correlati
Misurare il flusso di fluidi nel cervello con MRI e intelligenza artificiale
Ricercatori hanno usato MRI e intelligenza artificiale per stimare il lento flusso di fluidi che rimuove rifiuti dal cervello, collegato all’Alzheimer. Lo studio mostra due modalità di flusso e punta a applicazioni cliniche future.
La rimozione dei cookie riduce i ricavi pubblicitari
Uno studio della Boston University mostra che eliminare i cookie di terze parti ha ridotto i ricavi pubblicitari e danneggiato l’economia online. Il tentativo di Google con Privacy Sandbox ha recuperato solo una piccola parte delle entrate perse.
Un dispositivo non invasivo per misurare la viscosità del sangue
Ricercatori della University of Missouri hanno sviluppato una tecnologia non invasiva che monitora in tempo reale la viscosità del sangue. Il metodo usa onde ultrasoniche e software e potrebbe portare a dispositivi portatili a basso costo.