Un equipo de Virginia Tech, liderado desde el laboratorio de la profesora asistente Eugenia Rho y con el doctorando Caleb Wohn, presentó en la conferencia CHI un estudio sobre cómo la divulgación del autismo cambia las respuestas de la IA. Identificaron 12 estereotipos documentados y crearon cientos de escenarios sociales para probar seis grandes modelos de lenguaje.
Los investigadores generaron 345,000 respuestas a miles de indicaciones «¿Debería hacer A o B?» sobre eventos, confrontaciones, nuevas experiencias y relaciones románticas. Encontraron que, al mencionarse el autismo, las recomendaciones tendían a asumir que la persona es introvertida, obsesiva o poco interesada en el romance. Por ejemplo, un modelo recomendó rechazar una invitación casi el 75% de las veces tras la divulgación, frente a cerca del 15% sin la mención; en citas, otro aconsejó evitar el romance casi el 70% de las veces, frente al 50% sin la mención.
El equipo entrevistó a 11 usuarios autistas; algunos se sintieron consternados y otros encontraron el consejo más cauteloso validante. Wohn advirtió que la IA puede parecer fiable mientras oculta sesgos sistemáticos, y los autores piden sistemas más transparentes que permitan controlar cómo la información de identidad moldea las respuestas.
Palabras difíciles
- divulgación — acción de decir una información personal
- estereotipo — idea general y simplificada sobre un grupoestereotipos
- escenario — situación creada para probar o estudiarescenarios
- recomendación — consejo sobre qué hacer en una situaciónrecomendaciones
- sesgo — preferencia o error que distorsiona decisionessesgos
- modelo — programa o sistema que genera textomodelos de lenguaje
- transparente — claro que permite ver cómo funciona algotransparentes
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Crees que la divulgación del autismo debería influir en los consejos de la IA? ¿Por qué?
- ¿Cómo harías más transparente un sistema de IA para evitar sesgos sobre la identidad?
- ¿Has recibido alguna vez una recomendación automatizada que te pareció basada en estereotipos? Describe brevemente.
Artículos relacionados
MRI e IA miden el flujo de limpieza del cerebro
Investigadores usaron resonancia magnética e inteligencia artificial para estimar la velocidad de un líquido cerebral que elimina desechos y está vinculado al Alzheimer. La técnica usa IA informada por la física y datos de MRI y vídeos.
