Un equipo de Virginia Tech, liderado desde el laboratorio de la profesora asistente Eugenia Rho y con el doctorando Caleb Wohn, presentó en la conferencia CHI un estudio sobre cómo la divulgación del autismo cambia las respuestas de la IA. Identificaron 12 estereotipos documentados y crearon cientos de escenarios sociales para probar seis grandes modelos de lenguaje.
Los investigadores generaron 345,000 respuestas a miles de indicaciones «¿Debería hacer A o B?» sobre eventos, confrontaciones, nuevas experiencias y relaciones románticas. Encontraron que, al mencionarse el autismo, las recomendaciones tendían a asumir que la persona es introvertida, obsesiva o poco interesada en el romance. Por ejemplo, un modelo recomendó rechazar una invitación casi el 75% de las veces tras la divulgación, frente a cerca del 15% sin la mención; en citas, otro aconsejó evitar el romance casi el 70% de las veces, frente al 50% sin la mención.
El equipo entrevistó a 11 usuarios autistas; algunos se sintieron consternados y otros encontraron el consejo más cauteloso validante. Wohn advirtió que la IA puede parecer fiable mientras oculta sesgos sistemáticos, y los autores piden sistemas más transparentes que permitan controlar cómo la información de identidad moldea las respuestas.
Palabras difíciles
- divulgación — acción de decir una información personal
- estereotipo — idea general y simplificada sobre un grupoestereotipos
- escenario — situación creada para probar o estudiarescenarios
- recomendación — consejo sobre qué hacer en una situaciónrecomendaciones
- sesgo — preferencia o error que distorsiona decisionessesgos
- modelo — programa o sistema que genera textomodelos de lenguaje
- transparente — claro que permite ver cómo funciona algotransparentes
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Crees que la divulgación del autismo debería influir en los consejos de la IA? ¿Por qué?
- ¿Cómo harías más transparente un sistema de IA para evitar sesgos sobre la identidad?
- ¿Has recibido alguna vez una recomendación automatizada que te pareció basada en estereotipos? Describe brevemente.
Artículos relacionados
Patrones de bandadas reducen errores de la IA en resúmenes
Investigadores adaptaron patrones de bandadas de aves para preprocesar textos largos antes de pasarlos a modelos de lenguaje. El método selecciona oraciones representativas y reduce la redundancia, lo que mejora la exactitud factual de los resúmenes.
Entrenamiento de velocidad cognitiva reduce diagnósticos de demencia
Un análisis a 20 años del ensayo ACTIVE encontró que adultos mayores que hicieron entrenamiento de velocidad, con sesiones de refuerzo, tuvieron menos diagnósticos de demencia que el grupo de control. El efecto fue estadísticamente significativo solo en esa modalidad.
