Un equipo de Virginia Tech, liderado desde el laboratorio de la profesora asistente Eugenia Rho y con el doctorando Caleb Wohn, presentó en la conferencia CHI un estudio sobre cómo la divulgación del autismo cambia las respuestas de la IA. Identificaron 12 estereotipos documentados y crearon cientos de escenarios sociales para probar seis grandes modelos de lenguaje.
Los investigadores generaron 345,000 respuestas a miles de indicaciones «¿Debería hacer A o B?» sobre eventos, confrontaciones, nuevas experiencias y relaciones románticas. Encontraron que, al mencionarse el autismo, las recomendaciones tendían a asumir que la persona es introvertida, obsesiva o poco interesada en el romance. Por ejemplo, un modelo recomendó rechazar una invitación casi el 75% de las veces tras la divulgación, frente a cerca del 15% sin la mención; en citas, otro aconsejó evitar el romance casi el 70% de las veces, frente al 50% sin la mención.
El equipo entrevistó a 11 usuarios autistas; algunos se sintieron consternados y otros encontraron el consejo más cauteloso validante. Wohn advirtió que la IA puede parecer fiable mientras oculta sesgos sistemáticos, y los autores piden sistemas más transparentes que permitan controlar cómo la información de identidad moldea las respuestas.
Palabras difíciles
- divulgación — acción de decir una información personal
- estereotipo — idea general y simplificada sobre un grupoestereotipos
- escenario — situación creada para probar o estudiarescenarios
- recomendación — consejo sobre qué hacer en una situaciónrecomendaciones
- sesgo — preferencia o error que distorsiona decisionessesgos
- modelo — programa o sistema que genera textomodelos de lenguaje
- transparente — claro que permite ver cómo funciona algotransparentes
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Crees que la divulgación del autismo debería influir en los consejos de la IA? ¿Por qué?
- ¿Cómo harías más transparente un sistema de IA para evitar sesgos sobre la identidad?
- ¿Has recibido alguna vez una recomendación automatizada que te pareció basada en estereotipos? Describe brevemente.
Artículos relacionados
Etiquetas ultrasónicas sin batería para el hogar
Investigadores desarrollaron pequeñas etiquetas metálicas sin batería que emiten pulsos ultrasónicos al tocarlas. Son baratas, silenciosas y generan señales únicas que un dispositivo cercano puede detectar y registrar para usos en el hogar.
El cambio climático amenaza el banano de América Latina
Un estudio advierte que el aumento de temperaturas puede reducir fuertemente las zonas aptas para el banano de exportación en América Latina y el Caribe para 2080 si no se toman medidas. Agricultores y científicos prueban estrategias de adaptación en el terreno.
MRI e IA miden el flujo de limpieza del cerebro
Investigadores usaron resonancia magnética e inteligencia artificial para estimar la velocidad de un líquido cerebral que elimina desechos y está vinculado al Alzheimer. La técnica usa IA informada por la física y datos de MRI y vídeos.