Un equipo de Virginia Tech, liderado desde el laboratorio de la profesora asistente Eugenia Rho y con el doctorando Caleb Wohn, presentó en la conferencia CHI un estudio sobre cómo la divulgación del autismo cambia las respuestas de la IA. Identificaron 12 estereotipos documentados y crearon cientos de escenarios sociales para probar seis grandes modelos de lenguaje.
Los investigadores generaron 345,000 respuestas a miles de indicaciones «¿Debería hacer A o B?» sobre eventos, confrontaciones, nuevas experiencias y relaciones románticas. Encontraron que, al mencionarse el autismo, las recomendaciones tendían a asumir que la persona es introvertida, obsesiva o poco interesada en el romance. Por ejemplo, un modelo recomendó rechazar una invitación casi el 75% de las veces tras la divulgación, frente a cerca del 15% sin la mención; en citas, otro aconsejó evitar el romance casi el 70% de las veces, frente al 50% sin la mención.
El equipo entrevistó a 11 usuarios autistas; algunos se sintieron consternados y otros encontraron el consejo más cauteloso validante. Wohn advirtió que la IA puede parecer fiable mientras oculta sesgos sistemáticos, y los autores piden sistemas más transparentes que permitan controlar cómo la información de identidad moldea las respuestas.
Palabras difíciles
- divulgación — acción de decir una información personal
- estereotipo — idea general y simplificada sobre un grupoestereotipos
- escenario — situación creada para probar o estudiarescenarios
- recomendación — consejo sobre qué hacer en una situaciónrecomendaciones
- sesgo — preferencia o error que distorsiona decisionessesgos
- modelo — programa o sistema que genera textomodelos de lenguaje
- transparente — claro que permite ver cómo funciona algotransparentes
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Crees que la divulgación del autismo debería influir en los consejos de la IA? ¿Por qué?
- ¿Cómo harías más transparente un sistema de IA para evitar sesgos sobre la identidad?
- ¿Has recibido alguna vez una recomendación automatizada que te pareció basada en estereotipos? Describe brevemente.
Artículos relacionados
TikTok y el clan en Somalia
Una investigación muestra que TikTok amplifica la identidad clanica en Somalia, aumenta la polarización y puede financiar conflictos como los de Laasanood en 2023. También hay creadores que promueven la paz y recomendaciones de moderación y educación digital.
Grasas de fórmulas infantiles y el hígado en desarrollo
Un estudio en lechones neonatales encontró que el tipo de grasa en algunas fórmulas puede acelerar la acumulación de grasa en el hígado y mostrar signos tempranos de enfermedad hepática. Los investigadores advierten que hacen falta más estudios.
Cómo juzgan la llegada de coches las personas con pérdida de visión
Un estudio comparó a adultos con degeneración macular y a adultos con visión normal usando realidad virtual y sonidos de coche. Encontraron estimaciones similares y no hallaron ventaja cuando vista y sonido se combinaron.
Cómo cambió ChatGPT el debate sobre la IA
La llegada masiva de ChatGPT en noviembre de 2022 transformó el debate público sobre la inteligencia artificial. El texto repasa efectos, confusión por la terminología y la petición de expertos de priorizar seguridad, derechos y la conexión humana.