El estudio, presentado en la conferencia CHI de la Association for Computing Machinery por el doctorando Caleb Wohn y el equipo del laboratorio de la profesora asistente Eugenia Rho en Virginia Tech, evaluó hasta qué punto la divulgación del autismo altera las recomendaciones de grandes modelos de lenguaje. Los investigadores identificaron 12 estereotipos bien documentados y construyeron cientos de escenarios de toma de decisiones para probar seis sistemas distintos, entre ellos GPT-4, Claude, Llama, Gemini y DeepSeek.
En total generaron 345,000 respuestas a miles de indicaciones del tipo «¿Debería hacer A o B?» que abarcaban eventos sociales, confrontaciones, nuevas experiencias y relaciones románticas. Los resultados muestran desplazamientos sistemáticos hacia supuestos estereotípicos: por ejemplo, un modelo recomendó rechazar una invitación casi el 75% de las veces tras la divulgación del autismo, frente a cerca del 15% cuando no se mencionó; en escenarios de citas, otro aconsejó evitar el romance casi el 70% frente al 50% sin la mención. Además, once de las 12 señales estereotípicas influyeron significativamente en al menos cuatro de los seis sistemas evaluados.
El equipo complementó el análisis con entrevistas a 11 usuarios autistas, que mostraron reacciones mixtas: algunos describieron las respuestas como restrictivas o condescendientes —uno preguntó «¿Estamos escribiendo una columna de consejos para Spock aquí?»— y otros apreciaron consejos más cautelosos. Rho resumió la tensión con la frase «El sesgo de un usuario podría ser la personalización de otro usuario», y los autores califican el hallazgo como una «paradoja de seguridad-oportunidad». Wohn advirtió que la IA puede ocultar sesgos a la vez que parece fiable; el equipo espera que estos resultados impulsen a los desarrolladores a crear sistemas más transparentes que permitan a los usuarios controlar cómo la identidad personal moldea las respuestas. Fuente: Virginia Tech.
- Metodología: 12 estereotipos y cientos de escenarios.
- Modelos probados: seis grandes sistemas, entre ellos GPT-4.
- Resultados: cambios claros en recomendaciones sociales.
Palabras difíciles
- divulgación — acto de dar a conocer información personal
- estereotipo — idea general y simplificada sobre un grupoestereotipos
- sesgo — tendencia o prejuicio que altera juiciosesgos
- personalización — adaptación de respuestas a características personales
- paradoja — situación con resultados opuestos o contradictorios
- condescendiente — que trata a otros con superioridad o paternalismocondescendientes
- transparente — claro y comprensible sobre cómo funciona algotransparentes
- recomendación — consejo o sugerencia para tomar una decisiónrecomendaciones
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Qué ventajas y riesgos ves en que un modelo adapte sus respuestas según la identidad personal, como el autismo?
- ¿Qué cambios concretos podrían pedir los usuarios para controlar cómo su identidad moldea las respuestas de un sistema?
- ¿Deberían los desarrolladores priorizar más la transparencia o la seguridad en estos sistemas? Explica tu razón.
Artículos relacionados
Dos tipos de microglías controlan la ansiedad en ratones
Un estudio de la Universidad de Utah encontró que dos poblaciones de microglías tienen efectos opuestos sobre la ansiedad en ratones. Los resultados abren la posibilidad de terapias que actúen sobre estas células, aunque no serán inmediatas.
Cómo cambió ChatGPT el debate sobre la IA
La llegada masiva de ChatGPT en noviembre de 2022 transformó el debate público sobre la inteligencia artificial. El texto repasa efectos, confusión por la terminología y la petición de expertos de priorizar seguridad, derechos y la conexión humana.
Cambio de carne por sustituto vegetal altera la leche materna
Un ensayo pequeño encontró que sustituir carne de vaca por un sustituto vegetal ultraprocesado cambió los tipos de grasa en la leche materna en seis días; los investigadores dicen que esto podría afectar el desarrollo cerebral y la inmunidad.