Modelos de lenguaje muestran sesgos según la identidad del autor ^{CEFR B2}

Investigadores de la University of Zurich analizaron cómo cambia la evaluación de un texto por parte de cuatro LLMs cuando se indica quién lo escribió. Los modelos estudiados fueron OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 y Mistral. Cada sistema generó fifty declaraciones narrativas sobre 24 temas controvertidos, entre ellos mandatos de vacunación, geopolítica y políticas de cambio climático, y el equipo recopiló 192’000 valoraciones para su análisis.

Con los textos sin atribuir, el acuerdo entre modelos fue alto (over 90%). Al asignar autores ficticios —personas de distintas nacionalidades o la autoría de otra IA— el patrón cambió: la revelación de la identidad produjo un sesgo oculto que redujo drásticamente el consenso, aunque el contenido permaneciera idéntico. El hallazgo más llamativo fue un sesgo consistente contra autores de China en todos los modelos, incluido Deepseek; en un caso sobre la soberanía de Taiwán, Deepseek redujo el acuerdo hasta un 75% porque esperaba un punto de vista distinto.

El estudio también mostró una tendencia general a confiar más en autores humanos que en otras IAs, con puntuaciones algo más bajas cuando se pensaba que el texto era generado por una máquina. Los investigadores advierten que estos sesgos importan en aplicaciones reales —moderación de contenido, contratación, revisión académica y periodismo— y piden más transparencia y gobernanza. Recomiendan usar los LLMs para ayudar al razonamiento y no para sustituirlo. La investigación aparece en Sciences Advances.

• Modelos probados: OpenAI o3-mini
• Deepseek Reasoner
• xAI Grok 2
• Mistral