Un equipo de la University of Zurich evaluó cómo la identidad del autor afecta las valoraciones de cuatro LLMs: OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 y Mistral. Los modelos generaron fifty declaraciones narrativas sobre 24 temas controvertidos, entre ellos mandatos de vacunación, geopolítica y políticas sobre cambio climático. El experimento produjo 192’000 valoraciones.
Cuando no se proporcionó información sobre la fuente, los modelos mostraron un alto nivel de acuerdo, over 90% en todos los temas. Sin embargo, al atribuir cada texto a autores ficticios —personas de distintas nacionalidades o a otras IAs— el acuerdo cayó y a veces desapareció, pese a que el texto era idéntico. Los investigadores observaron un fuerte sesgo anti‑chino en todos los modelos, incluso en Deepseek, y encontraron que Deepseek redujo el acuerdo hasta un 75% en un tema sobre la soberanía de Taiwán.
También se vio que la mayoría de los modelos otorgó puntuaciones algo más bajas cuando creyó que el texto fue escrito por otra IA. Los autores advierten que estos sesgos pueden afectar la moderación de contenido, la contratación, la revisión académica y el periodismo, y piden transparencia y gobernanza en el uso de LLMs.
Palabras difíciles
- sesgo — Preferencia o inclinación hacia algo.anti-chino
- investigadores — Personas que estudian un tema o problema.
- modelo — Ejemplo o sistema que se sigue.modelos
- concordancia — Acuerdo o coincidencia entre cosas.
- transparencia — Claridad en la comunicación o información.
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Por qué es importante la transparencia en la evaluación de textos?
- ¿Cómo podría afectar el sesgo en modelos de lenguaje en la sociedad?
- ¿Qué soluciones propondrías para reducir el sesgo en MLG?
Artículos relacionados
Aguada Fénix: un monumento maya y su cosmograma
Un equipo informó en 2020 sobre un enorme monumento en Aguada Fénix, Tabasco. Las excavaciones muestran un cosmograma con objetos ceremoniales, pigmentos y calzadas; el sitio data del primer milenio a.C. y no parece tener un rey central.
La “respiración” de las baterías reduce su vida útil
Investigadores hallaron que la expansión y contracción en cada ciclo de carga y descarga causa tensiones internas, llamadas degradación quimomecánica y "cascadas de tensión", que acortan la vida de las baterías. El estudio fue publicado en Science.
La molly del Amazonas mantiene buena salud genética pese a la clonación
Investigadores de la University of Missouri muestran que la molly del Amazonas, un pez totalmente femenino que se reproduce por clonación, evita problemas genéticos gracias a la conversión génica, según un estudio publicado en Nature.
