Un equipo de la University of Zurich evaluó cómo la identidad del autor afecta las valoraciones de cuatro LLMs: OpenAI o3-mini, Deepseek Reasoner, xAI Grok 2 y Mistral. Los modelos generaron fifty declaraciones narrativas sobre 24 temas controvertidos, entre ellos mandatos de vacunación, geopolítica y políticas sobre cambio climático. El experimento produjo 192’000 valoraciones.
Cuando no se proporcionó información sobre la fuente, los modelos mostraron un alto nivel de acuerdo, over 90% en todos los temas. Sin embargo, al atribuir cada texto a autores ficticios —personas de distintas nacionalidades o a otras IAs— el acuerdo cayó y a veces desapareció, pese a que el texto era idéntico. Los investigadores observaron un fuerte sesgo anti‑chino en todos los modelos, incluso en Deepseek, y encontraron que Deepseek redujo el acuerdo hasta un 75% en un tema sobre la soberanía de Taiwán.
También se vio que la mayoría de los modelos otorgó puntuaciones algo más bajas cuando creyó que el texto fue escrito por otra IA. Los autores advierten que estos sesgos pueden afectar la moderación de contenido, la contratación, la revisión académica y el periodismo, y piden transparencia y gobernanza en el uso de LLMs.
Palabras difíciles
- sesgo — Preferencia o inclinación hacia algo.anti-chino
- investigadores — Personas que estudian un tema o problema.
- modelo — Ejemplo o sistema que se sigue.modelos
- concordancia — Acuerdo o coincidencia entre cosas.
- transparencia — Claridad en la comunicación o información.
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Por qué es importante la transparencia en la evaluación de textos?
- ¿Cómo podría afectar el sesgo en modelos de lenguaje en la sociedad?
- ¿Qué soluciones propondrías para reducir el sesgo en MLG?
Artículos relacionados
La “respiración” de las baterías reduce su vida útil
Investigadores hallaron que la expansión y contracción en cada ciclo de carga y descarga causa tensiones internas, llamadas degradación quimomecánica y "cascadas de tensión", que acortan la vida de las baterías. El estudio fue publicado en Science.
Estudio sobre la enseñanza en línea en China durante el confinamiento de 2020
Investigadores analizaron cómo el cambio rápido a clases en línea durante el confinamiento por COVID-19 afectó a estudiantes universitarios en China. Los resultados varían por materia y por las políticas locales.
Sistemas naturales para limpiar paneles solares en el desierto
Investigadores egipcios crearon dos sistemas inspirados en la naturaleza para quitar el polvo del desierto de paneles solares. Un sistema usa vibraciones y otro usa el viento; las pruebas muestran pérdidas menores de energía.