Investigaciones recientes muestran que los Modelos de Lenguaje Grande (MLG) juzgan textos de manera distinta dependiendo de la identidad del autor. El estudio realizado por investigadores de la Universidad de Zurich revela un fuerte sesgo anti-chino en la evaluación de textos. Este sesgo aparece especialmente cuando se identifica al autor como una persona de China.
Los investigadores probaron cuatro MLG en diferentes condiciones. Cuando no se proporcionó información sobre el autor, los modelos mostraron un alto nivel de acuerdo, superior al 90%. Sin embargo, al revelar que un texto era de un autor chino, la evaluación cambió drásticamente, a veces disminuyendo la concordancia completamente.
Es interesante notar que los MLG tienden a confiar más en la escritura humana que en la generada por otros MLG. Esto sugiere una desconfianza inherente hacia el contenido generado por máquinas, lo que podría llevar a problemas en áreas como la moderación de contenido y la selección de personal. Por ello, los investigadores subrayan la necesidad de implementar más transparencia en la forma en que estos modelos evalúan la información.
Palabras difíciles
- sesgo — Preferencia o inclinación hacia algo.anti-chino
- investigadores — Personas que estudian un tema o problema.
- modelo — Ejemplo o sistema que se sigue.modelos
- concordancia — Acuerdo o coincidencia entre cosas.
- transparencia — Claridad en la comunicación o información.
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Por qué es importante la transparencia en la evaluación de textos?
- ¿Cómo podría afectar el sesgo en modelos de lenguaje en la sociedad?
- ¿Qué soluciones propondrías para reducir el sesgo en MLG?
Artículos relacionados
Los científicos del bosón de Higgs enfrentan la contaminación del aire en Sudáfrica
Los científicos utilizan inteligencia artificial para monitorear la calidad del aire en tiempo real en Sudáfrica, un país con alta contaminación.
Estos videos culturales orales archivados preservan generaciones de conocimiento que se están desvaneciendo
Los videos de la cultura oral ayudan a conservar conocimientos tradicionales y narrativas de comunidades, que están en riesgo de desaparecer.
La nueva prueba de anticuerpos que no necesita sangre ni hisopos nasales
Una nueva prueba de anticuerpos se puede realizar en 10 minutos sin necesidad de extraer sangre. Utiliza biosensores portátiles para detectar anticuerpos de virus como SARS-CoV-2 e influenza.
La IA y los ciudadanos detectan un mosquito invasor en Madagascar
Investigadores han utilizado inteligencia artificial y fotos de ciudadanos para identificar un mosquito invasor en Madagascar. Este mosquito es una amenaza creciente para la malaria en África.
La ciencia es un bien público, no un negocio
La científica Ana María Cetto promueve la ciencia abierta en Latinoamérica. Esta búsqueda hace que el conocimiento sea accesible para todos.
Un estudio conecta la biología celular con las redes cerebrales
Un estudio publicado en Nature Communications conecta datos de imágenes, genética y moléculas para mostrar cómo la biología celular produce las grandes redes cerebrales. El hallazgo puede cambiar el estudio de la cognición y trastornos mentales.