Investigadores han creado y probado una herramienta capaz de reducir la animosidad partidista en la cronología de X sin eliminar publicaciones ni requerir la cooperación de la plataforma. Publicado en Science, el estudio sugiere que los usuarios podrían, en el futuro, tener mayor control sobre los algoritmos que orientan su atención en línea.
La propuesta consiste en una extensión web que integra un gran modelo de lenguaje para escanear publicaciones y detectar actitudes antidemocráticas y animadversión partidista —por ejemplo llamados a la violencia o a encarcelar oponentes— y después reordenar la cronología para bajar o subir ese contenido. El sistema actúa en cuestión de segundos sobre la cronología de cada usuario.
En los experimentos, unos 1.200 voluntarios usaron la herramienta durante 10 días en la elección de 2024. En pruebas separadas de siete días, grupos vieron su contenido objetivo rebajado o elevado, y un grupo de control no experimentó reordenamiento. No se eliminaron publicaciones; solo se cambió su ubicación. Los participantes a quienes se les bajó el contenido antidemocrático informaron sentimientos más cálidos hacia el otro partido; el efecto se observó tanto entre liberales como entre conservadores. En una escala del 1 al 100, las actitudes mejoraron en promedio dos puntos, un cambio que los autores comparan con la variación estimada en la población de EE. UU. en tres años.
Los coautores principales Martin Saveski (Information School, Universidad de Washington) y Tiziano Piccardi (Universidad Johns Hopkins) destacaron que la herramienta permite estudiar el diseño de algoritmos desde fuera de la plataforma; Piccardi añadió que los participantes se sintieron "más cálidos" con menos exposición y "más fríos" con más exposición. El proyecto combina ciencias de la información, informática, psicología y comunicación. El equipo definió categorías de contenido dañino basándose en trabajos de sociología y publicó el código para que otros puedan crear sistemas de ordenamiento independientes. El trabajo contó con apoyo de la National Science Foundation, la Swiss National Science Foundation y una subvención Hoffman‑Yee del Stanford Institute for Human-Centered Artificial Intelligence; otros coautores proceden de Northeastern y Stanford.
Palabras difíciles
- animosidad — sentimiento negativo fuerte entre grupos políticosanimosidad partidista
- cronología — lista de publicaciones ordenadas según su fecha
- extensión — programa que se añade al navegadorextensión web
- antidemocrático — contrario a principios democráticos o políticosantidemocráticas
- animadversión — antipatía o hostilidad hacia otro grupoanimadversión partidista
- reordenamiento — cambio en la posición de elementos mostrados
- exposición — cantidad de contacto o vista de un contenido
- subvención — dinero que financia un proyecto o investigación
- coautor — persona que contribuye oficialmente a un trabajocoautores
- escala — sistema numérico para medir o comparar valores
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o escuchas.
Preguntas de discusión
- ¿Qué ventajas y riesgos ves en que los usuarios controlen algoritmos con una extensión como la descrita?
- ¿Crees que cambiar la posición de publicaciones sin eliminarlas es una solución ética y efectiva? Explica por qué.
- Si esta herramienta se generalizara, ¿cómo podría afectar a la polarización política y al debate público?
Artículos relacionados
Estudio: los chatbots pueden cambiar opiniones
Investigadores de Yale encontraron que resúmenes de chatbots de IA, incluso cuando son fácticos, pueden alterar las opiniones sociales y políticas de las personas. El artículo analiza comparaciones con Wikipedia y evidencia sobre sesgos latentes en los modelos de lenguaje.
La IA y la modernización de los tribunales en India
India moderniza sus tribunales con el proyecto e-Courts y Fase III, que incorpora IA y otras tecnologías. Herramientas como SUPACE, SUVAS y Adalat.AI ayudan al trabajo judicial, pero hay preocupaciones sobre errores, sesgos y datos personales.
Dispositivos ponibles con IA para diabetes tipo 2 y prediabetes
Una meta-revisión de la University at Buffalo, publicada en NPJ Digital Medicine, analiza estudios sobre ponibles con inteligencia artificial y su uso en diabetes tipo 2 y prediabetes. Encuentra beneficios y límites en la evidencia actual.