Un estudio comparó dos formas de entrenar modelos de lenguaje para multiplicar números largos. Los investigadores observaron que los modelos entrenados de forma estándar no guardan valores intermedios, por eso fallan en pasos largos.
El equipo probó un método llamado cadena de pensamiento implícita (ICoT). Con ICoT el modelo alcanzó 100% de precisión en la tarea, mientras que los modelos estándar tuvieron una precisión muy baja, por debajo del 1%.
También probaron añadir un objetivo de entrenamiento para que el modelo siga las sumas parciales. Al hacerlo, un modelo pequeño mejoró mucho y logró cerca del 99% de precisión.
Palabras difíciles
- método — Manera organizada para hacer algo
- precisión — Porcentaje de respuestas correctas en una tarea
- intermedio — Que está entre dos etapas o valoresintermedios
- cadena de pensamiento implícita — Secuencia de pasos internos en el razonamiento
- sumas parciales — Cálculos de sumas de partes de un problema
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Crees que es útil que un modelo guarde valores intermedios? ¿Por qué?
- ¿Te parece importante la precisión en una tarea de multiplicar? Explica en una frase.
- ¿Has usado o aprendido sumas parciales para resolver operaciones? Describe una vez breve.
Artículos relacionados
Modelos de IA distinguen sucesos reales y improbables
Investigadores estudiaron si los modelos de lenguaje por IA entienden la plausibilidad de sucesos. Encontraron vectores internos que distinguen entre hechos comunes, sucesos improbables, imposibles y enunciados sin sentido, y que coinciden con juicios humanos.
Quién decide la investigación en medicina tropical
Un análisis nuevo muestra que países ricos dominan las decisiones sobre qué se investiga, publica y financia en medicina tropical. Las desigualdades en comités editoriales y en la financiación marginan a regiones más afectadas por estas enfermedades.
La IA y la modernización de los tribunales en India
India moderniza sus tribunales con el proyecto e-Courts y Fase III, que incorpora IA y otras tecnologías. Herramientas como SUPACE, SUVAS y Adalat.AI ayudan al trabajo judicial, pero hay preocupaciones sobre errores, sesgos y datos personales.