Un equipo de investigadores de North Carolina State University estudió la seguridad en modelos de lenguaje grandes. Buscaron reducir salidas inseguras sin sacrificar el rendimiento del modelo.
Encontraron dos problemas principales. Primero, entrenar para mayor seguridad puede bajar la exactitud, un problema llamado "alignment tax". Segundo, muchas comprobaciones de seguridad son superficiales y los usuarios a veces las eluden.
Propusieron la Hipótesis de Alineamiento de Seguridad Superficial (SSAH) y hallaron partes del modelo que afectan la seguridad. Congelar esas partes al afinar ayudó a mantener la seguridad y reducir el "alignment tax".
Palabras difíciles
- investigador — persona que hace estudios científicosinvestigadores
- seguridad — protección contra daño o riesgo
- alineamiento — hacer que el modelo siga reglas deseadas
- afinar — entrenar un modelo con datos adicionales
- congelar — no cambiar una parte durante el entrenamiento
- exactitud — nivel de respuestas correctas del modelo
Consejo: pasa el cursor, enfoca o toca las palabras resaltadas en el artículo para ver definiciones rápidas mientras lees o audicións.
Preguntas de discusión
- ¿Crees que es importante mantener la seguridad sin bajar la exactitud? ¿Por qué?
- ¿Qué opinas de congelar partes del modelo cuando se afina? Da una respuesta corta.
Artículos relacionados
Dos estudios sobre agrupar a estudiantes que aprenden inglés
Dos investigaciones analizaron si juntar a estudiantes que aprenden inglés mejora sus resultados. Un estudio con alumnos de secundaria halló efectos negativos en graduación y universidad; otro en primaria no mostró diferencias claras.
Redes sociales y desarrollo de lectura en la adolescencia
Un estudio longitudinal encuentra que el uso habitual de redes sociales en la primera adolescencia se asocia con un desarrollo más débil de la lectura y el vocabulario. También hay efectos en la atención y en la velocidad de procesamiento.