La IA que se reescribe ya aprendió a dudar
Escuchar el artículo · 2:53
Un modelo que predice el efecto de cada cambio antes de aplicarlo mejora 46% la auto-mejora de agentes, aunque el dato viene del propio paper.
En este artículo (4)▼
Cualquiera que programa sabe que tocar código para mejorarlo puede romper otra cosa. Un equipo de Virginia, Microsoft Research y Tsinghua aplicó esa duda a los agentes que se modifican a sí mismos, y el resultado es el avance más concreto del año en auto-mejora.
Predecir antes de modificar cambia el juego
El método se llama Predict Before You Modify y su pieza central es un Improvement Dynamics Model editable: antes de aplicar un cambio a su propio software, el agente predice el resultado y lo somete a revisión, según cubrió Xataka sobre el paper publicado en arXiv el 26 de septiembre, revisado el 15 de octubre. La arquitectura usa dos agentes, uno de tarea y uno de meta-mejora que también puede modificarse a sí mismo, sobre la base de HyperAgents de marzo. Es la diferencia entre un programador impulsivo y uno que ejecuta las pruebas antes de subir el cambio.
Cuatro dominios y un 46% que hay que leer con lupa
El paper reporta mejoras de hasta 46% en rendimiento medio por generación frente a HyperAgents en cuatro dominios: código multilingüe, revisión de papers, diseño de recompensas en robótica y calificación matemática de nivel olimpiada. Además el conocimiento predictivo del modelo transferiría a dominios nuevos. El matiz ineludible: ese 46% viene solo del propio preprint, sin revisión por pares ni reproducción externa. Xataka advierte además mayor consumo de recursos sin cuantificar, mientras el paper afirma que las ganancias persisten con presupuesto de tokens igualado. Tensión sin cifras comparables, y sin repo público confirmado la reproducibilidad queda pendiente.
La factura de dejar que la IA se reescriba la pagarán pocos
Si el método se sostiene, el coste por ciclo de auto-mejora decidirá quién lo usa: más tokens, más tiempo y más infraestructura por cada generación que se evalúa y se predice. Eso concentra la auto-mejora en quienes ya tienen cómputo de sobra, justo cuando la crisis de capacidad aprieta. Para el resto queda la idea portable, que sí es gratis: separar el agente que actúa del que propone cambios y obligar a predecir el efecto antes de tocar nada.
Dudar es la función que faltaba en el agente autónomo
Tras un verano de agentes fugados y auditorías incómodas, un agente que se revisa antes de reescribirse llega en el momento justo. Falta que alguien independiente confirme el 46%. Mientras tanto, el paper deja una norma de diseño que cualquiera puede adoptar esta semana: ningún cambio propio sin predicción previa.
Fuente: xataka.com, arxiv.org
