TomasuLLM ejecutó llamadas a herramientas del agente fuera de orden, como una CPU especulativa

Las herramientas de larga duración dominan la latencia de los agentes de programación: los compiladores, las suites de pruebas y los comandos de repositorio tardan de segundos a minutos mientras el agente permanece inactivo. La pausa por observación es la misma tensión que impulsó a los procesadores fuera de orden: una interfaz secuencial oculta trabajo que podría predecirse e iniciarse antes, pero un resultado especulativo solo puede hacerse visible después de que él y todos los pasos anteriores hayan sido validados.

TomasuLLM aplica la respuesta de la CPU a los agentes LLM. Su entorno de ejecución ejecuta las llamadas a herramientas del agente fuera del orden de la trayectoria mientras preserva la corrección de la ejecución de la tarea: redacta acciones futuras, las ejecuta en entornos aislados de copia en escritura, rastrea sus dependencias y efectos, y confirma los resultados en el orden de la trayectoria solo tras la validación contra el estado confirmado.

En tres benchmarks que abarcan desde llamadas a herramientas de menos de un segundo hasta de varios minutos, las aceleraciones escalaron con la latencia de la herramienta: 1,31x en 100 tareas de SWE-bench Verified, 1,35x en 28 tareas de Terminal-Bench 2.0 y 1,27x de progreso equivalente en 18 sesiones de SWE-Marathon. En 4.010 registros de validación de confirmaciones auditados, el entorno de ejecución produjo cero aceptaciones falsas: ningún resultado especulativo se confirmó nunca como si fuera real.

Tratar la trayectoria del agente como un flujo de instrucciones: especular por adelantado, confirmar en orden

La latencia de las herramientas, no la velocidad del modelo, domina el tiempo de reloj de los agentes de programación.

Una interfaz de trayectoria secuencial oculta el trabajo de las herramientas que puede predecirse e iniciarse antes de que el agente llegue a él.

Los entornos aislados de copia en escritura hacen que las especulaciones erróneas sean desechables en lugar de catastróficas.

Confirmar en el orden de la trayectoria tras la validación mantiene el comportamiento visible secuencial a la vez que conserva la aceleración.

Los viejos trucos del hardware viajan: cuando una canalización se atasca en pasos lentos, predecir el trabajo, ejecutarlo por adelantado en copias desechables y condicionar la visibilidad a la validación.

El artículo informa de resultados en 100 tareas de SWE-bench Verified, 28 tareas de Terminal-Bench 2.0 y 18 sesiones de SWE-Marathon, con cero aceptaciones falsas en 4.010 registros de validación de confirmaciones auditados. La versión 2 se publicó en arXiv el 1 de octubre de 2026.