Insights AI

Comprender los agentes de IA siempre activos: infraestructura, ingeniería de contexto y arquitectura de sistemas

Podcast · Escuchar (22 min)

SpaceX Engineer: Always-On AI Agents Hit a 200K Token Wall

Contenido
  1. Las cuatro eras del desarrollo de IA y el cuello de botella de la terminal
  2. Arquitectura de sistemas: ejecución centrada en el servidor y entornos aislados de máquinas virtuales
  3. Subagentes e ingeniería de contexto: lograr un contexto pseudoinfinito
  4. Seguridad, revisión automática y ciclo de mejora del modelo
  5. Limitaciones del sistema, compromisos arquitectónicos y preguntas abiertas
  6. Cifras clave
  7. Qué cambiaría este panorama
  8. Fuentes citadas

Los agentes persistentes, proactivos y siempre activos representan un cambio estructural de paradigma en el despliegue de inteligencia artificial, al trasladar el diseño de sistemas desde ciclos de ejecución locales supervisados por humanos hacia una infraestructura empresarial autónoma que opera en segundo plano. Como se detalla en la clase de Lee Robinson de Stanford CS146S, estos agentes persistentes se basan en un modelo de ejecución centrado en el servidor, la orquestación duradera de flujos de trabajo, entornos aislados dinámicos de máquinas virtuales con instantáneas en disco, la delegación de tareas a subagentes y la compactación continua del contexto de las instrucciones. Al desacoplar los ciclos de los agentes del equipo físico de los desarrolladores y de las sesiones de terminal locales, estas arquitecturas superan las restricciones físicas de los entornos interactivos de ejecución por línea de comandos. En lugar de servir únicamente como herramientas de respuesta reactiva, los agentes siempre activos funcionan como colegas digitales presentes en segundo plano, ejecutando tareas de ingeniería de software y operaciones de largo horizonte, que abarcan varias semanas, en entornos de nube.

Las cuatro eras del desarrollo de IA y el cuello de botella de la terminal#

La interacción de los desarrolladores con la inteligencia artificial ha evolucionado a través de cuatro paradigmas operativos distintos. En la primera era, los desarrolladores copiaban manualmente fragmentos de código desde interfaces web como ChatGPT directamente en entornos de desarrollo integrados locales. Este flujo de trabajo manual estaba muy fragmentado y requería cambios de contexto constantes y una traducción humana entre las respuestas de los modelos y los archivos de código.

La segunda era introdujo entornos de ejecución basados en terminal. Estas capas de software permitían que un modelo de lenguaje de gran tamaño [LLM] interactuara de forma reactiva con los sistemas operativos locales mediante el análisis de árboles de archivos, la modificación de archivos de código fuente y la emisión de comandos del intérprete dentro de un ciclo de ejecución delimitado. Aunque los entornos de ejecución de terminal hicieron posibles mejoras significativas de productividad al otorgar capacidad de acción operativa a los modelos, seguían estrictamente vinculados al inicio directo por parte de una persona y al estado de las computadoras locales.

La tercera era amplió los agentes de programación hacia aplicaciones de escritorio dedicadas con interfaz de usuario [UI], capaces de crear instancias paralelas de agentes en entornos de nube. A pesar de trasladar la ejecución computacional a infraestructura remota, esta generación sufría una fricción operativa crítica: el operador humano seguía siendo el principal cuello de botella. Los desarrolladores estaban obligados a supervisar continuamente los flujos de ejecución y a revisar y aprobar manualmente cada comando del intérprete para evitar eliminaciones involuntarias de archivos o la desestabilización del sistema.

La industria ha entrado ahora en la cuarta era: agentes persistentes y siempre activos que operan de manera continua sobre infraestructura de nube en segundo plano. Equipados con estaciones de trabajo remotas dedicadas, estructuras de memoria persistente y activadores de programación autónomos, estos agentes funcionan continuamente, independientemente de la presencia del desarrollador. Se ha eliminado el principal cuello de botella estructural de los entornos de ejecución vinculados a la terminal, en los que cerrar la tapa de una computadora portátil o finalizar una sesión de terminal interrumpe abruptamente el proceso subyacente del agente. Además, los entornos de ejecución de la cuarta era procesan indicaciones del usuario en tiempo real e interrupciones divagantes durante la ejecución. Si un usuario agrega instrucciones o modifica fechas durante un turno, los modelos modernos gestionan estas actualizaciones dinámicas sin degradar el contexto ni invalidar el estado de la tarea en curso.

Arquitectura de sistemas: ejecución centrada en el servidor y entornos aislados de máquinas virtuales

Para comprender la infraestructura subyacente de un agente siempre activo, la arquitectura puede conceptualizarse como un «colega digital con un espacio de trabajo remoto». En este modelo, el usuario final interactúa a través de un cliente ligero de mensajería, similar a los mensajes de texto, mientras que la carga de trabajo principal, la memoria del sistema, las dependencias de las herramientas y el entorno operativo residen en infraestructura de nube aislada.

El proceso de ejecución del sistema se inicia mediante instrucciones explícitas o eventos en segundo plano. A diferencia de los sistemas tradicionales, que se activan exclusivamente ante una invocación directa del usuario, un agente siempre activo puede ser activado por rutinas programadas en segundo plano o notificaciones web externas, como mensajes entrantes de Slack, correos electrónicos automatizados o invitaciones de calendario. Un aspecto crucial es que los agentes pueden incorporarse de forma autónoma a reuniones virtuales de video o audio en lugar de empleados humanos ausentes para tomar notas, resumir los puntos de discusión y registrar tareas que requieren acción. Un enrutador de eventos entrantes elimina señales duplicadas, asigna prioridades operativas y aplica heurísticas de proactividad para determinar si el agente debe alertar inmediatamente al usuario o procesar la tarea de manera silenciosa en segundo plano. Las indicaciones del usuario de alta prioridad prevalecen inmediatamente sobre las colas de procesamiento en segundo plano.

El patrón de diseño de cliente ligero y servidor robusto es fundamental para esta arquitectura. La aplicación cliente contiene una lógica operativa mínima y expone una única herramienta de interfaz de programación de aplicaciones [API], send_user, para mostrar respuestas con formato provenientes del servidor remoto. Ubicar el ciclo principal del agente en un servidor central, en lugar de hacerlo dentro de aplicaciones locales, permite a los equipos de tecnología desplegar actualizaciones rápidas del sistema interno sin demoras de aprobación de las tiendas de aplicaciones ni interrupciones del servicio. Además, las operaciones de cómputo intensivo, como la transcripción de audio o la generación de imágenes, permanecen centralizadas en infraestructura de servidores optimizada. La aplicación cliente establece suscripciones a flujos de eventos en tiempo real con el servidor y utiliza lógica de eliminación de mensajes duplicados para representar elementos interactivos de la UI, como formularios personalizados de inicio de sesión, credenciales de 1Password o pantallas de autorización financiera, sin desincronizar el estado.

La seguridad de la ejecución y el aislamiento del entorno se logran mediante entornos aislados de máquinas virtuales [VM] Firecracker. Cada instancia de agente opera dentro de su propio contenedor Linux dedicado, equipado con almacenamiento persistente de archivos, escritorios virtuales y un navegador Chrome sin interfaz gráfica. En lugar de depender exclusivamente de integraciones mediante API, los agentes interactúan con los sistemas de software mediante capacidades de uso de computadoras. Analizan interfaces web a través de árboles estructurados de accesibilidad del sistema operativo para identificar elementos interactivos, y recurren al análisis visual directo de capturas de pantalla y a clics en coordenadas de píxeles al navegar por interfaces no estándar. Para gestionar las restricciones de recursos físicos y los costos de alojamiento, las VM Firecracker guardan dinámicamente instantáneas de su estado de ejecución en disco e hibernan cuando están inactivas, restaurando instantáneamente el estado operativo completo al recibir un nuevo activador.

La durabilidad del sistema a lo largo de operaciones de varias semanas depende de estructuras de flujos de trabajo duraderos, en lugar de colas de trabajos convencionales. Las colas de trabajos estándar gestionan las fallas de los nodos reiniciando las tareas desde el primer paso, lo que causa efectos secundarios duplicados catastróficos durante operaciones complejas de varios pasos. Al utilizar motores de flujos de trabajo duraderos como Temporal, el estado de ejecución del agente, la memoria de variables y el contexto operativo se guardan continuamente en puntos de control. Si falla un nodo de la infraestructura subyacente, el flujo de trabajo duradero reanuda la ejecución exactamente en el punto de falla, sin repetir llamadas a herramientas ya completadas.

Subagentes e ingeniería de contexto: lograr un contexto pseudoinfinito

El principal cuello de botella que determina la capacidad de los modelos de lenguaje de gran tamaño durante horizontes operativos prolongados es la degradación del contexto. A medida que la ventana de contexto de un LLM se llena de instrucciones del sistema, esquemas de herramientas, lecturas de archivos y registros de ejecución, el rendimiento del sistema se deteriora. Los costos de consumo de unidades de texto aumentan de manera no lineal, la latencia operativa se incrementa y la capacidad del modelo para mantener una alta fidelidad de razonamiento respecto de las instrucciones iniciales se degrada significativamente.

Para mitigar la sobrecarga de contexto, los entornos de ejecución de agentes modernos emplean el descubrimiento dinámico de herramientas, a menudo denominado «herramienta de búsqueda de herramientas». En lugar de cargar en la ventana de contexto activa esquemas JSON completos para decenas de herramientas integradas, como servidores del protocolo de contexto del modelo [MCP], kits personalizados de desarrollo de software o API de bases de datos externas, la instrucción principal contiene únicamente nombres de herramientas de alto nivel. Las especificaciones detalladas de las herramientas se mantienen en el sistema de archivos remoto. El agente busca, lee y carga dinámicamente esquemas específicos de herramientas en la memoria de trabajo solo cuando surge un requisito operativo explícito.

Para mantener una alta calidad de razonamiento en tareas complejas, los agentes orquestadores principales delegan las operaciones que consumen muchas unidades de texto a subagentes especializados. Cuando una tarea requiere ejecutar cientos de secuencias de comandos del intérprete, extraer contenido de numerosas páginas web o generar videos de demostración, el orquestador crea un subagente aislado equipado con una ventana de contexto nueva. El subagente ejecuta la subrutina intensiva en trabajo dentro de su propio flujo de trabajo duradero y devuelve al hilo principal únicamente un resumen conciso y depurado en formato markdown. Este patrón de delegación crea la realidad operativa de un contexto pseudoinfinito y evita el agotamiento de la ventana de contexto en el hilo del orquestador principal.

La ingeniería de los entornos de ejecución optimiza aún más la eficiencia del sistema mediante la estructura de almacenamiento en caché de instrucciones y la compactación del contexto en segundo plano. Los modelos mantienen instrucciones estáticas del sistema, índices de descubrimiento dinámico de herramientas y memoria central persistente al inicio de la matriz de contexto para maximizar las tasas de acierto de caché que ofrecen las API de los modelos fundacionales. Para preservar la validez de la caché durante las iteraciones de las instrucciones del sistema o las pruebas A/B, los entornos de ejecución utilizan funciones deterministas de resumen criptográfico por sección para garantizar que los componentes de las instrucciones del sistema mantengan un orden fijo e inmutable. Además, las aplicaciones cliente implementan la precarga de la caché de instrucciones en el servidor tan pronto como un usuario selecciona el campo de entrada o comienza a escribir en la UI de conversación, eliminando la latencia antes de que el usuario envíe un mensaje.

Durante los períodos de baja actividad operativa, mientras las cachés de instrucciones del modelo permanecen activas, normalmente dentro de una ventana de 10 a 60 minutos, el sistema ejecuta rutinas de compactación con pérdida en segundo plano para comprimir los registros de conversaciones anteriores en resúmenes estructurados. La memoria persistente se organiza en tres capas distintas:

  1. Datos esenciales del usuario: Preferencias del usuario de alta prioridad y restricciones del sistema incorporadas en cada turno operativo.
  2. Historiales de registros fechados: Registros cronológicos y consultables de interacciones anteriores con el sistema, almacenados en archivos markdown remotos.
  3. Notas temporales de trabajo: Memoria de trabajo operativa temporal diseñada para caducar automáticamente después de completar la tarea.

Seguridad, revisión automática y ciclo de mejora del modelo

El despliegue empresarial de agentes autónomos introduce vulnerabilidades de seguridad significativas, particularmente en relación con la fatiga por ejecución de comandos y la inyección de instrucciones. Exigir que los operadores humanos aprueben manualmente cientos de comandos rápidos del intérprete provoca agotamiento operativo y vuelve ineficaz la supervisión humana. Para abordar este problema, las arquitecturas de agentes de alta confiabilidad implementan modelos secundarios de protección conocidos como sistemas de revisión automática.

Un mecanismo de protección de revisión automática funciona como un proceso de IA independiente y altamente especializado que inspecciona cada comando propuesto del intérprete, cada ejecución de secuencias de comandos y cada interacción visual con el escritorio antes de su ejecución. Las pruebas empíricas demuestran que los modelos automatizados de evaluación secundaria superan a los operadores humanos cansados en la detección de comandos maliciosos, errores de sintaxis y desviaciones operativas. Para operaciones de alto riesgo e irreversibles, como enviar correos electrónicos externos o ejecutar transacciones financieras mediante servicios como Stripe Link o X Money, el sistema pausa la ejecución para exigir una confirmación humana explícita.

Las entradas externas no confiables, incluidos los correos electrónicos entrantes, el contenido web de terceros y las notificaciones web, presentan graves riesgos de inyección de instrucciones si se incorporan directamente al ciclo principal de razonamiento del agente. Los sistemas seguros depuran las entradas no confiables al pasarlas por capas intermedias de análisis, lo que impide que instrucciones maliciosas que intentan anular las existentes ejecuten herramientas del sistema sin verificar o comprometan las credenciales.

La confiabilidad del sistema mejora continuamente mediante un ciclo de mejora de ingeniería de doble circuito. Cuando un agente falla en una tarea, la trayectoria de la falla se incorpora a un conjunto automatizado de pruebas de evaluación. En el circuito interno rápido, los ingenieros de sistemas actualizan inmediatamente las instrucciones del entorno de ejecución, perfeccionan las herramientas dinámicas o ajustan las instrucciones del sistema, utilizando el conjunto de pruebas de evaluación para verificar la corrección. En el circuito externo lento, los datos agregados de fallas y las trayectorias exitosas se recopilan en conjuntos de datos para ajuste fino. Los modelos fundacionales de base se someten a ajuste fino supervisado [SFT] y aprendizaje por refuerzo [RL] en ciclos de lanzamiento de 1 a 6 meses para mejorar de forma nativa el seguimiento de instrucciones, la selección de herramientas y la navegación visual por el escritorio.

Los equipos de ingeniería que construyen estas arquitecturas siguen una doctrina operativa central: «eliminar el producto». Las abstracciones complejas de interfaces de usuario personalizadas que se construyan hoy deben mantenerse al mínimo, ya que los rápidos avances en las capacidades de los modelos fundacionales en horizontes de 6 a 12 meses resuelven sistemáticamente, de forma nativa, problemas complejos de los entornos de ejecución.

Limitaciones del sistema, compromisos arquitectónicos y preguntas abiertas

A pesar de los rápidos avances en infraestructura, las arquitecturas de agentes siempre activos enfrentan compromisos técnicos sin resolver en cuanto a la proactividad y la gestión de notificaciones. Operar un colega digital integrado en el entorno requiere heurísticas detalladas para determinar cuándo un agente debe ejecutar tareas silenciosamente y cuándo debe interrumpir al usuario con actualizaciones de estado. Una proactividad excesivamente agresiva provoca fatiga por notificaciones y molestias al usuario, mientras que una proactividad demasiado conservadora reduce el sistema a una herramienta reactiva estándar. Definir umbrales óptimos de alerta sigue siendo un desafío abierto en las implementaciones empresariales.

Un desafío secundario es la paradoja de la evaluación a largo plazo. Evaluar un agente diseñado para funcionar continuamente durante períodos de ejecución de varias semanas es intrínsecamente difícil cuando los modelos de lenguaje fundacionales pasan por iteraciones de versión o reemplazos completos en ciclos de 30 a 90 días. Realizar evaluaciones comparativas fuera de línea sobre trayectorias de tareas de un mes de duración se vuelve impráctico si los modelos fundacionales subyacentes se actualizan o quedan obsoletos antes de que concluya la evaluación, lo que dificulta el seguimiento del desempeño de referencia.

Finalmente, el resumen del contexto introduce una pérdida de información inevitable. Dado que todos los algoritmos de compactación dependen de la compresión con pérdida, condensar cientos de miles de tokens de historiales detallados de registros, salidas de terminal y contenidos de archivos en resúmenes compactos en formato markdown implica el riesgo de descartar permanentemente detalles sutiles de casos límite. Si un agente de ejecución prolongada requiere parámetros operativos precisos establecidos semanas antes, la compactación con pérdida puede provocar fallas silenciosas en las tareas o alucinaciones de contexto durante las etapas finales de ejecución.

Abordar estos compromisos requiere equilibrar los costos de consumo de tokens con la precisión del razonamiento, optimizar la latencia de inferencia y establecer límites de seguridad robustos para las interacciones entre múltiples agentes en plataformas de software como servicio [SaaS].

Cifras clave#

  • 200,000 tokens: El parámetro de referencia estándar de la ventana de contexto de memoria de trabajo para los grandes modelos de lenguaje modernos, que representa la escala a partir de la cual los algoritmos agresivos de compactación de contexto se vuelven obligatorios.
  • 6 a 12 meses: El período operativo en el que los saltos en las capacidades de los modelos fundacionales vuelven obsoletas la lógica compleja de los entornos de ejecución personalizados, las abstracciones intermedias y las capas especializadas de interfaz de usuario.
  • 10 a 60 minutos: El tiempo habitual durante el cual los proveedores de modelos fundacionales mantienen activas las cachés de instrucciones, lo que define la ventana óptima para realizar una compactación de contexto rentable en segundo plano.
  • Horas/días a varias semanas/varios meses: El cambio estructural en los horizontes de ejecución objetivo, que se amplían desde breves sesiones interactivas de terminal hasta flujos de trabajo autónomos de largo plazo en segundo plano.

Qué cambiaría este panorama

  1. Transición de la compactación con pérdida a las arquitecturas de memoria basadas en grafos: Una transición generalizada de la industria desde el resumen estándar del contexto en formato markdown hacia grafos de conocimiento sin pérdida mejoraría drásticamente la recuperación de información a largo plazo y la precisión contextual durante ejecuciones de varios meses.
  2. Estandarización de los parámetros de referencia para la evaluación de agentes a largo plazo: El desarrollo de marcos de evaluación predictivos fuera de línea con compresión temporal permitiría a los equipos de ingeniería evaluar con precisión los flujos de trabajo de agentes de varias semanas en cuestión de horas, en lugar de esperar los ciclos de ejecución en tiempo real.
  3. Implementación empresarial generalizada del uso de computadoras sin interfaz visible: La adopción universal de la navegación visual directa mediante árboles de accesibilidad e interacción con píxeles en el software empresarial evitaría la necesidad de integraciones tradicionales mediante API e implementaciones específicas del protocolo de contexto de modelos.
  4. Integración nativa de voz y habla a nivel de hardware: La proliferación de formatos de hardware de voz integrados en el entorno y de baja latencia, adaptados al procesamiento del habla en tiempo real, desplazaría el control principal de los agentes desde clientes ligeros de mensajería de texto hacia ciclos continuos de interacción por audio.

Para profundizar en la infraestructura de agentes autónomos continuos y evaluar implementaciones modernas de entornos de ejecución de modelos, visite los recursos de investigación de código abierto disponibles en el sitio de DeepValues Research o pruebe la plataforma directamente en la aplicación DeepValues.

Fuentes citadas#

Stanford CS146S: How always-on agents work, presentation by Lee Robinson on the leerob YouTube channel.

Ver

Enlaces a las fuentes

Ver y escuchar

Texto de investigación bajo licencia CC BY 4.0, citar como: DeepValues Research, Comprender los agentes de IA siempre activos: infraestructura, ingeniería de contexto y arquitectura de sistemas, https://research.deepvalues.ai/insights/2026-10-31-building-always-on-ai-agents-es/

Correo semanal gratis

Margin of Safety Weekly

Cada sábado: la temperatura del mercado, qué compraron y vendieron los grandes inversionistas (13F), los nuevos reportes de la semana, videos y podcasts — gratis, sin necesidad de cuenta. El correo se envía en inglés.

Send me the DeepValues Margin of Safety Weekly, one email every Saturday. I can unsubscribe at any time. Information only, not investment advice. Privacidad

Ve más allá

Ejecuta este análisis en cualquier acción en 2 minutos

Deep Value Intelligence, el analista de IA multiagente detrás de este reporte, genera bajo demanda el mismo reporte para cualquier empresa que cotice en bolsa.

Abrir Deep Value Intelligence

Sigue más de 300 acciones en la app de DeepValues

Posturas, valor intrínseco y los reportes más recientes, en tu teléfono.

Desarrolladores: posturas y reportes vía API

Los fundamentales, valores intrínsecos, posturas y enlaces a reportes detrás de estas páginas, en JSON.

Documentación de la API

Comentar