Insights AI

Comprendre les agents d’IA fonctionnant en continu : infrastructure, ingénierie du contexte et architecture des systèmes

Podcast · Écouter (22 min)

SpaceX Engineer: Always-On AI Agents Hit a 200K Token Wall

Sommaire
  1. Les quatre ères du développement de l’IA et le goulot d’étranglement du terminal
  2. Architecture système : exécution centrée sur le serveur et isolement dans des machines virtuelles
  3. Sous-agents et ingénierie du contexte : obtenir un contexte pseudo-infini
  4. Sécurité, contrôle automatique et boucle d’amélioration du modèle
  5. Limites du système, compromis architecturaux et questions ouvertes
  6. Chiffres clés
  7. Ce qui changerait cette perspective
  8. Sources citées

Les agents persistants, proactifs et fonctionnant en continu représentent un changement structurel de paradigme dans le déploiement de l’intelligence artificielle, faisant évoluer la conception des systèmes de boucles d’exécution locales surveillées par des humains vers une infrastructure d’entreprise autonome fonctionnant en arrière-plan. Comme l’explique Lee Robinson dans son cours Stanford CS146S, ces agents persistants reposent sur un modèle d’exécution centré sur le serveur, une orchestration durable des flux de travail, un isolement dynamique dans des machines virtuelles avec création d’instantanés sur disque, une délégation des tâches à des sous-agents et une condensation continue du contexte des instructions. En dissociant les boucles des agents du matériel des développeurs et des sessions de terminal locales, ces architectures surmontent les contraintes physiques des environnements d’exécution interactifs en ligne de commande. Plutôt que de servir simplement d’utilitaires de réponse réactifs, les agents fonctionnant en continu agissent comme des collègues numériques omniprésents, exécutant des tâches d’ingénierie logicielle et d’exploitation sur plusieurs semaines et à horizon long dans des environnements infonuagiques.

Les quatre ères du développement de l’IA et le goulot d’étranglement du terminal

L’interaction des développeurs avec l’intelligence artificielle a évolué selon quatre paradigmes opérationnels distincts. Durant la première ère, les développeurs copiaient manuellement des extraits de code depuis des interfaces web comme ChatGPT directement dans des environnements de développement intégrés locaux. Ce flux de travail manuel était très fragmenté, nécessitant des changements de contexte constants et une transposition humaine entre les sorties du modèle et les fichiers de code.

La deuxième ère a introduit des environnements d’exécution basés sur le terminal. Ces enveloppes logicielles permettaient à un grand modèle de langage [LLM] d’interagir de manière réactive avec les systèmes d’exploitation locaux en analysant les arborescences de fichiers, en modifiant les fichiers sources et en lançant des commandes d’interpréteur dans une boucle d’exécution délimitée. Si ces environnements d’exécution sur terminal ont permis des gains de productivité importants en donnant aux modèles une capacité d’action opérationnelle, ils restaient strictement liés à une initiation humaine directe et à l’état des ordinateurs locaux.

La troisième ère a étendu les agents de programmation à des applications de bureau dédiées dotées d’une interface utilisateur [UI], capables de lancer des instances d’agents parallèles dans des environnements infonuagiques. Malgré le transfert des calculs vers une infrastructure distante, cette génération souffrait de frictions opérationnelles critiques : l’opérateur humain restait le principal goulot d’étranglement. Les développeurs étaient contraints de surveiller en permanence les flux d’exécution, d’examiner et d’approuver manuellement chaque commande d’interpréteur afin d’éviter les suppressions de fichiers involontaires ou la déstabilisation du système.

Le secteur est désormais entré dans la quatrième ère : celle des agents persistants fonctionnant en continu et de manière omniprésente sur une infrastructure infonuagique en arrière-plan. Équipés de postes de travail distants dédiés, de structures de mémoire persistante et de déclencheurs de planification autonomes, ces agents fonctionnent sans interruption, indépendamment de la présence des développeurs. Le principal goulot d’étranglement structurel des environnements d’exécution liés au terminal — où la fermeture du capot d’un ordinateur portable ou l’arrêt d’une session de terminal interrompt brutalement le processus de l’agent sous-jacent — a été éliminé. En outre, les environnements d’exécution de la quatrième ère traitent en temps réel les directives des utilisateurs et les interruptions décousues en cours d’exécution. Si un utilisateur ajoute des instructions ou modifie des dates au cours d’un échange, les modèles modernes gèrent ces mises à jour évolutives sans dégrader le contexte ni invalider l’état de la tâche en cours.

Architecture système : exécution centrée sur le serveur et isolement dans des machines virtuelles

Pour comprendre l’infrastructure sous-jacente d’un agent fonctionnant en continu, on peut conceptualiser son architecture comme celle d’un « collègue numérique disposant d’un espace de travail distant ». Dans ce modèle, l’utilisateur final interagit par l’intermédiaire d’un client de messagerie léger — comparable à la messagerie textuelle — tandis que la charge de travail principale, la mémoire système, les dépendances des outils et l’environnement d’exploitation résident sur une infrastructure infonuagique isolée.

La chaîne d’exécution du système est déclenchée par des instructions explicites ou des événements ambiants en arrière-plan. Contrairement aux systèmes traditionnels qui ne se réveillent que sur sollicitation directe de l’utilisateur, un agent fonctionnant en continu peut être activé par des routines de planification en arrière-plan ou des rappels web externes, tels que des messages Slack entrants, des courriels automatisés ou des invitations de calendrier. Point essentiel, les agents peuvent rejoindre de manière autonome des réunions virtuelles vidéo ou audio à la place d’employés absents pour prendre des notes, résumer les points de discussion et consigner les tâches à réaliser. Un routeur d’événements entrants déduplique les signaux reçus, leur attribue une priorité opérationnelle et applique des heuristiques de proactivité pour déterminer si l’agent doit immédiatement alerter l’utilisateur ou traiter la tâche silencieusement en arrière-plan. Les directives prioritaires de l’utilisateur prennent immédiatement le pas sur les files de traitement en arrière-plan.

Le modèle de conception à client léger et serveur lourd est au cœur de cette architecture. L’application cliente contient une logique opérationnelle minimale et expose un seul outil d’interface de programmation d’application [API], send_user, pour afficher les sorties mises en forme provenant du serveur distant. Placer la boucle centrale de l’agent sur un serveur central plutôt qu’au sein d’applications locales permet aux équipes technologiques de déployer rapidement des mises à jour côté serveur sans délais d’approbation des boutiques d’applications ni interruption de service. En outre, les opérations exigeantes en calcul, comme la transcription audio ou la génération d’images, restent centralisées sur une infrastructure serveur optimisée. L’application cliente établit des abonnements aux flux d’événements en temps réel avec le serveur et utilise une logique de déduplication des messages pour afficher des éléments interactifs d’interface utilisateur — tels que des formulaires de connexion personnalisés, des identifiants 1Password ou des écrans d’autorisation financière — sans désynchroniser l’état.

La sécurité de l’exécution et l’isolement de l’environnement sont assurés par des environnements isolés de machines virtuelles [VM] Firecracker. Chaque instance d’agent fonctionne dans son propre conteneur Linux dédié, équipé d’un stockage de fichiers persistant, de bureaux virtuels et d’un navigateur Chrome sans interface graphique. Plutôt que de dépendre exclusivement d’intégrations API, les agents interagissent avec les systèmes logiciels grâce à leurs capacités d’utilisation de l’ordinateur. Ils analysent les interfaces web au moyen d’arborescences structurées d’accessibilité du système d’exploitation pour identifier les éléments interactifs, puis recourent à l’analyse visuelle directe de captures d’écran et aux clics sur des coordonnées de pixels lorsqu’ils naviguent dans des interfaces non standard. Pour gérer les contraintes matérielles et les coûts d’hébergement, les VM Firecracker enregistrent dynamiquement des instantanés de leur état d’exécution sur disque et se mettent en veille prolongée lorsqu’elles sont inactives, restaurant instantanément leur état opérationnel complet à réception d’un nouveau déclencheur de réveil.

La résilience du système lors d’opérations sur plusieurs semaines dépend de cadres de flux de travail durables plutôt que de files de tâches conventionnelles. Les files de tâches standard gèrent les défaillances des nœuds en redémarrant les tâches depuis la première étape, provoquant des effets secondaires catastrophiques liés à la duplication lors d’opérations complexes en plusieurs étapes. Grâce à des moteurs de flux de travail durables tels que Temporal, l’état d’exécution de l’agent, la mémoire des variables et le contexte opérationnel sont continuellement sauvegardés à des points de contrôle. Si un nœud de l’infrastructure sous-jacente tombe en panne, le flux de travail durable reprend l’exécution précisément au point de défaillance, sans réexécuter les appels d’outils déjà effectués.

Sous-agents et ingénierie du contexte : obtenir un contexte pseudo-infini

Le principal goulot d’étranglement qui détermine les capacités des grands modèles de langage sur des horizons opérationnels prolongés est la dégradation du contexte. À mesure que la fenêtre de contexte d’un LLM se remplit d’instructions système, de schémas d’outils, de contenus de fichiers et de journaux d’exécution, les performances du système se détériorent. Les coûts de consommation de jetons augmentent de manière non linéaire, la latence opérationnelle s’accroît et la capacité du modèle à maintenir un raisonnement fidèle aux instructions initiales se dégrade considérablement.

Pour atténuer la surcharge du contexte, les environnements d’exécution modernes des agents utilisent la découverte dynamique d’outils, souvent appelée « outil de recherche d’outils ». Plutôt que de charger dans la fenêtre de contexte active les schémas JSON complets de dizaines d’outils intégrés — tels que des serveurs du protocole de contexte de modèle [MCP], des kits de développement logiciel personnalisés ou des API de bases de données externes —, l’instruction principale contient uniquement les noms des outils à un niveau général. Les spécifications détaillées des outils sont conservées sur le système de fichiers distant. L’agent recherche, lit et charge dynamiquement les schémas d’outils spécifiques dans sa mémoire de travail uniquement lorsqu’un besoin opérationnel explicite se présente.

Pour maintenir une qualité de raisonnement élevée sur des tâches complexes, les agents orchestrateurs principaux délèguent les opérations gourmandes en jetons à des sous-agents spécialisés. Lorsqu’une tâche nécessite l’exécution de centaines de scripts d’interpréteur, l’extraction de contenus de nombreuses pages web ou la génération de vidéos de démonstration, l’orchestrateur crée une instance de sous-agent isolée, dotée d’une nouvelle fenêtre de contexte. Le sous-agent exécute la sous-routine exigeante dans son propre flux de travail durable et renvoie uniquement un résumé concis et synthétique au format markdown au fil principal. Ce modèle de délégation crée la réalité opérationnelle d’un contexte pseudo-infini, empêchant la saturation de la fenêtre de contexte du fil de l’orchestrateur principal.

L’ingénierie des environnements d’exécution optimise davantage l’efficacité du système grâce à une structure de mise en cache des instructions et à la condensation du contexte en arrière-plan. Les modèles conservent les instructions système statiques, les index de découverte dynamique d’outils et la mémoire centrale persistante en tête du tableau de contexte afin de maximiser les taux de succès du cache fourni par les API des modèles fondamentaux. Pour préserver la validité du cache lors des itérations des instructions système ou des tests A/B, les environnements d’exécution utilisent un hachage déterministe des sections pour garantir que les composants des instructions système conservent un ordre fixe et immuable. En outre, les applications clientes préchauffent le cache des instructions sur le serveur dès qu’un utilisateur active l’interface de discussion ou commence à y saisir du texte, éliminant ainsi la latence avant l’envoi du message.

Pendant les périodes de faible activité, alors que les caches des instructions du modèle restent actifs — généralement dans une fenêtre de 10 à 60 minutes —, le système exécute en arrière-plan des routines de condensation avec perte afin de compresser les journaux de conversation antérieurs en résumés structurés. La mémoire persistante est organisée en trois couches distinctes :

  1. Informations essentielles sur l’utilisateur : Préférences prioritaires de l’utilisateur et contraintes systémiques injectées dans chaque échange opérationnel.
  2. Historiques de journaux datés : Enregistrements chronologiques et consultables des interactions passées avec le système, stockés dans des fichiers markdown distants.
  3. Notes de travail éphémères : Mémoire de travail opérationnelle temporaire conçue pour expirer automatiquement après l’achèvement de la tâche.

Sécurité, contrôle automatique et boucle d’amélioration du modèle

Le déploiement d’agents autonomes en entreprise introduit d’importantes vulnérabilités de sécurité, notamment liées à la fatigue de validation des commandes et à l’injection d’instructions. Exiger des opérateurs humains qu’ils approuvent manuellement des centaines de commandes d’interpréteur en succession rapide conduit à un épuisement opérationnel, rendant la supervision humaine inefficace. Pour y remédier, les architectures d’agents à haute fiabilité mettent en œuvre des modèles de protection secondaires appelés systèmes de contrôle automatique.

Un dispositif de protection par contrôle automatique fonctionne comme un processus d’IA indépendant et hautement spécialisé, qui inspecte chaque commande d’interpréteur proposée, chaque exécution de script et chaque interaction visuelle avec le bureau avant leur exécution. Les tests empiriques montrent que les modèles automatisés d’évaluation secondaire surpassent les opérateurs humains fatigués dans la détection des commandes malveillantes, des erreurs de syntaxe et des dérives opérationnelles. Pour les opérations à haut risque et irréversibles — telles que l’envoi de courriels externes ou l’exécution de transactions financières via des services comme Stripe Link ou X Money —, le système suspend l’exécution afin d’exiger une confirmation humaine explicite.

Les entrées externes non fiables, notamment les courriels entrants, les contenus web tiers et les rappels web, présentent des risques graves d’injection d’instructions si elles sont directement intégrées à la boucle de raisonnement principale de l’agent. Les systèmes sûrs assainissent les entrées non fiables en les faisant passer par des couches d’analyse intermédiaires, empêchant les instructions malveillantes de supplanter les consignes afin d’exécuter des outils système non vérifiés ou de compromettre des identifiants.

La fiabilité du système s’améliore continuellement grâce à une boucle d’amélioration de l’ingénierie à deux niveaux. Lorsqu’un agent échoue à une tâche, la trajectoire d’échec est répertoriée dans un référentiel d’évaluation automatisée. Dans la boucle interne rapide, les ingénieurs système mettent immédiatement à jour les instructions de l’environnement d’exécution, affinent les outils dynamiques ou ajustent les instructions système, en utilisant la suite d’évaluation pour vérifier la correction. Dans la boucle externe lente, les données d’échec agrégées et les trajectoires réussies sont compilées dans des jeux de données d’ajustement fin. Les modèles fondamentaux de base font l’objet d’un ajustement fin supervisé [SFT] et d’un apprentissage par renforcement [RL] selon des cycles de publication de 1 à 6 mois afin d’améliorer nativement le respect des instructions, la sélection des outils et la navigation visuelle sur le bureau.

Les équipes d’ingénierie qui construisent ces architectures suivent une doctrine opérationnelle centrale : « supprimer le produit ». Les abstractions complexes d’interfaces utilisateur personnalisées construites aujourd’hui doivent rester minimales, car les progrès rapides des capacités des modèles fondamentaux sur des horizons de 6 à 12 mois résolvent systématiquement et nativement les problèmes complexes des environnements d’exécution.

Limites du système, compromis architecturaux et questions ouvertes

Malgré les progrès rapides de l’infrastructure, les architectures d’agents fonctionnant en permanence restent confrontées à des compromis techniques non résolus en matière de proactivité et de gestion des notifications. Faire fonctionner un collègue numérique ambiant nécessite des heuristiques fines pour déterminer quand un agent doit exécuter des tâches silencieusement et quand il doit interrompre l’utilisateur pour lui communiquer des mises à jour d’état. Une proactivité excessive entraîne une fatigue liée aux notifications et agace l’utilisateur, tandis qu’une proactivité trop prudente réduit le système à un outil réactif classique. La définition de seuils d’alerte optimaux demeure un défi ouvert dans les déploiements en entreprise.

Un deuxième défi est le paradoxe de l’évaluation sur un horizon long. Il est intrinsèquement difficile d’évaluer un agent conçu pour fonctionner en continu sur des périodes d’exécution de plusieurs semaines lorsque les modèles de langage fondamentaux font l’objet de nouvelles versions ou de remplacements complets selon des cycles de 30 à 90 jours. Réaliser des évaluations comparatives hors ligne sur des trajectoires de tâches d’un mois devient impraticable si les modèles fondamentaux sous-jacents sont mis à jour ou abandonnés avant la fin de l’évaluation, ce qui complique le suivi des performances de référence.

Enfin, la synthèse du contexte entraîne une perte d’information inévitable. Tous les algorithmes de compactage reposant sur une compression avec perte, condenser des centaines de milliers de jetons d’historiques détaillés de journaux, de sorties de terminal et de contenus de fichiers en résumés compacts au format Markdown risque d’éliminer définitivement des détails subtils propres à des cas limites. Si un agent fonctionnant sur une longue durée a besoin de paramètres opérationnels précis définis plusieurs semaines auparavant, le compactage avec perte peut entraîner un échec silencieux de la tâche ou une hallucination du contexte en fin d’exécution.

La résolution de ces compromis exige de mettre en balance les coûts de consommation de jetons et la précision du raisonnement, d’optimiser la latence d’inférence et d’établir des frontières de sécurité robustes pour les interactions entre plusieurs agents sur les plateformes de logiciel en tant que service [SaaS].

Chiffres clés

  • 200,000 jetons : La taille de référence standard de la fenêtre de contexte servant de mémoire de travail aux grands modèles de langage modernes, qui représente l’échelle à laquelle des algorithmes de compactage agressif du contexte deviennent indispensables.
  • 6 à 12 mois : Le délai opérationnel dans lequel les bonds de capacité des modèles fondamentaux rendent obsolètes la logique complexe des cadres d’exécution personnalisés, les abstractions intermédiaires et les surcouches spécialisées d’interface utilisateur.
  • 10 à 60 minutes : La durée habituelle pendant laquelle les fournisseurs de modèles fondamentaux maintiennent les caches d’instructions actifs, définissant la fenêtre optimale pour effectuer un compactage du contexte en arrière-plan à moindre coût.
  • Heures/jours à plusieurs semaines/plusieurs mois : Le changement structurel des horizons d’exécution visés, qui passent de brèves sessions interactives de terminal à des flux de travail autonomes en arrière-plan sur un horizon long.

Ce qui changerait cette perspective#

  1. Passage du compactage avec perte aux architectures de mémoire fondées sur des graphes : Une transition généralisée du secteur, de la synthèse classique du contexte au format Markdown vers des graphes de connaissances sans perte, améliorerait considérablement le rappel à long terme et la précision contextuelle lors d’exécutions s’étendant sur plusieurs mois.
  2. Normalisation des référentiels d’évaluation des agents sur un horizon long : Le développement de cadres d’évaluation hors ligne prédictifs et à temps compressé permettrait aux équipes d’ingénierie d’évaluer avec précision les flux de travail d’agents s’étendant sur plusieurs semaines en quelques heures, plutôt que d’attendre des cycles d’exécution en temps réel.
  3. Déploiement généralisé en entreprise de l’utilisation d’ordinateurs sans interface utilisateur dédiée : L’adoption universelle de la navigation visuelle directe au moyen d’arbres d’accessibilité et d’interactions avec les pixels dans les logiciels d’entreprise permettrait de se passer des intégrations traditionnelles par API et des implémentations dédiées du protocole de contexte des modèles.
  4. Intégration native de la voix et de la parole au niveau matériel : La prolifération de dispositifs vocaux ambiants à faible latence, dont les formats sont adaptés au traitement de la parole en temps réel, déplacerait le principal mode de commande des agents des clients légers de messagerie textuelle vers des boucles d’interaction audio continues.

Pour approfondir votre compréhension de l’infrastructure des agents autonomes fonctionnant en continu et évaluer les implémentations modernes de cadres d’exécution de modèles, consultez les ressources de recherche à code source ouvert disponibles sur le site de DeepValues Research ou découvrez directement la plateforme dans l’application DeepValues.

Sources citées

Stanford CS146S: How always-on agents work, presentation by Lee Robinson on the leerob YouTube channel.

Regarder

Liens vers les sources

Regarder et écouter

Texte de recherche sous licence CC BY 4.0, à citer ainsi : DeepValues Research, Comprendre les agents d’IA fonctionnant en continu : infrastructure, ingénierie du contexte et architecture des systèmes, https://research.deepvalues.ai/insights/2026-10-31-building-always-on-ai-agents-fr/

Lettre hebdo gratuite

Margin of Safety Weekly

Chaque samedi : la température du marché, les achats et ventes des grands investisseurs (13F), les nouvelles analyses de la semaine, vidéos et podcasts — gratuit, sans compte. La lettre est rédigée en anglais.

Send me the DeepValues Margin of Safety Weekly, one email every Saturday. I can unsubscribe at any time. Information only, not investment advice. Confidentialité

Aller plus loin

Lancez cette analyse sur n'importe quelle action en 2 minutes

Deep Value Intelligence, l'analyste IA multi-agents à l'origine de ce rapport, rédige à la demande le même rapport pour n'importe quelle société cotée.

Ouvrir Deep Value Intelligence

Suivez plus de 300 actions dans l'app DeepValues

Positions, valeur intrinsèque et derniers rapports, sur votre téléphone.

Développeurs : positions et rapports via l'API

Les fondamentaux, valeurs intrinsèques, positions et liens de rapports derrière ces pages, en JSON.

Docs de l'API

Discuter