Insights AI
Zrozumienie stale działających agentów AI: infrastruktura, inżynieria kontekstu i architektura systemu
Podcast · Słuchaj (22 min)
Spis treści
- Cztery ery rozwoju sztucznej inteligencji i wąskie gardło terminala
- Architektura systemu: wykonywanie skoncentrowane na serwerze i izolowane środowiska maszyn wirtualnych
- Podagenci i inżynieria kontekstu: osiąganie pozornie nieskończonego kontekstu
- Bezpieczeństwo, automatyczna weryfikacja i mechanizm samonapędzającego doskonalenia modeli
- Ograniczenia systemowe, kompromisy architektoniczne i otwarte pytania
- Kluczowe liczby
- Co zmieniłoby ten obraz
- Źródła
Stale aktywni, proaktywni agenci działający w sposób trwały stanowią strukturalną zmianę paradygmatu wdrażania sztucznej inteligencji: projektowanie systemów przechodzi od lokalnych pętli wykonawczych nadzorowanych przez człowieka do autonomicznej infrastruktury przedsiębiorstw działającej w tle. Jak szczegółowo przedstawiono w wykładzie Lee Robinsona w ramach kursu CS146S na Stanfordzie, tacy agenci opierają się na modelu wykonywania skoncentrowanym na serwerze, trwałej orkiestracji przepływów pracy, dynamicznych środowiskach izolowanych maszyn wirtualnych z zapisem migawek na dysku, delegowaniu zadań podagentom oraz ciągłym zagęszczaniu kontekstu instrukcji. Dzięki oddzieleniu pętli agentów od sprzętu programistów i lokalnych sesji terminalowych architektury te przezwyciężają fizyczne ograniczenia interaktywnych środowisk sterowania opartych na wierszu poleceń. Zamiast służyć wyłącznie jako reaktywne narzędzia odpowiadające na żądania, stale aktywni agenci pełnią funkcję cyfrowych współpracowników działających w tle — realizują wielotygodniowe zadania inżynierii oprogramowania i zadania operacyjne o długim horyzoncie w środowiskach chmurowych.
Cztery ery rozwoju sztucznej inteligencji i wąskie gardło terminala
Interakcja programistów ze sztuczną inteligencją ewoluowała przez cztery odrębne paradygmaty operacyjne. W pierwszej erze programiści ręcznie kopiowali fragmenty kodu z interfejsów internetowych, takich jak ChatGPT, bezpośrednio do lokalnych zintegrowanych środowisk programistycznych. Ten ręczny przepływ pracy był silnie rozdrobniony i wymagał ciągłego przełączania kontekstu oraz przekładania przez człowieka wyników modelu na pliki kodu.
Druga era przyniosła środowiska sterowania oparte na terminalu. Te warstwy oprogramowania umożliwiały dużemu modelowi językowemu reaktywną interakcję z lokalnymi systemami operacyjnymi poprzez analizowanie drzew plików, modyfikowanie plików źródłowych i wydawanie poleceń powłoki w ograniczonej pętli wykonawczej. Choć terminalowe środowiska sterowania zapewniły znaczny wzrost produktywności dzięki nadaniu modelom sprawczości operacyjnej, pozostawały ściśle uzależnione od bezpośredniej inicjacji przez człowieka i stanu lokalnego komputera.
Trzecia era rozszerzyła zastosowanie agentów programistycznych na dedykowane aplikacje komputerowe z interfejsem użytkownika, zdolne do uruchamiania równoległych instancji agentów w środowiskach chmurowych. Mimo przeniesienia obliczeń na zdalną infrastrukturę generacja ta cierpiała z powodu istotnych utrudnień operacyjnych: głównym wąskim gardłem pozostawał operator. Programiści byli zmuszeni stale monitorować strumienie wykonywania oraz ręcznie sprawdzać i zatwierdzać każde polecenie powłoki, aby zapobiegać niezamierzonemu usuwaniu plików lub destabilizacji systemu.
Branża weszła obecnie w czwartą erę: stale aktywnych, trwałych agentów działających w tle na infrastrukturze chmurowej. Wyposażeni w dedykowane zdalne stacje robocze, trwałe struktury pamięci i autonomiczne wyzwalacze harmonogramowe, agenci ci działają nieprzerwanie, niezależnie od obecności programisty. Wyeliminowano podstawowe strukturalne wąskie gardło środowisk sterowania związanych z terminalem — zamknięcie pokrywy laptopa lub zakończenie sesji terminalowej nagle przerywało działanie procesu agenta. Ponadto środowiska sterowania czwartej ery przetwarzają w czasie rzeczywistym wskazówki użytkownika oraz niespójne dygresje pojawiające się podczas wykonywania zadania. Jeśli użytkownik dopisuje instrukcje lub zmienia daty w trakcie cyklu interakcji, nowoczesne modele obsługują te płynne aktualizacje bez pogarszania kontekstu ani unieważniania stanu trwającego zadania.
Architektura systemu: wykonywanie skoncentrowane na serwerze i izolowane środowiska maszyn wirtualnych
Aby zrozumieć infrastrukturę stanowiącą podstawę stale aktywnego agenta, jego architekturę można ująć jako „cyfrowego współpracownika ze zdalnym środowiskiem pracy”. W tym modelu użytkownik końcowy komunikuje się za pośrednictwem cienkiego klienta komunikacyjnego — podobnie jak przy wysyłaniu wiadomości tekstowych — natomiast główne obciążenie obliczeniowe, pamięć systemu, zależności narzędziowe i środowisko operacyjne znajdują się na odizolowanej infrastrukturze chmurowej.
Potok wykonywania systemu jest uruchamiany przez jawne instrukcje lub zdarzenia zachodzące w tle. W przeciwieństwie do tradycyjnych systemów, które budzą się wyłącznie po bezpośrednim wywołaniu przez użytkownika, stale aktywny agent może zostać uruchomiony przez procedury harmonogramu działające w tle lub zewnętrzne wywołania zwrotne, takie jak przychodzące wiadomości ze Slacka, automatyczne wiadomości e-mail czy zaproszenia kalendarzowe. Co istotne, agenci mogą autonomicznie dołączać do wirtualnych spotkań wideo lub audio w zastępstwie nieobecnych pracowników, aby sporządzać notatki, podsumowywać omawiane kwestie i rejestrować zadania do wykonania. Moduł kierowania zdarzeniami wejściowymi usuwa duplikaty przychodzących sygnałów, przypisuje priorytety operacyjne i stosuje heurystyki proaktywności, aby ustalić, czy agent powinien natychmiast powiadomić użytkownika, czy przetworzyć zadanie bez powiadomienia w tle. Wskazówki użytkownika o wysokim priorytecie natychmiast uzyskują pierwszeństwo przed kolejkami przetwarzania w tle.
Centralnym elementem tej architektury jest wzorzec projektowy cienkiego klienta i rozbudowanego serwera. Aplikacja kliencka zawiera minimalną logikę operacyjną i udostępnia pojedyncze narzędzie interfejsu programistycznego aplikacji send_user, służące do wyświetlania sformatowanych wyników ze zdalnego serwera. Umieszczenie głównej pętli agenta na centralnym serwerze zamiast wewnątrz lokalnych aplikacji pozwala zespołom technologicznym szybko wdrażać aktualizacje warstwy serwerowej bez opóźnień związanych z zatwierdzaniem przez sklepy z aplikacjami i bez przestojów usługi. Ponadto operacje wymagające znacznej mocy obliczeniowej, takie jak transkrypcja dźwięku czy generowanie obrazów, pozostają scentralizowane na zoptymalizowanej infrastrukturze serwerowej. Aplikacja kliencka ustanawia z serwerem subskrypcje strumieni zdarzeń w czasie rzeczywistym i wykorzystuje logikę usuwania duplikatów wiadomości do wyświetlania interaktywnych elementów interfejsu użytkownika — takich jak niestandardowe formularze logowania, dane uwierzytelniające 1Password czy ekrany autoryzacji finansowej — bez utraty synchronizacji stanu.
Bezpieczeństwo wykonywania i izolację środowiska zapewniają izolowane środowiska maszyn wirtualnych Firecracker. Każda instancja agenta działa we własnym, dedykowanym kontenerze Linux wyposażonym w trwałe przechowywanie plików, wirtualne pulpity i przeglądarkę Chrome działającą bez interfejsu graficznego. Zamiast polegać wyłącznie na integracjach poprzez interfejsy programistyczne aplikacji, agenci oddziałują na systemy oprogramowania dzięki zdolnościom obsługi komputera. Analizują interfejsy internetowe za pomocą ustrukturyzowanych drzew dostępności systemu operacyjnego, aby identyfikować elementy interaktywne, a podczas nawigacji po niestandardowych interfejsach korzystają zastępczo z bezpośredniej analizy wizualnej zrzutów ekranu i kliknięć we współrzędne pikselowe. Aby zarządzać ograniczeniami sprzętowymi i kosztami utrzymania, maszyny wirtualne Firecracker dynamicznie zapisują migawki swojego stanu wykonania na dysku i przechodzą w hibernację podczas bezczynności, natychmiast przywracając pełny stan operacyjny po otrzymaniu nowego sygnału wybudzenia.
Trwałość działania systemu podczas wielotygodniowych operacji zależy od platform trwałych przepływów pracy, a nie od konwencjonalnych kolejek zadań. Standardowe kolejki zadań obsługują awarie węzłów poprzez ponowne uruchamianie zadań od pierwszego kroku, co podczas złożonych operacji wieloetapowych prowadzi do katastrofalnego powielania skutków ubocznych. Dzięki wykorzystaniu silników trwałych przepływów pracy, takich jak Temporal, stan wykonania agenta, pamięć zmiennych i kontekst operacyjny są stale zapisywane w punktach kontrolnych. Jeśli węzeł infrastruktury ulegnie awarii, trwały przepływ pracy wznawia wykonywanie dokładnie w miejscu awarii, bez powtarzania wcześniej zakończonych wywołań narzędzi.
Podagenci i inżynieria kontekstu: osiąganie pozornie nieskończonego kontekstu
Głównym wąskim gardłem ograniczającym możliwości dużego modelu językowego w długim horyzoncie operacyjnym jest degradacja kontekstu. W miarę jak okno kontekstowe dużego modelu językowego wypełnia się instrukcjami systemowymi, schematami narzędzi, odczytami plików i dziennikami wykonania, wydajność systemu spada. Koszty zużycia tokenów rosną nieliniowo, opóźnienia operacyjne się zwiększają, a zdolność modelu do zachowania wysokiej wierności rozumowania względem początkowych instrukcji znacznie się pogarsza.
Aby ograniczyć rozrost kontekstu, nowoczesne środowiska sterowania agentami stosują dynamiczne odkrywanie narzędzi, często określane jako „narzędzie wyszukiwania narzędzi”. Zamiast ładować do aktywnego okna kontekstowego pełne schematy w formacie zapisu obiektów dla dziesiątek zintegrowanych narzędzi — takich jak serwery protokołu kontekstu modelu, niestandardowe zestawy narzędzi do tworzenia oprogramowania czy interfejsy programistyczne zewnętrznych baz danych — główna instrukcja zawiera jedynie ogólne nazwy narzędzi. Szczegółowe specyfikacje narzędzi są przechowywane w zdalnym systemie plików. Agent dynamicznie wyszukuje, odczytuje i ładuje konkretne schematy narzędzi do pamięci roboczej tylko wtedy, gdy pojawia się wyraźna potrzeba operacyjna.
Aby utrzymać wysoką jakość rozumowania przy złożonych zadaniach, główni agenci orkiestrujący delegują operacje wymagające dużej liczby tokenów wyspecjalizowanym podagentom. Gdy zadanie wymaga wykonania setek skryptów powłoki, pobrania treści obszernych stron internetowych lub wygenerowania filmów demonstracyjnych, agent orkiestrujący tworzy odizolowanego podagenta wyposażonego w nowe okno kontekstowe. Podagent wykonuje pracochłonną procedurę we własnym trwałym przepływie pracy i zwraca do głównego wątku jedynie zwięzłe, syntetyczne podsumowanie w formacie znaczników. Ten wzorzec delegowania tworzy operacyjne warunki pozornie nieskończonego kontekstu, zapobiegając wyczerpaniu okna kontekstowego w głównym wątku agenta orkiestrującego.
Inżynieria środowisk sterowania dodatkowo optymalizuje wydajność systemu poprzez strukturę buforowania instrukcji i zagęszczanie kontekstu w tle. Modele utrzymują statyczne instrukcje systemowe, indeksy dynamicznego odkrywania narzędzi i trwałą pamięć podstawową na początku tablicy kontekstu, aby maksymalizować odsetek trafień w pamięci podręcznej zapewnianej przez interfejsy programistyczne modeli bazowych. Aby zachować ważność pamięci podręcznej podczas kolejnych zmian instrukcji systemowych lub testów A/B, środowiska sterowania wykorzystują deterministyczne wyznaczanie skrótów sekcji, zapewniając stałą, niezmienną kolejność komponentów instrukcji systemowej. Ponadto aplikacje klienckie wstępnie zapełniają pamięć podręczną instrukcji na serwerze, gdy tylko użytkownik aktywuje pole czatu lub zaczyna w nim pisać, eliminując opóźnienie przed wysłaniem wiadomości.
Podczas przerw w działaniu, gdy pamięć podręczna instrukcji modelu pozostaje aktywna — zwykle w oknie od 10 do 60 minut — system wykonuje w tle procedury stratnego zagęszczania, aby skompresować wcześniejsze dzienniki rozmów do ustrukturyzowanych podsumowań. Trwała pamięć jest zorganizowana w trzy odrębne warstwy:
- Podstawowe informacje o użytkowniku: Preferencje użytkownika o wysokim priorytecie i ograniczenia systemowe wprowadzane do każdego cyklu operacyjnego.
- Dzienniki historyczne z datami: Chronologiczne, przeszukiwalne zapisy wcześniejszych interakcji z systemem, przechowywane w zdalnych plikach w formacie znaczników.
- Ulotne notatki robocze: Tymczasowa operacyjna pamięć robocza, zaprojektowana tak, aby automatycznie wygasała po zakończeniu zadania.
Bezpieczeństwo, automatyczna weryfikacja i mechanizm samonapędzającego doskonalenia modeli
Wdrażanie autonomicznych agentów w przedsiębiorstwach wprowadza istotne zagrożenia bezpieczeństwa, szczególnie związane ze zmęczeniem zatwierdzaniem poleceń oraz wstrzykiwaniem instrukcji. Wymaganie od operatorów ręcznego zatwierdzania setek szybko następujących po sobie poleceń powłoki prowadzi do wyczerpania operacyjnego, przez co nadzór człowieka staje się nieskuteczny. Aby rozwiązać ten problem, architektury agentów o wysokiej niezawodności wdrażają dodatkowe modele zabezpieczające, określane jako systemy automatycznej weryfikacji.
Zabezpieczenie oparte na automatycznej weryfikacji działa jako niezależny, wysoce wyspecjalizowany proces sztucznej inteligencji, który przed wykonaniem sprawdza każde proponowane polecenie powłoki, uruchomienie skryptu i wizualną interakcję z pulpitem. Testy empiryczne wykazują, że dodatkowe modele automatycznej oceny przewyższają zmęczonych operatorów w wykrywaniu złośliwych poleceń, błędów składni i odchyleń operacyjnych. W przypadku nieodwracalnych operacji wysokiego ryzyka — takich jak wysyłanie zewnętrznych wiadomości e-mail lub wykonywanie transakcji finansowych za pośrednictwem usług takich jak Stripe Link czy X Money — system wstrzymuje wykonywanie, wymagając wyraźnego potwierdzenia przez człowieka.
Niezaufane dane wejściowe z zewnątrz, w tym przychodzące wiadomości e-mail, treści internetowe stron trzecich i wywołania zwrotne, stwarzają poważne ryzyko wstrzyknięcia instrukcji, jeśli są bezpośrednio wprowadzane do głównej pętli rozumowania agenta. Bezpieczne systemy oczyszczają niezaufane dane wejściowe, przepuszczając je przez pośrednie warstwy analizy, co zapobiega uruchamianiu niezweryfikowanych narzędzi systemowych lub naruszaniu bezpieczeństwa danych uwierzytelniających przez złośliwe instrukcje zastępujące pierwotne polecenia.
Niezawodność systemu stale się poprawia dzięki dwupętlowemu mechanizmowi samonapędzającego doskonalenia inżynieryjnego. Gdy agent nie zdoła wykonać zadania, przebieg niepowodzenia jest katalogowany w automatycznym teście porównawczym oceny. W szybkiej pętli wewnętrznej inżynierowie systemowi natychmiast aktualizują instrukcje środowiska sterowania, udoskonalają narzędzia dynamiczne lub dostosowują instrukcje systemowe, wykorzystując zestaw testów oceniających do weryfikacji poprawki. W wolnej pętli zewnętrznej zagregowane dane o niepowodzeniach i pomyślnych przebiegach są przekształcane w zbiory danych do dostrajania. Modele bazowe przechodzą nadzorowane dostrajanie oraz uczenie ze wzmocnieniem w cyklach wydawniczych od 1 do 6 miesięcy, aby bezpośrednio zwiększać zdolność do przestrzegania instrukcji, wyboru narzędzi i wizualnej nawigacji po pulpicie.
Zespoły inżynierskie budujące te architektury stosują podstawową doktrynę operacyjną: „usuń produkt”. Złożone, niestandardowe warstwy abstrakcji interfejsu użytkownika tworzone obecnie powinny pozostawać minimalne, ponieważ szybkie skoki możliwości modeli bazowych w horyzoncie od 6 do 12 miesięcy systematycznie pozwalają rozwiązywać złożone problemy środowisk sterowania bezpośrednio w samych modelach.
Ograniczenia systemowe, kompromisy architektoniczne i otwarte pytania#
Pomimo szybkiego rozwoju infrastruktury architektury stale aktywnych agentów mierzą się z nierozstrzygniętymi kompromisami technicznymi dotyczącymi proaktywności i zarządzania powiadomieniami. Działanie cyfrowego współpracownika stale obecnego w tle wymaga szczegółowych heurystyk określających, kiedy agent powinien wykonywać zadania bez powiadamiania użytkownika, a kiedy powinien przerwać mu pracę informacją o stanie realizacji. Nadmierna proaktywność prowadzi do zmęczenia powiadomieniami i irytacji użytkownika, natomiast zbyt zachowawcza proaktywność sprowadza system do roli standardowego narzędzia reagującego na polecenia. Ustalenie optymalnych progów powiadamiania pozostaje nierozwiązanym wyzwaniem we wdrożeniach korporacyjnych.
Drugim wyzwaniem jest paradoks oceny w długim horyzoncie. Ocena agenta zaprojektowanego do ciągłego działania w wielotygodniowych okresach realizacji zadań jest z natury trudna, gdy bazowe modele językowe przechodzą kolejne aktualizacje wersji lub są całkowicie zastępowane w cyklach od 30 do 90 dni. Przeprowadzanie porównawczych ocen poza środowiskiem produkcyjnym dla miesięcznych przebiegów zadań staje się niepraktyczne, jeśli bazowe modele są aktualizowane lub wycofywane przed zakończeniem oceny, co utrudnia śledzenie wyników względem poziomu odniesienia.
Wreszcie, podsumowywanie kontekstu powoduje nieuniknioną utratę informacji. Ponieważ wszystkie algorytmy zagęszczania opierają się na kompresji stratnej, sprowadzanie setek tysięcy tokenów szczegółowych historii dzienników, wyników terminala i zawartości plików do zwięzłych podsumowań w formacie Markdown grozi trwałym odrzuceniem subtelnych szczegółów dotyczących przypadków brzegowych. Jeśli długo działający agent potrzebuje precyzyjnych parametrów operacyjnych ustalonych kilka tygodni wcześniej, stratne zagęszczanie może prowadzić do niezasygnalizowanego niepowodzenia zadania lub halucynacji kontekstowych na późnym etapie realizacji.
Rozwiązanie tych kompromisów wymaga równoważenia kosztów zużycia tokenów z precyzją rozumowania, optymalizacji opóźnień wnioskowania oraz ustanowienia solidnych granic bezpieczeństwa dla interakcji między wieloma agentami na platformach oprogramowania jako usługi [SaaS].
Kluczowe liczby#
- 200,000 tokenów: Standardowy punkt odniesienia dla okna kontekstowego pamięci roboczej współczesnych dużych modeli językowych, wyznaczający skalę, przy której agresywne algorytmy zagęszczania kontekstu stają się niezbędne.
- 6 do 12 miesięcy: Horyzont operacyjny, w którym skokowy wzrost możliwości modeli bazowych sprawia, że złożona, niestandardowa logika środowisk sterujących modelami, pośrednie warstwy abstrakcji i wyspecjalizowane nakładki interfejsu użytkownika stają się przestarzałe.
- 10 do 60 minut: Typowy czas, przez który dostawcy modeli bazowych utrzymują aktywne pamięci podręczne zapytań, określający optymalne okno dla ekonomicznego zagęszczania kontekstu w tle.
- Od godzin/dni do wielu tygodni/wielu miesięcy: Strukturalna zmiana docelowych horyzontów realizacji zadań, obejmująca przejście od krótkich interaktywnych sesji terminalowych do autonomicznych procesów roboczych działających w tle w długim horyzoncie.
Co zmieniłoby ten obraz
- Przejście od stratnego zagęszczania do architektur pamięci opartych na grafach: Powszechne przejście branży od standardowego podsumowywania kontekstu w formacie Markdown do bezstratnych grafów wiedzy radykalnie poprawiłoby długoterminowe odtwarzanie informacji i precyzję kontekstową podczas wielomiesięcznych przebiegów realizacji zadań.
- Standaryzacja testów porównawczych oceny agentów w długim horyzoncie: Opracowanie predykcyjnych ram oceny poza środowiskiem produkcyjnym, wykorzystujących kompresję czasu, pozwoliłoby zespołom inżynieryjnym dokładnie oceniać wielotygodniowe procesy robocze agentów w ciągu godzin, zamiast czekać na cykle realizacji w czasie rzeczywistym.
- Powszechne wdrożenie w przedsiębiorstwach obsługi komputera bez interfejsu użytkownika: Powszechne zastosowanie bezpośredniej nawigacji wizualnej za pomocą drzew dostępności i interakcji z pikselami w oprogramowaniu korporacyjnym pozwoliłoby ominąć potrzebę tradycyjnych integracji przez interfejsy programowania aplikacji oraz dedykowanych implementacji protokołu kontekstu modelu.
- Natywna integracja głosu i mowy na poziomie sprzętowym: Upowszechnienie stale dostępnych urządzeń głosowych o niskich opóźnieniach, dostosowanych do przetwarzania mowy w czasie rzeczywistym, przesunęłoby podstawowy sposób sterowania agentami z lekkich aplikacji klienckich do komunikacji tekstowej w kierunku ciągłych pętli interakcji dźwiękowej.
Aby zgłębić infrastrukturę autonomicznych agentów działających w sposób ciągły i ocenić współczesne implementacje środowisk sterujących modelami, odwiedź zasoby badawcze o otwartym kodzie źródłowym dostępne na stronie DeepValues Research lub wypróbuj platformę bezpośrednio w aplikacji DeepValues.
Źródła
Stanford CS146S: How always-on agents work, presentation by Lee Robinson on the leerob YouTube channel.
Oglądaj
Linki do źródeł
Oglądaj i słuchaj
- SpaceX Engineer: Always-On AI Agents Hit a 200K Token Wall YouTube · EN
- SpaceX讓AI替員工開會:全天候智能體連跑3週 YouTube · 中文
- SpaceX Engineer: Always-On AI Agents Hit a 200K Token Wall Podcast · EN
- SpaceX讓AI替員工開會:全天候智能體連跑3週 Podcast · 中文