Insights AI
எப்போதும் இயங்கும் செயற்கை நுண்ணறிவு முகவர்களைப் புரிந்துகொள்ளுதல்: உள்கட்டமைப்பு, சூழல் பொறியியல் மற்றும் அமைப்புக் கட்டமைப்பு
ஒலிவலையொளி · கேளுங்கள் (22 நிமி)
உள்ளடக்கம்
- செயற்கை நுண்ணறிவு உருவாக்கத்தின் நான்கு காலகட்டங்களும் முனைய இடையூறும்
- அமைப்புக் கட்டமைப்பு: சேவையகத்தை மையமாகக் கொண்ட செயலாக்கமும் மெய்நிகர் இயந்திரத் தனிமைப்படுத்தலும்
- துணை முகவர்களும் சூழல் பொறியியலும்: தோற்றத்தில் எல்லையற்ற சூழலை அடைதல்
- பாதுகாப்பு, தானியங்கி மதிப்பாய்வு மற்றும் மாதிரியின் தொடர்ச்சியான மேம்பாட்டுச் சுழற்சி
- அமைப்பின் வரம்புகள், கட்டமைப்புச் சமரசங்கள் மற்றும் விடை காணப்படாத கேள்விகள்
- முக்கிய எண்கள்
- இந்த நிலையை மாற்றக்கூடியவை
- மேற்கோள் ஆதாரங்கள்
எப்போதும் இயங்கும், முன்முயற்சியுடன் செயல்படும் நிலையான முகவர்கள், செயற்கை நுண்ணறிவைப் பயன்பாட்டில் அமர்த்துவதில் ஒரு கட்டமைப்பு சார்ந்த முன்னுதாரண மாற்றத்தைக் குறிக்கின்றனர். இவை அமைப்பு வடிவமைப்பை, மனிதர்கள் கண்காணிக்கும் உள்ளூர் செயலாக்கச் சுழற்சிகளிலிருந்து தன்னாட்சி கொண்ட, பின்னணியில் இயங்கும் நிறுவன உள்கட்டமைப்பிற்கு மாற்றுகின்றன. Lee Robinson வழங்கிய Stanford CS146S விரிவுரையில் விவரிக்கப்பட்டபடி, இந்த நிலையான முகவர்கள் சேவையகத்தை மையமாகக் கொண்ட செயலாக்க மாதிரி, நீடித்த பணிப்பாய்வு ஒருங்கிணைப்பு, வட்டு நிலைப்பதிவுடன் கூடிய மாறும் மெய்நிகர் இயந்திரத் தனிமைப்படுத்தல், துணை முகவர்களுக்குப் பணிகளை ஒப்படைத்தல் மற்றும் தொடர்ச்சியான வழிமுறைச் சூழல் சுருக்கம் ஆகியவற்றைச் சார்ந்துள்ளன. முகவர் சுழற்சிகளை உருவாக்குநரின் வன்பொருள் மற்றும் உள்ளூர் முனைய அமர்வுகளிலிருந்து பிரிப்பதன் மூலம், இந்தக் கட்டமைப்புகள் ஊடாடும் கட்டளைவரி இயக்கச் சட்டகங்களின் பௌதிக வரம்புகளைக் கடக்கின்றன. வெறும் எதிர்வினைப் பதில் பயன்பாடுகளாகச் செயல்படுவதற்குப் பதிலாக, எப்போதும் இயங்கும் முகவர்கள் பின்னணியில் செயல்படும் மின்னணுச் சக ஊழியர்களாக இயங்குகின்றன—மேகச் சூழல்களில் நீண்ட கால நோக்குடைய, பல வாரங்கள் நீடிக்கும் மென்பொருள் பொறியியல் மற்றும் செயல்பாட்டுப் பணிகளை நிறைவேற்றுகின்றன.
செயற்கை நுண்ணறிவு உருவாக்கத்தின் நான்கு காலகட்டங்களும் முனைய இடையூறும்
செயற்கை நுண்ணறிவுடன் உருவாக்குநர்கள் மேற்கொள்ளும் தொடர்பு, நான்கு தனித்துவமான செயல்பாட்டு முன்னுதாரணங்களாக வளர்ச்சியடைந்துள்ளது. முதல் காலகட்டத்தில், உருவாக்குநர்கள் ChatGPT போன்ற இணைய இடைமுகங்களிலிருந்து நிரல் துணுக்குகளைத் தாங்களே நகலெடுத்து, உள்ளூர் ஒருங்கிணைந்த உருவாக்கச் சூழல்களில் நேரடியாகச் சேர்த்தனர். இந்தக் கையேடு பணிப்பாய்வு மிகுந்த சிதறலுடன் இருந்தது; தொடர்ச்சியான சூழல் மாற்றமும், மாதிரி வெளியீடுகளை நிரல் கோப்புகளுக்கேற்ப மனிதர்கள் மாற்றியமைப்பதும் தேவைப்பட்டது.
இரண்டாவது காலகட்டம் முனைய அடிப்படையிலான இயக்கச் சட்டகங்களை அறிமுகப்படுத்தியது. இந்த மென்பொருள் உறைகள், கோப்பு மரங்களைப் பகுப்பாய்வு செய்தல், மூலக் கோப்புகளை மாற்றுதல் மற்றும் வரையறுக்கப்பட்ட செயலாக்கச் சுழற்சிக்குள் கட்டளைச்சூழல் கட்டளைகளை வழங்குதல் ஆகியவற்றின் மூலம், பெரும் மொழி மாதிரி [LLM] உள்ளூர் இயக்க முறைமைகளுடன் எதிர்வினை அடிப்படையில் தொடர்புகொள்ள அனுமதித்தன. மாதிரிகளுக்குச் செயல்படும் அதிகாரத்தை வழங்கியதன் மூலம் முனைய இயக்கச் சட்டகங்கள் கணிசமான உற்பத்தித்திறன் ஆதாயங்களை ஏற்படுத்தினாலும், அவை நேரடி மனிதத் தொடக்க நடவடிக்கைகளுடனும் உள்ளூர் கணினி நிலைகளுடனும் கண்டிப்பாகப் பிணைக்கப்பட்டிருந்தன.
மூன்றாவது காலகட்டம், நிரலாக்க முகவர்களை மேகச் சூழல்களில் இணையாக இயங்கும் முகவர் நிகழ்வுகளை உருவாக்கக்கூடிய, பிரத்யேக பயனர் இடைமுக [UI] கணினிப் பயன்பாடுகளாக விரிவுபடுத்தியது. கணக்கீட்டுச் செயலாக்கத்தைத் தொலைநிலை உள்கட்டமைப்பிற்கு மாற்றியிருந்தாலும், இந்தத் தலைமுறை முக்கியமான செயல்பாட்டுத் தடைகளை எதிர்கொண்டது: மனித இயக்குபவரே முதன்மையான இடையூறாகத் தொடர்ந்தார். எதிர்பாராத கோப்பு நீக்கங்கள் அல்லது அமைப்பின் நிலையிழப்பைத் தடுக்க, உருவாக்குநர்கள் செயலாக்க ஓட்டங்களைத் தொடர்ந்து கண்காணித்து, ஒவ்வொரு கட்டளைச்சூழல் கட்டளையையும் கைமுறையாக மதிப்பாய்வு செய்து அனுமதிக்க வேண்டியிருந்தது.
தொழில்துறை இப்போது நான்காவது காலகட்டத்திற்குள் நுழைந்துள்ளது: மேகப் பின்னணி உள்கட்டமைப்பு முழுவதும் தொடர்ந்து இயங்கும், எப்போதும் செயல்பாட்டிலுள்ள நிலையான முகவர்கள். பிரத்யேக தொலைநிலைப் பணிநிலையங்கள், நிலையான நினைவகக் கட்டமைப்புகள் மற்றும் தன்னாட்சி அட்டவணைத் தூண்டுதல்கள் ஆகியவற்றைக் கொண்ட இந்த முகவர்கள், உருவாக்குநர் இருக்கிறாரா இல்லையா என்பதைப் பொருட்படுத்தாமல் தொடர்ந்து இயங்குகின்றன. மடிக்கணினியின் மூடியை மூடுவதோ அல்லது முனைய அமர்வை முடிப்பதோ அடிப்படை முகவர் செயல்முறையைத் திடீரென நிறுத்திவிடும் முனையத்துடன் பிணைக்கப்பட்ட இயக்கச் சட்டகங்களின் மையக் கட்டமைப்பு இடையூறு நீக்கப்பட்டுள்ளது. மேலும், நான்காவது காலகட்ட இயக்கச் சட்டகங்கள் செயலாக்கத்தின் நடுவில் நிகழ்நேரப் பயனர் வழிநடத்தல்களையும் ஒழுங்கற்ற இடையீடுகளையும் கையாளுகின்றன. ஒரு பயனர் செயல்பாட்டுச் சுற்றின் நடுவில் அறிவுறுத்தல்களைச் சேர்த்தாலோ தேதிகளை மாற்றினாலோ, நவீன மாதிரிகள் சூழலைச் சிதைக்காமலும் நடந்துகொண்டிருக்கும் பணியின் நிலையைச் செல்லாததாக்காமலும் இந்த மாறும் புதுப்பிப்புகளைக் கையாளுகின்றன.
அமைப்புக் கட்டமைப்பு: சேவையகத்தை மையமாகக் கொண்ட செயலாக்கமும் மெய்நிகர் இயந்திரத் தனிமைப்படுத்தலும்
எப்போதும் இயங்கும் முகவரின் அடிப்படை உள்கட்டமைப்பைப் புரிந்துகொள்ள, அதன் கட்டமைப்பை “தொலைநிலைப் பணியிடத்துடன் கூடிய மின்னணுச் சக ஊழியர்” என்று கருத்தாக்கலாம். இந்த மாதிரியில், இறுதிப் பயனர் குறுஞ்செய்தி அனுப்புவதைப் போன்ற ஓர் இலகுவான செய்தியிடல் வாடிக்கையாளர் பயன்பாட்டின் வழியாகத் தொடர்புகொள்கிறார்; முதன்மைப் பணிச்சுமை, அமைப்பு நினைவகம், கருவிச் சார்புகள் மற்றும் இயக்கச் சூழல் ஆகியவை தனிமைப்படுத்தப்பட்ட மேக உள்கட்டமைப்பில் இருக்கின்றன.
அமைப்பின் செயலாக்கச் சங்கிலி வெளிப்படையான வழிமுறைகள் அல்லது இயல்பாக நிகழும் பின்னணி நிகழ்வுகள் மூலம் தொடங்குகிறது. நேரடிப் பயனர் அழைப்பின்போது மட்டுமே செயல்படும் பாரம்பரிய அமைப்புகளைப் போலல்லாமல், எப்போதும் இயங்கும் முகவரை பின்னணி நேர அட்டவணை நடைமுறைகள் அல்லது வெளிப்புற இணைய நிகழ்வு அழைப்புகள் செயல்படுத்தலாம்; உள்வரும் Slack செய்திகள், தானியங்கி மின்னஞ்சல்கள் அல்லது நாள்காட்டி அழைப்புகள் இதற்கான எடுத்துக்காட்டுகளாகும். முக்கியமாக, வராத மனித ஊழியர்களுக்குப் பதிலாக முகவர்கள் தன்னாட்சியாக மெய்நிகர் காணொளி அல்லது ஒலிக் கூட்டங்களில் இணைந்து குறிப்புகளைப் பதிவுசெய்யவும், விவாதக் கருத்துகளைச் சுருக்கவும், செயல்படுத்த வேண்டிய பணிகளைப் பதிவிடவும் முடியும். உள்வரும் நிகழ்வுகளை வழிப்படுத்தும் அமைப்பு, வருகிற சைகைகளின் நகல்களை நீக்கி, செயல்பாட்டு முன்னுரிமையை ஒதுக்கி, முகவர் உடனடியாகப் பயனரை எச்சரிக்க வேண்டுமா அல்லது பின்னணியில் அமைதியாகப் பணியைச் செயல்படுத்த வேண்டுமா என்பதைத் தீர்மானிக்க முன்முயற்சி மதிப்பீட்டு விதிகளைப் பயன்படுத்துகிறது. உயர்முன்னுரிமைப் பயனர் வழிநடத்தல் உள்ளீடுகள், பின்னணிச் செயலாக்க வரிசைகளை உடனடியாக மீறி முன்னுரிமை பெறுகின்றன.
இந்தக் கட்டமைப்பின் மையமாக இருப்பது இலகுவான வாடிக்கையாளர் பயன்பாடு, அதிகப் பொறுப்புடைய சேவையகம் என்ற வடிவமைப்பு முறையாகும். வாடிக்கையாளர் பயன்பாட்டில் மிகக் குறைந்த செயல்பாட்டுத் தர்க்கமே உள்ளது; தொலைநிலைச் சேவையகத்திலிருந்து வரும் வடிவமைக்கப்பட்ட வெளியீடுகளைக் காட்டுவதற்காக, send_user என்ற ஒற்றை பயன்பாட்டு நிரலாக்க இடைமுக [API] கருவியை அது வழங்குகிறது. மைய முகவர் சுழற்சியை உள்ளூர் பயன்பாடுகளுக்குள் வைப்பதற்குப் பதிலாக மையச் சேவையகத்தில் வைப்பது, பயன்பாட்டு அங்காடியின் ஒப்புதல் தாமதங்கள் அல்லது சேவை நிறுத்தம் இல்லாமல் தொழில்நுட்பக் குழுக்கள் விரைவான பின்தளப் புதுப்பிப்புகளை வெளியிட அனுமதிக்கிறது. மேலும், ஒலியை எழுத்தாக்குதல் அல்லது பட உருவாக்கம் போன்ற அதிகக் கணக்கீடு தேவைப்படும் செயல்பாடுகள், மேம்படுத்தப்பட்ட சேவையக உள்கட்டமைப்பில் மையப்படுத்தப்பட்டே இருக்கின்றன. வாடிக்கையாளர் பயன்பாடு சேவையகத்துடன் நிகழ்நேர நிகழ்வு ஓட்டச் சந்தாக்களை நிறுவி, செய்தி நகல் நீக்கத் தர்க்கத்தைப் பயன்படுத்தி, தனிப்பயன் உள்நுழைவுப் படிவங்கள், 1Password சான்றுகள் அல்லது நிதி அங்கீகாரத் திரைகள் போன்ற ஊடாடும் UI கூறுகளை நிலை ஒத்திசைவு குலையாமல் காட்டுகிறது.
Firecracker மெய்நிகர் இயந்திர [VM] தனிமைப்படுத்தப்பட்ட சூழல்கள் மூலம் செயலாக்கப் பாதுகாப்பும் சூழல் தனிமைப்படுத்தலும் உறுதிசெய்யப்படுகின்றன. ஒவ்வொரு முகவர் நிகழ்வும், நிலையான கோப்புச் சேமிப்பகம், மெய்நிகர் பணிமேசைகள் மற்றும் வரைகலை இடைமுகமின்றி இயங்கும் Chrome உலாவி ஆகியவற்றைக் கொண்ட தனக்கெனப் பிரத்யேகமான Linux கொள்கலனுக்குள் இயங்குகிறது. API ஒருங்கிணைப்புகளை மட்டுமே சார்ந்திருப்பதற்குப் பதிலாக, முகவர்கள் கணினிப் பயன்பாட்டுத் திறன்களைக் கொண்டு மென்பொருள் அமைப்புகளுடன் தொடர்புகொள்கின்றன. ஊடாடக்கூடிய கூறுகளை அடையாளம் காண, கட்டமைக்கப்பட்ட இயக்க முறைமை அணுகல்தன்மை மரங்கள் வழியாக இணைய இடைமுகங்களை அவை பகுப்பாய்வு செய்கின்றன; தரநிலையற்ற இடைமுகங்களில் வழிசெல்லும்போது, நேரடித் திரைப்பிடிப்புப் படப் பகுப்பாய்வையும் படப்புள்ளி ஆயத்தொலைவு சொடுக்கல்களையும் மாற்றுவழியாகப் பயன்படுத்துகின்றன. வன்பொருள் வரம்புகளையும் சேவையகச் செலவுகளையும் நிர்வகிக்க, Firecracker VM-கள் தங்கள் செயலாக்க நிலையைத் தேவைக்கேற்ப வட்டில் நிலைப்பதிவு செய்து, செயலற்றிருக்கும்போது உறங்குநிலைக்குச் செல்கின்றன; புதிய செயல்பாட்டுத் தூண்டுதல் கிடைத்தவுடன் முழுச் செயல்பாட்டு நிலையையும் உடனடியாக மீட்டெடுக்கின்றன.
பல வாரங்கள் நீடிக்கும் செயல்பாடுகளில் அமைப்பின் நீடித்த செயல்திறன், வழக்கமான பணி வரிசைகளைவிட நீடித்த பணிப்பாய்வுச் சட்டகங்களைச் சார்ந்துள்ளது. நிலையான பணி வரிசைகள், முனைத் தோல்விகளைச் சமாளிக்கப் பணிகளை முதல் படியிலிருந்து மீண்டும் தொடங்குகின்றன; இது சிக்கலான பலபடிச் செயல்பாடுகளில் பேரழிவை ஏற்படுத்தக்கூடிய நகல் பக்கவிளைவுகளை உருவாக்குகிறது. Temporal போன்ற நீடித்த பணிப்பாய்வு இயந்திரங்களைப் பயன்படுத்துவதன் மூலம், முகவரின் செயலாக்க நிலை, மாறி நினைவகம் மற்றும் செயல்பாட்டுச் சூழல் ஆகியவை தொடர்ந்து மீட்புப் புள்ளிகளாகப் பதிவுசெய்யப்படுகின்றன. அடிப்படை உள்கட்டமைப்பு முனை செயலிழந்தால், ஏற்கெனவே முடிக்கப்பட்ட கருவி அழைப்புகளை மீண்டும் இயக்காமல், தோல்வி ஏற்பட்ட துல்லியமான இடத்திலிருந்து நீடித்த பணிப்பாய்வு செயலாக்கத்தைத் தொடர்கிறது.
துணை முகவர்களும் சூழல் பொறியியலும்: தோற்றத்தில் எல்லையற்ற சூழலை அடைதல்
நீண்ட செயல்பாட்டுக் காலங்களில் பெரும் மொழி மாதிரியின் திறனை நிர்ணயிக்கும் முதன்மை இடையூறு சூழல் சிதைவாகும். LLM சூழல் சாளரம் அமைப்பு வழிமுறைகள், கருவித் திட்டவடிவங்கள், கோப்பிலிருந்து வாசிக்கப்பட்ட உள்ளடக்கங்கள் மற்றும் செயலாக்கப் பதிவுகளால் நிரம்பும்போது, அமைப்பின் செயல்திறன் குறைகிறது. சொற்கூறு நுகர்வுச் செலவுகள் நேர்கோடற்ற முறையில் அதிகரிக்கின்றன, செயல்பாட்டுத் தாமதம் உயர்கிறது, மேலும் தொடக்க அறிவுறுத்தல்களைப் பற்றிய உயர்தரப் பகுத்தறிவைத் தக்கவைக்கும் மாதிரியின் திறன் கணிசமாகச் சிதைகிறது.
சூழல் பெருக்கத்தைக் குறைக்க, நவீன முகவர் இயக்கச் சட்டகங்கள் மாறும் கருவிக் கண்டறிதலைப் பயன்படுத்துகின்றன; இது பெரும்பாலும் “கருவித் தேடல் கருவி” என்று குறிப்பிடப்படுகிறது. மாதிரிச் சூழல் நெறிமுறை [MCP] சேவையகங்கள், தனிப்பயன் மென்பொருள் உருவாக்கத் தொகுப்புகள் அல்லது வெளிப்புறத் தரவுத்தள API-கள் போன்ற பல டஜன் ஒருங்கிணைக்கப்பட்ட கருவிகளின் முழுமையான JSON திட்டவடிவங்களைச் செயலில் உள்ள சூழல் சாளரத்தில் ஏற்றுவதற்குப் பதிலாக, முதன்மை வழிமுறையில் உயர்மட்டக் கருவிப் பெயர்கள் மட்டுமே இடம்பெறுகின்றன. விரிவான கருவி விவரக்குறிப்புகள் தொலைநிலைக் கோப்பு முறைமையில் பராமரிக்கப்படுகின்றன. வெளிப்படையான செயல்பாட்டுத் தேவை எழும்போது மட்டுமே, முகவர் குறிப்பிட்ட கருவித் திட்டவடிவங்களைத் தேவைக்கேற்ப தேடி, வாசித்து, செயல்பாட்டு நினைவகத்தில் ஏற்றுகிறது.
சிக்கலான பணிகளில் உயர்தரப் பகுத்தறிவைத் தக்கவைக்க, முதன்மை ஒருங்கிணைப்பாளர் முகவர்கள் அதிக சொற்கூறுகள் தேவைப்படும் செயல்பாடுகளைச் சிறப்புத் துணை முகவர்களிடம் ஒப்படைக்கின்றன. ஒரு பணிக்கு நூற்றுக்கணக்கான கட்டளைச்சூழல் நிரல்களை இயக்குதல், விரிவான இணையப் பக்கங்களிலிருந்து தரவுகளைச் சேகரித்தல் அல்லது செயல்விளக்கக் காணொளிகளை உருவாக்குதல் தேவைப்படும்போது, ஒருங்கிணைப்பாளர் புதிய சூழல் சாளரத்துடன் கூடிய தனிமைப்படுத்தப்பட்ட துணை முகவரை உருவாக்குகிறது. துணை முகவர், அதிக உழைப்பு தேவைப்படும் துணை நடைமுறையைத் தனது சொந்த நீடித்த பணிப்பாய்வுக்குள் செயல்படுத்தி, சுருக்கமான, சாரம் மட்டும் கொண்ட மார்க்டவுன் சுருக்கத்தை மட்டுமே முதன்மைச் செயலிழைக்குத் திருப்பி அனுப்புகிறது. இந்த ஒப்படைப்பு முறை, தோற்றத்தில் எல்லையற்ற சூழல் என்ற செயல்பாட்டு நிலையை உருவாக்கி, முதன்மை ஒருங்கிணைப்பாளரின் செயலிழையில் சூழல் சாளரம் தீர்ந்துபோவதைத் தடுக்கிறது.
வழிமுறைத் தேக்கக் கட்டமைப்பு மற்றும் பின்னணிச் சூழல் சுருக்கம் மூலம் இயக்கச் சட்டகப் பொறியியல் அமைப்பின் செயல்திறனை மேலும் மேம்படுத்துகிறது. அடித்தள மாதிரி API-கள் வழங்கும் தேக்கப் பொருத்த விகிதங்களை அதிகப்படுத்த, மாதிரிகள் நிலையான அமைப்பு வழிமுறைகள், மாறும் கருவிக் கண்டறிதல் குறியீடுகள் மற்றும் நிலையான மைய நினைவகம் ஆகியவற்றைச் சூழல் அணிவரிசையின் தொடக்கத்தில் வைத்திருக்கின்றன. அமைப்பு வழிமுறைத் திருத்தங்கள் அல்லது A/B சோதனைகளின்போது தேக்கத்தின் செல்லுபடித்தன்மையைப் பாதுகாக்க, அமைப்பு வழிமுறைக் கூறுகள் நிலையான, மாற்றமுடியாத வரிசையைப் பராமரிப்பதை உறுதிசெய்ய இயக்கச் சட்டகங்கள் நிர்ணயிக்கப்பட்ட பிரிவு சுருக்கக்குறியீட்டு முறையைப் பயன்படுத்துகின்றன. மேலும், பயனர் உரையாடல் UI-யில் கவனம் செலுத்தியவுடன் அல்லது தட்டச்சு செய்யத் தொடங்கியவுடன், வாடிக்கையாளர் பயன்பாடுகள் சேவையகத்தில் வழிமுறைத் தேக்கத்தை முன்கூட்டியே தயார்படுத்துகின்றன; இதனால் பயனர் செய்தியைச் சமர்ப்பிப்பதற்கு முன்பே தாமதம் நீக்கப்படுகிறது.
செயல்பாட்டு இடைவெளிகளின்போது, மாதிரி வழிமுறைத் தேக்கங்கள் தயார்நிலையில் இருக்கும் வேளையில்—பொதுவாக 10 முதல் 60 நிமிடக் காலச்சாளரத்திற்குள்—முந்தைய உரையாடல் பதிவுகளைச் சில விவரங்களை இழந்து கட்டமைக்கப்பட்ட சுருக்கங்களாகச் சுருக்குவதற்கான பின்னணி நடைமுறைகளை அமைப்பு இயக்குகிறது. நிலையான நினைவகம் மூன்று தனித்துவமான அடுக்குகளாக ஒழுங்கமைக்கப்படுகிறது:
- மையப் பயனர் தகவல்கள்: ஒவ்வொரு செயல்பாட்டுச் சுற்றிலும் சேர்க்கப்படும் உயர்முன்னுரிமைப் பயனர் விருப்பங்களும் அமைப்பு சார்ந்த கட்டுப்பாடுகளும்.
- தேதியிட்ட பதிவு வரலாறுகள்: தொலைநிலை மார்க்டவுன் கோப்புகளில் சேமிக்கப்படும், கடந்தகால அமைப்புத் தொடர்புகளின் காலவரிசைப்படுத்தப்பட்ட, தேடக்கூடிய பதிவுகள்.
- குறுகிய கால வரைவுக் குறிப்புகள்: பணி முடிந்தபின் தானாகக் காலாவதியாகும் வகையில் வடிவமைக்கப்பட்ட தற்காலிகச் செயல்பாட்டு நினைவகம்.
பாதுகாப்பு, தானியங்கி மதிப்பாய்வு மற்றும் மாதிரியின் தொடர்ச்சியான மேம்பாட்டுச் சுழற்சி
தன்னாட்சி முகவர்களை நிறுவனப் பயன்பாட்டில் அமர்த்துவது கணிசமான பாதுகாப்புப் பலவீனங்களை அறிமுகப்படுத்துகிறது; குறிப்பாகக் கட்டளைச் செயலாக்கக் கண்காணிப்பால் ஏற்படும் சோர்வு மற்றும் வழிமுறை உட்செலுத்தல் சார்ந்த அபாயங்கள் உள்ளன. வேகமாக வழங்கப்படும் நூற்றுக்கணக்கான கட்டளைச்சூழல் கட்டளைகளை மனித இயக்குபவர்கள் கைமுறையாக அனுமதிக்க வேண்டியிருப்பது செயல்பாட்டுச் சோர்வை ஏற்படுத்தி, மனித மேற்பார்வையைப் பயனற்றதாக்குகிறது. இதைச் சமாளிக்க, அதிக நம்பகத்தன்மையுள்ள முகவர் கட்டமைப்புகள் தானியங்கி மதிப்பாய்வு அமைப்புகள் எனப்படும் இரண்டாம் நிலைப் பாதுகாப்பு மாதிரிகளைச் செயல்படுத்துகின்றன.
தானியங்கி மதிப்பாய்வுப் பாதுகாப்பு அமைப்பு, முன்மொழியப்படும் ஒவ்வொரு கட்டளைச்சூழல் கட்டளையையும், நிரல் செயலாக்கத்தையும், திரைக் கணினித் தொடர்பையும் செயலாக்கத்திற்கு முன்பாக ஆய்வு செய்யும் சுயாதீனமான, மிகுந்த சிறப்புத்திறன் கொண்ட செயற்கை நுண்ணறிவுச் செயல்முறையாக இயங்குகிறது. தீங்கிழைக்கும் கட்டளைகள், தொடரமைப்புப் பிழைகள் மற்றும் செயல்பாட்டுத் திசைவிலகல் ஆகியவற்றைக் கண்டறிவதில், தானியங்கி இரண்டாம் நிலை மதிப்பீட்டு மாதிரிகள் சோர்வடைந்த மனித இயக்குபவர்களைவிடச் சிறப்பாகச் செயல்படுவதை அனுபவச் சோதனைகள் காட்டுகின்றன. வெளிப்புற மின்னஞ்சல்களை அனுப்புதல் அல்லது Stripe Link அல்லது X Money போன்ற சேவைகள் வழியாக நிதிப் பரிவர்த்தனைகளைச் செய்தல் போன்ற அதிக அபாயமுள்ள, மீளப்பெற முடியாத செயல்பாடுகளில், வெளிப்படையான மனித உறுதிப்படுத்தலைக் கட்டாயப்படுத்துவதற்காக அமைப்பு செயலாக்கத்தை இடைநிறுத்துகிறது.
உள்வரும் மின்னஞ்சல்கள், மூன்றாம் தரப்பு இணைய உள்ளடக்கம் மற்றும் இணைய நிகழ்வு அழைப்புகள் உள்ளிட்ட நம்பத்தகாத வெளிப்புற உள்ளீடுகளை முகவரின் முதன்மைப் பகுத்தறிவுச் சுழற்சிக்குள் நேரடியாகச் சேர்த்தால், அவை கடுமையான வழிமுறை உட்செலுத்தல் அபாயங்களை ஏற்படுத்துகின்றன. பாதுகாப்பான அமைப்புகள் நம்பத்தகாத உள்ளீடுகளை இடைநிலைப் பகுப்பாய்வு அடுக்குகள் வழியாகச் செலுத்திச் சுத்திகரிக்கின்றன; இதனால் தீங்கிழைக்கும் அறிவுறுத்தல் மீறல்கள், சரிபார்க்கப்படாத அமைப்புக் கருவிகளை இயக்குவதோ அணுகல் சான்றுகளின் பாதுகாப்பைக் குலைப்பதோ தடுக்கப்படுகிறது.
இரட்டைச் சுழற்சிப் பொறியியல் மேம்பாட்டுச் செயல்முறை மூலம் அமைப்பின் நம்பகத்தன்மை தொடர்ந்து மேம்படுகிறது. ஒரு முகவர் பணியில் தோல்வியடைந்தால், அந்தத் தோல்விக்கான செயல்பாட்டுப் பாதை தானியங்கி மதிப்பீட்டு அளவுகோலில் பதிவு செய்யப்படுகிறது. வேகமான உள் சுழற்சியில், அமைப்புப் பொறியாளர்கள் இயக்கச் சட்டக அறிவுறுத்தல்களை உடனடியாகப் புதுப்பித்து, மாறும் கருவிகளைச் செம்மைப்படுத்தி அல்லது அமைப்பு வழிமுறைகளைச் சரிசெய்து, திருத்தத்தைச் சரிபார்க்க மதிப்பீட்டுத் தொகுப்பைப் பயன்படுத்துகின்றனர். மெதுவான வெளிச் சுழற்சியில், ஒருங்கிணைக்கப்பட்ட தோல்வித் தரவுகளும் வெற்றிகரமான செயல்பாட்டுப் பாதைகளும் நுண்சீரமைப்புத் தரவுத்தொகுப்புகளாகத் தொகுக்கப்படுகின்றன. அறிவுறுத்தல்களைப் பின்பற்றுதல், கருவித் தேர்வு மற்றும் திரைக் கணினி வழிசெலுத்தல் ஆகியவற்றை இயல்பாகவே மேம்படுத்த, அடிப்படை அடித்தள மாதிரிகள் 1 முதல் 6 மாத வெளியீட்டுச் சுழற்சிகளில் மேற்பார்வையுடனான நுண்சீரமைப்பு [SFT] மற்றும் வலுவூட்டல் கற்றல் [RL] ஆகியவற்றுக்கு உட்படுத்தப்படுகின்றன.
இந்தக் கட்டமைப்புகளை உருவாக்கும் பொறியியல் குழுக்கள் ஒரு மையச் செயல்பாட்டுக் கொள்கையைப் பின்பற்றுகின்றன: “தயாரிப்பை நீக்குங்கள்.” இன்று உருவாக்கப்படும் சிக்கலான தனிப்பயன் பயனர் இடைமுக அருவாக்கங்கள் குறைந்தபட்சமாகவே இருக்க வேண்டும்; ஏனெனில் 6 முதல் 12 மாதக் காலவரம்புகளில் அடித்தள மாதிரிகளின் திறனில் ஏற்படும் விரைவான முன்னேற்றங்கள், சிக்கலான இயக்கச் சட்டகப் பிரச்சினைகளை முறையாகவும் இயல்பாகவும் தீர்க்கின்றன.
அமைப்பின் வரம்புகள், கட்டமைப்புச் சமரசங்கள் மற்றும் விடை காணப்படாத கேள்விகள்
உள்கட்டமைப்பில் விரைவான முன்னேற்றங்கள் ஏற்பட்டிருந்தாலும், எப்போதும் இயங்கும் முகவர் கட்டமைப்புகள் முன்முயற்சியுடன் செயல்படுதல் மற்றும் அறிவிப்பு மேலாண்மை தொடர்பான தீர்க்கப்படாத தொழில்நுட்பச் சமரசங்களை எதிர்கொள்கின்றன. பின்னணியில் தொடர்ந்து செயல்படும் ஒரு மின்னணுச் சக ஊழியரை இயக்குவதற்கு, ஒரு முகவர் எப்போது பணிகளை அமைதியாகச் செயல்படுத்த வேண்டும், எப்போது நிலைத் தகவல்களுடன் பயனரை இடைமறிக்க வேண்டும் என்பதைத் தீர்மானிக்கும் நுணுக்கமான நடைமுறை விதிகள் தேவைப்படுகின்றன. அளவுக்கு மீறிய முன்முயற்சி அறிவிப்புச் சோர்வையும் பயனர் எரிச்சலையும் ஏற்படுத்துகிறது; அதேவேளையில், அளவுக்கு மீறிய கட்டுப்பாட்டுடன் செயல்படுவது அமைப்பை வழக்கமான, கோரிக்கைகளுக்கு மட்டுமே பதிலளிக்கும் பயன்பாட்டுக் கருவியாகத் தாழ்த்துகிறது. நிறுவனச் செயலாக்கங்கள் முழுவதிலும் உகந்த எச்சரிக்கை வரம்புகளை வரையறுப்பது இன்னும் தீர்க்கப்படாத சவாலாக உள்ளது.
இரண்டாவது சவால் நீண்டகால மதிப்பீட்டின் முரண்பாடு ஆகும். அடிப்படை மொழி மாதிரிகள் 30 முதல் 90 நாள் சுழற்சிகளில் பதிப்புப் புதுப்பிப்புகளுக்கு அல்லது முழுமையான மாற்றங்களுக்கு உட்படும்போது, பல வாரச் செயலாக்கக் காலங்களில் தொடர்ந்து இயங்கும்படி வடிவமைக்கப்பட்ட முகவரை மதிப்பிடுவது இயல்பாகவே கடினமாகிறது. மதிப்பீட்டு இயக்கம் நிறைவடைவதற்கு முன்பே அடிப்படை மாதிரிகள் புதுப்பிக்கப்பட்டால் அல்லது பயன்பாட்டிலிருந்து நீக்கப்பட்டால், ஒரு மாதம் நீளும் பணிப் பாதைகளில் நேரடி இயக்கத்திற்கு வெளியே ஒப்பீட்டு மதிப்பீடுகளை நடத்துவது நடைமுறைக்கு ஒவ்வாததாகிறது; இதனால் அடிப்படைச் செயல்திறனைக் கண்காணிப்பது சிக்கலாகிறது.
இறுதியாக, சூழல் சுருக்கம் தவிர்க்க முடியாத தகவல் இழப்பை ஏற்படுத்துகிறது. அனைத்து சுருக்காக்க வழிமுறைகளும் தகவல் இழப்புடன் கூடிய சுருக்கத்தைச் சார்ந்திருப்பதால், விரிவான பதிவு வரலாறுகள், முனைய வெளியீடுகள் மற்றும் கோப்பு உள்ளடக்கங்களின் நூறாயிரக்கணக்கான சொற்கூறுகளைச் சுருக்கமான குறியீட்டு ஆவணச் சுருக்கங்களாக மாற்றுவது, நுட்பமான, அரிதான நிகழ்வுகள் சார்ந்த விவரங்களை நிரந்தரமாக இழக்கும் அபாயத்தை ஏற்படுத்துகிறது. நீண்டகாலமாக இயங்கும் முகவருக்கு பல வாரங்களுக்கு முன்பு நிறுவப்பட்ட துல்லியமான செயல்பாட்டு அளவுருக்கள் தேவைப்பட்டால், தகவல் இழப்புடன் கூடிய சுருக்காக்கம் செயலாக்கத்தின் இறுதிக் கட்டத்தில் வெளிப்படையான எச்சரிக்கையின்றிப் பணி தோல்வியடையவோ, சூழல் சார்ந்த தகவல்களைப் புனையவோ வழிவகுக்கலாம்.
இந்தச் சமரசங்களைச் சமாளிப்பதற்கு, சொற்கூறு நுகர்வுச் செலவுகளுக்கும் தர்க்கத் துல்லியத்திற்கும் இடையில் சமநிலையைப் பேணுதல், அனுமானச் செயலாக்கத் தாமதத்தை உகந்ததாக்குதல் மற்றும் சேவையாக வழங்கப்படும் மென்பொருள் [SaaS] தளங்களில் பல முகவர்களுக்கிடையிலான தொடர்புகளுக்கு வலுவான பாதுகாப்பு எல்லைகளை நிறுவுதல் ஆகியவை தேவைப்படுகின்றன.
முக்கிய எண்கள்
- 200,000 சொற்கூறுகள்: நவீன பெரிய மொழி மாதிரிகளுக்கான வழக்கமான செயல்பாட்டு நினைவகச் சூழல் சாளர அளவுகோல்; தீவிரமான சூழல் சுருக்காக்க வழிமுறைகள் கட்டாயமாகும் அளவை இது குறிக்கிறது.
- 6 முதல் 12 மாதங்கள்: அடிப்படை மாதிரித் திறன்களில் ஏற்படும் பெரும் முன்னேற்றங்கள், சிக்கலான தனிப்பயன் இயக்கக் கட்டமைப்புத் தர்க்கம், இடைநிலை அருவாக்கங்கள் மற்றும் சிறப்புப் பயனர் இடைமுக உறைகளை வழக்கொழியச் செய்யும் செயல்பாட்டுக் காலவரம்பு.
- 10 முதல் 60 நிமிடங்கள்: அடிப்படை மாதிரி வழங்குநர்கள் உள்ளீட்டு வழிமுறைகளின் தற்காலிகச் சேமிப்புகளைப் பயன்பாட்டிற்குத் தயாராக வைத்திருக்கும் வழக்கமான கால அளவு; செலவுச் சிக்கனமான பின்னணிச் சூழல் சுருக்காக்கத்தைச் செய்வதற்கான உகந்த காலச் சாளரத்தை இது வரையறுக்கிறது.
- மணிநேரங்கள்/நாட்களிலிருந்து பல வாரங்கள்/பல மாதங்கள் வரை: இலக்குச் செயலாக்கக் காலவரம்புகளில் ஏற்படும் கட்டமைப்பு மாற்றம்; குறுகிய ஊடாடும் முனைய அமர்வுகளிலிருந்து தன்னாட்சி கொண்ட, நீண்டகாலப் பின்னணிப் பணிப்பாய்வுகளாக விரிவடைகிறது.
இந்த நிலையை மாற்றக்கூடியவை
- தகவல் இழப்புடன் கூடிய சுருக்காக்கத்திலிருந்து வரைபட அடிப்படையிலான நினைவகக் கட்டமைப்புகளுக்கு மாறுதல்: வழக்கமான குறியீட்டு ஆவணச் சூழல் சுருக்கத்திலிருந்து தகவல் இழப்பில்லாத அறிவு வரைபடங்களுக்கு ஒட்டுமொத்தத் துறையும் மாறுவது, பல மாதச் செயலாக்க இயக்கங்களில் நீண்டகால நினைவுகூரலையும் சூழல் துல்லியத்தையும் கணிசமாக மேம்படுத்தும்.
- நீண்டகால முகவர் மதிப்பீட்டு அளவுகோல்களைத் தரப்படுத்துதல்: முன்னறிவிக்கும், காலம் சுருக்கப்பட்ட நேரடி இயக்கத்திற்கு வெளியேயான மதிப்பீட்டுக் கட்டமைப்புகளை உருவாக்குவது, நிகழ்நேரச் செயலாக்கச் சுழற்சிகளுக்காகக் காத்திருப்பதற்குப் பதிலாக, பல வார முகவர் பணிப்பாய்வுகளை மணிநேரங்களுக்குள் துல்லியமாக அளவிட பொறியியல் குழுக்களுக்கு உதவும்.
- திரை இடைமுகமற்ற கணினிப் பயன்பாட்டை நிறுவனங்களில் பரவலாகச் செயல்படுத்துதல்: நிறுவன மென்பொருட்களில் அணுகல்தன்மை மரங்கள் மற்றும் படப்புள்ளித் தொடர்பு மூலம் நேரடிக் காட்சி வழிசெலுத்தலைப் பொதுவாக ஏற்றுக்கொள்வது, பாரம்பரிய பயன்பாட்டு நிரலாக்க இடைமுக ஒருங்கிணைப்புகள் மற்றும் பிரத்யேக மாதிரிச் சூழல் நெறிமுறைச் செயலாக்கங்களின் தேவையைத் தவிர்க்கும்.
- வன்பொருள் மட்டத்தில் இயல்பாக ஒருங்கிணைக்கப்பட்ட குரல் மற்றும் பேச்சு வசதிகள்: நிகழ்நேரப் பேச்சுச் செயலாக்கத்திற்காக வடிவமைக்கப்பட்ட, சூழலுடன் இயைந்து செயல்படும், குறைந்த தாமதம் கொண்ட குரல் வன்பொருள் வடிவங்கள் பரவுவது, முகவரின் முதன்மைக் கட்டுப்பாட்டை உரைச் செய்திகளுக்கான குறைந்த செயலாக்கத் திறனுடைய முனையங்களிலிருந்து தொடர்ச்சியான ஒலித் தொடர்புச் சுழற்சிகளுக்கு மாற்றும்.
தொடர்ச்சியாக இயங்கும் தன்னாட்சி முகவர் உள்கட்டமைப்பைப் பற்றிய ஆழமான நுண்ணறிவுகளை ஆராயவும், நவீன மாதிரி இயக்கக் கட்டமைப்புச் செயலாக்கங்களை மதிப்பிடவும், DeepValues Research தளத்தில் கிடைக்கும் திறந்த மூல ஆராய்ச்சி வளங்களைப் பார்வையிடுங்கள் அல்லது DeepValues செயலியில் தளத்தை நேரடியாக அனுபவியுங்கள்.
மேற்கோள் ஆதாரங்கள்
Stanford CS146S: How always-on agents work, presentation by Lee Robinson on the leerob YouTube channel.
பாருங்கள்
மூல இணைப்புகள்
பாருங்கள் & கேளுங்கள்
- SpaceX Engineer: Always-On AI Agents Hit a 200K Token Wall YouTube · EN
- SpaceX讓AI替員工開會:全天候智能體連跑3週 YouTube · 中文
- SpaceX Engineer: Always-On AI Agents Hit a 200K Token Wall ஒலிவலையொளி · EN
- SpaceX讓AI替員工開會:全天候智能體連跑3週 ஒலிவலையொளி · 中文