liqiang
b119135836
Build latest book artifacts / build (push) Canceled after 0s
dependency resolution / resolve (3.11) (push) Canceled after 0s
dependency resolution / resolve (3.13) (push) Canceled after 0s
deploy-pages / build (push) Canceled after 0s
deploy-pages / deploy (push) Canceled after 0s
i18n consistency check / check (push) Canceled after 0s
provider adoption tests / test (chapter2/context-compression) (push) Canceled after 0s
provider adoption tests / test (chapter2/prompt-injection) (push) Canceled after 0s
provider adoption tests / test (chapter2/system-hint) (push) Canceled after 0s
provider adoption tests / test (chapter3/log-sanitization) (push) Canceled after 0s
web-search-agent tests / test (push) Canceled after 0s
web-search-agent tests / agentbook (push) Canceled after 0s
38 lines
10 KiB
Markdown
38 lines
10 KiB
Markdown
# அத்தியாயம் 2 · சூழல் பொறியியல்
|
|
|
|
> சூழல் ஏஜெண்டின் திறனின் மேல் வரம்பைத் தீர்மானிக்கிறது. பெரிய மாதிரி API இன் சூழல் அமைப்பு, KV Cache நட்பு வடிவமைப்பு, விரைவு பொறியியல் (prompt engineering), மாறும் விரைவுகள் மற்றும் Agent Skills, நிலைப் பட்டை மேல்தரவு (metadata), மற்றும் சூழல் சுருக்க உத்திகள் ஆகியவற்றை ஆழமாக ஆராய்கிறது.
|
|
|
|
← [முக்கிய README க்குத் திரும்பு](../docs/ta/README.md) · 📖 [அத்தியாய உரையைப் படி](../book-ta/chapter2.ta.md)
|
|
|
|
## சோதனைகளை எப்படிப் படிப்பது
|
|
|
|
முதன்மை உரை குறுகிய mechanism skeleton-களால் control flow-ஐ விளக்குகிறது; முழு SDK adapters, logs, tests, acceptance evidence ஆகியவை experiment கோப்பகத்தில் உள்ளன. ஒவ்வொரு கோப்பையும் வரி வரியாகப் படிக்க வேண்டியதில்லை.
|
|
|
|
- **Starter:** இலக்கு, குறைந்தபட்ச கட்டளை, ஏற்றுக்கொள்ளும் நிபந்தனைகளில் தொடங்குங்கள்; முதலில் [context-compression](context-compression/);
|
|
- **Builder:** நுழைவுப் புள்ளி, மையச் சுழற்சி, state/message schema, கருவிகள், verifier ஆகியவற்றைப் பின்தொடருங்கள்.
|
|
- **Maintainer:** பின்னர் tests, evidence manifest, தோல்வி கையாளல், rollback பாதை, provider adapter ஆகியவற்றைப் படியுங்கள்.
|
|
|
|
முதல் வாசிப்பில் credentials, UI, provider-compatibility அடுக்குகளைத் தவிர்க்கலாம்; முடிவுகளை மீண்டும் உருவாக்கும்போது திரும்பிப் பாருங்கள்.
|
|
|
|
## துணை திட்டங்கள்
|
|
|
|
| சோதனை | Project | Type | Description |
|
|
| :--: | --- | :--: | --- |
|
|
| 2-1 | [local_llm_serving](local_llm_serving/) | ✅ | பல்தட (cross-platform) உள்ளூர் LLM பயன்பாட்டுத் தீர்வு; சிறந்த பின்தங்கியை (vLLM அல்லது Ollama) தானாகத் தேர்ந்தெடுக்கிறது. 0.6B போன்ற சிறிய மாதிரியும் நல்ல அமைப்பு வடிவமைப்பின் மூலம் சிறந்த கருவி அழைப்புத் திறனை அடைய முடியும் என்பதைக் காட்டுகிறது. ஸ்ட்ரீமிங் பதில்களை ஆதரித்து, சிந்தனை செயல்முறையை நிகழ்நேரத்தில் காட்டுகிறது. |
|
|
| 2-2, 2-7 | [attention_visualization](attention_visualization/) | ✅ | LLM இன் முழுமையான உள்ளீடு-வெளியீடு token வரிசைகள் மற்றும் கவன எடை விநியோகத்தைக் காட்சிப்படுத்தி, மாதிரி எவ்வாறு சூழலைச் செயலாக்குகிறது, பகுத்தறிகிறது மற்றும் கருவிகளை அழைக்கிறது என்பதை ஆழமாகப் புரிந்துகொள்ள உதவுகிறது. |
|
|
| 2-3 | [kv-cache](kv-cache/) | ✅ | வெவ்வேறு சூழல் மேலாண்மை முறைகள் KV Cache மீது ஏற்படுத்தும் தாக்கத்தை ஆராய்ந்து, பொதுவான தவறான முறைகள் கேச் செயல்திறனை எவ்வாறு சீரழிக்கின்றன என்பதை நிரூபிக்கிறது. சரியான சூழல் வடிவமைப்பு தாமதம் மற்றும் செலவை எவ்வாறு கணிசமாகக் குறைக்கிறது என்பதைச் சோதனைகள் மூலம் காட்டுகிறது. |
|
|
| 2-4 | [prompt-engineering](prompt-engineering/) | ✅ | Tau-Bench கட்டமைப்பை விரிவாக்கி, முறையான அப்லேஷன் பரிசோதனைகள் மூலம் வெவ்வேறு வழிகாட்டி பொறியியல் காரணிகள் ஏஜென்ட் செயல்திறனில் ஏற்படுத்தும் தாக்கத்தை அளவிடுகிறது. தொனி பாணி, வழிமுறை ஒழுங்கமைப்பு, கருவி விளக்கங்கள் போன்ற காரணிகள் பணி நிறைவு விகிதத்தை எவ்வாறு பாதிக்கின்றன என்பதைக் காட்டுகிறது. |
|
|
| 2-5 | [prompt-injection](prompt-injection/) | ✅ | 3 வகை தாக்குதல் சூழ்நிலைகள் (நேரடி செலுத்துதல், மறைமுக செலுத்துதல், நினைவக செலுத்துதல்) × 4 வகை பாதுகாப்பு உள்ளமைவுகள் (பாதுகாப்பு இல்லை, வழிகாட்டி வலுப்படுத்தல், மூலக் குறிப்பு, இணைந்த பாதுகாப்பு) கொண்ட ஒப்பீட்டுப் பரிசோதனைகளை உருவாக்கி, தீர்மான விதிகளால் தாக்குதல் வெற்றி விகிதத்தைக் கணக்கிட்டு, அடுக்கடுக்காகப் பாதுகாப்பைச் சேர்த்த பிறகு செலுத்துதல் வெற்றி விகிதம் எவ்வாறு கணிசமாகக் குறைகிறது என்பதை நேரடியாகக் காட்டுகிறது. |
|
|
| 2-6 | [agent-skills-ppt](agent-skills-ppt/) | ✅ | Agent Skills இன் "படிப்படியான வெளிப்படுத்தல்" (progressive disclosure) கருத்தை மீண்டும் உருவாக்குகிறது: ஏஜென்ட் தொடங்கும்போது ஒரு மெல்லிய Skill அட்டவணையை மட்டுமே காண்கிறது; பணிக்கு `pptx` Skill தேவை என்பதை அடையாளம் கண்ட பிறகே அதன் முழுமையான செயல்முறை, விவரமான ஆவணங்கள் மற்றும் இணைக்கப்பட்ட ஸ்கிரிப்டுகளை அடுக்கடுக்காக ஏற்றி, இறுதியாக python-pptx மூலம் உண்மையான `.pptx` கோப்பை உருவாக்குகிறது. |
|
|
| 2-7 | உரை பரிசோதனை | 🚧 | தனிப்பட்ட எடுத்துக்காட்டுகளிலிருந்து இலகுவான எழுத்து Skill-ஐ உருவாக்கி, தூண்டல் நிபந்தனைகள், விதிகள், எடுத்துக்காட்டுகள், வரம்பு மற்றும் தொடர்ச்சியான பராமரிப்பைச் சோதிக்கிறது. |
|
|
| 2-8 | [system-hint](system-hint/) | ✅ | கணினி வழிகாட்டி (System Hint) ஏஜென்ட் நடத்தையில் ஏற்படுத்தும் தாக்கத்தை ஆராய்ந்து, கணினி வழிகாட்டியை உகப்பாக்குவதன் மூலம் செயல்திறனை எவ்வாறு மேம்படுத்தலாம் என்பதை அறிகிறது. |
|
|
| 2-9 | [context-compression](context-compression/) | ✅ | சுருக்கம், முக்கிய தகவல் பிரித்தெடுப்பு, சொற்பொருள் சுருக்கம் உட்படப் பல சூழல் சுருக்க உத்திகளைச் செயல்படுத்தி ஒப்பிடுகிறது. ஏஜென்ட் திறன்களைத் தக்கவைத்துக்கொண்டே token பயன்பாட்டைக் குறைக்கிறது. |
|
|
|
|
## திட்ட வகைகள்
|
|
|
|
| சின்னம் | வகை | பொருள் |
|
|
| :--: | --- | --- |
|
|
| ✅ | **தனித்து இயங்கும்** | முழு குறியீடு இந்த களஞ்சியத்தில், API Key உள்ளமைத்தவுடன் இயங்கும் |
|
|
| 📖 | **மறு உருவாக்க வழிகாட்டி** | **வெளிப்புற களஞ்சியங்களை** `git clone` செய்ய வேண்டிய விரிவான ஆவணம் |
|
|
| 🚧 | **வடிவமைப்பு ஆவணம்** | கட்டமைப்பு/செயலாக்கத் திட்டம் மட்டும், இயங்கும் குறியீடு இன்னும் WIP |
|