liqiang
b119135836
Build latest book artifacts / build (push) Canceled after 0s
dependency resolution / resolve (3.11) (push) Canceled after 0s
dependency resolution / resolve (3.13) (push) Canceled after 0s
deploy-pages / build (push) Canceled after 0s
deploy-pages / deploy (push) Canceled after 0s
i18n consistency check / check (push) Canceled after 0s
provider adoption tests / test (chapter2/context-compression) (push) Canceled after 0s
provider adoption tests / test (chapter2/prompt-injection) (push) Canceled after 0s
provider adoption tests / test (chapter2/system-hint) (push) Canceled after 0s
provider adoption tests / test (chapter3/log-sanitization) (push) Canceled after 0s
web-search-agent tests / test (push) Canceled after 0s
web-search-agent tests / agentbook (push) Canceled after 0s
37 lines
6.9 KiB
Markdown
37 lines
6.9 KiB
Markdown
# Глава 2 · Инженерия контекста
|
||
|
||
> Контекст определяет верхнюю границу возможностей агента. Подробно разбираются структура контекста в API LLM, дружественный к KV Cache дизайн, инженерия промптов, динамические промпты и Agent Skills, метаинформация строки состояния и стратегии сжатия контекста.
|
||
|
||
← [К оглавлению](../docs/ru/README.md) · 📖 [Читать главу](../book-ru/chapter2.md)
|
||
|
||
## Как читать эксперименты
|
||
|
||
В основном тексте короткие скелеты механизмов объясняют поток управления; в каталогах экспериментов находятся полные адаптеры SDK, журналы, тесты и приёмочные доказательства. Читать каждый файл построчно не требуется.
|
||
|
||
- **Starter:** Начните с цели, минимальной команды и условий приёмки; начните с [context-compression](context-compression/);
|
||
- **Builder:** Проследите точку входа, основной цикл, схему состояния/сообщений, инструменты и проверяющий модуль.
|
||
- **Maintainer:** Затем изучите тесты, манифесты доказательств, обработку сбоев, откат и адаптеры провайдеров.
|
||
|
||
При первом чтении можно пропустить ключи, слой представления и совместимость провайдеров; вернитесь при воспроизведении чисел.
|
||
|
||
## Сопутствующие проекты
|
||
|
||
| Эксп. | Проект | Тип | Описание |
|
||
| :--: | --- | :--: | --- |
|
||
| 2-1 | [local_llm_serving](local_llm_serving/) | ✅ | Кроссплатформенное решение для локального развёртывания LLM, автоматически выбирающее лучший бэкенд (vLLM или Ollama). Показывает, что даже модель на 0.6B при хорошем системном дизайне отлично вызывает инструменты. Поддерживает потоковые ответы с отображением процесса рассуждения в реальном времени. |
|
||
| 2-2, 2-7 | [attention_visualization](attention_visualization/) | ✅ | Визуализирует полную входную/выходную последовательность токенов и распределение весов внимания LLM, давая глубокое понимание того, как модель обрабатывает контекст, рассуждает и вызывает инструменты. |
|
||
| 2-3 | [kv-cache](kv-cache/) | ✅ | Исследует влияние разных режимов управления контекстом на KV Cache, демонстрируя, как типичные ошибки разрушают эффективность кэша. На экспериментах показывает, как грамотный дизайн контекста значительно снижает задержку и стоимость. |
|
||
| 2-4 | [prompt-engineering](prompt-engineering/) | ✅ | Расширяет фреймворк Tau-Bench, чтобы через систематические абляционные эксперименты количественно оценить влияние разных факторов инженерии промптов на качество агента. Показывает, как тон, организация инструкций и описания инструментов влияют на долю выполненных задач. |
|
||
| 2-5 | [prompt-injection](prompt-injection/) | ✅ | Строит контролируемый эксперимент: 3 сценария атаки (прямая инъекция, косвенная инъекция, инъекция в память) × 4 конфигурации защиты (без защиты, усиление промпта, маркировка источников, комбинированная защита). Детерминированными правилами вычисляет долю успешных атак, наглядно показывая, как эшелонированная защита значительно снижает успех инъекций. |
|
||
| 2-6 | [agent-skills-ppt](agent-skills-ppt/) | ✅ | Воспроизводит идею «постепенного раскрытия» Agent Skills: сначала агент видит лишь тонкий каталог навыков. Только определив, что задача требует навыка `pptx`, он постепенно подгружает его полный сценарий, подробную документацию и связанные скрипты, в итоге создавая реальный файл `.pptx` через python-pptx. |
|
||
| 2-7 | Текстовый эксперимент | 🚧 | Создаёт лёгкий Skill для письма на основе личных примеров: условия активации, правила, примеры, область применения и итеративное сопровождение. |
|
||
| 2-8 | [system-hint](system-hint/) | ✅ | Изучает влияние системных подсказок (System Hints) на поведение агента, исследуя, как повысить качество за счёт оптимизации системного промпта. |
|
||
| 2-9 | [context-compression](context-compression/) | ✅ | Реализует и сравнивает несколько стратегий сжатия контекста: суммаризацию, извлечение ключевой информации и семантическое сжатие. Снижает расход токенов, сохраняя возможности агента. |
|
||
## Типы проектов
|
||
|
||
| Значок | Тип | Значение |
|
||
| :--: | --- | --- |
|
||
| ✅ | **Автономный** | Полный код в этом репозитории, запускается после настройки API-ключа |
|
||
| 📖 | **Гайд по воспроизведению** | Подробный документ, зависящий от **внешних репозиториев** через `git clone` |
|
||
| 🚧 | **Проектный документ** | Только архитектура/план реализации, рабочий код ещё в разработке |
|