Files
ai-agent-book/chapter2/README.ru.md
T
liqiang b119135836
Build latest book artifacts / build (push) Canceled after 0s
dependency resolution / resolve (3.11) (push) Canceled after 0s
dependency resolution / resolve (3.13) (push) Canceled after 0s
deploy-pages / build (push) Canceled after 0s
deploy-pages / deploy (push) Canceled after 0s
i18n consistency check / check (push) Canceled after 0s
provider adoption tests / test (chapter2/context-compression) (push) Canceled after 0s
provider adoption tests / test (chapter2/prompt-injection) (push) Canceled after 0s
provider adoption tests / test (chapter2/system-hint) (push) Canceled after 0s
provider adoption tests / test (chapter3/log-sanitization) (push) Canceled after 0s
web-search-agent tests / test (push) Canceled after 0s
web-search-agent tests / agentbook (push) Canceled after 0s
ai-agent-book 精选快照(<2MB 代码与文档,来自 github.com/bojieli/ai-agent-book)
2026-08-20 13:12:50 +00:00

6.9 KiB
Raw Blame History

Глава 2 · Инженерия контекста

Контекст определяет верхнюю границу возможностей агента. Подробно разбираются структура контекста в API LLM, дружественный к KV Cache дизайн, инженерия промптов, динамические промпты и Agent Skills, метаинформация строки состояния и стратегии сжатия контекста.

К оглавлению · 📖 Читать главу

Как читать эксперименты

В основном тексте короткие скелеты механизмов объясняют поток управления; в каталогах экспериментов находятся полные адаптеры SDK, журналы, тесты и приёмочные доказательства. Читать каждый файл построчно не требуется.

  • Starter: Начните с цели, минимальной команды и условий приёмки; начните с context-compression;
  • Builder: Проследите точку входа, основной цикл, схему состояния/сообщений, инструменты и проверяющий модуль.
  • Maintainer: Затем изучите тесты, манифесты доказательств, обработку сбоев, откат и адаптеры провайдеров.

При первом чтении можно пропустить ключи, слой представления и совместимость провайдеров; вернитесь при воспроизведении чисел.

Сопутствующие проекты

Эксп. Проект Тип Описание
2-1 local_llm_serving Кроссплатформенное решение для локального развёртывания LLM, автоматически выбирающее лучший бэкенд (vLLM или Ollama). Показывает, что даже модель на 0.6B при хорошем системном дизайне отлично вызывает инструменты. Поддерживает потоковые ответы с отображением процесса рассуждения в реальном времени.
2-2, 2-7 attention_visualization Визуализирует полную входную/выходную последовательность токенов и распределение весов внимания LLM, давая глубокое понимание того, как модель обрабатывает контекст, рассуждает и вызывает инструменты.
2-3 kv-cache Исследует влияние разных режимов управления контекстом на KV Cache, демонстрируя, как типичные ошибки разрушают эффективность кэша. На экспериментах показывает, как грамотный дизайн контекста значительно снижает задержку и стоимость.
2-4 prompt-engineering Расширяет фреймворк Tau-Bench, чтобы через систематические абляционные эксперименты количественно оценить влияние разных факторов инженерии промптов на качество агента. Показывает, как тон, организация инструкций и описания инструментов влияют на долю выполненных задач.
2-5 prompt-injection Строит контролируемый эксперимент: 3 сценария атаки (прямая инъекция, косвенная инъекция, инъекция в память) × 4 конфигурации защиты (без защиты, усиление промпта, маркировка источников, комбинированная защита). Детерминированными правилами вычисляет долю успешных атак, наглядно показывая, как эшелонированная защита значительно снижает успех инъекций.
2-6 agent-skills-ppt Воспроизводит идею «постепенного раскрытия» Agent Skills: сначала агент видит лишь тонкий каталог навыков. Только определив, что задача требует навыка pptx, он постепенно подгружает его полный сценарий, подробную документацию и связанные скрипты, в итоге создавая реальный файл .pptx через python-pptx.
2-7 Текстовый эксперимент 🚧 Создаёт лёгкий Skill для письма на основе личных примеров: условия активации, правила, примеры, область применения и итеративное сопровождение.
2-8 system-hint Изучает влияние системных подсказок (System Hints) на поведение агента, исследуя, как повысить качество за счёт оптимизации системного промпта.
2-9 context-compression Реализует и сравнивает несколько стратегий сжатия контекста: суммаризацию, извлечение ключевой информации и семантическое сжатие. Снижает расход токенов, сохраняя возможности агента.

Типы проектов

Значок Тип Значение
Автономный Полный код в этом репозитории, запускается после настройки API-ключа
📖 Гайд по воспроизведению Подробный документ, зависящий от внешних репозиториев через git clone
🚧 Проектный документ Только архитектура/план реализации, рабочий код ещё в разработке