Files
liqiang b119135836
Build latest book artifacts / build (push) Canceled after 0s
dependency resolution / resolve (3.11) (push) Canceled after 0s
dependency resolution / resolve (3.13) (push) Canceled after 0s
deploy-pages / build (push) Canceled after 0s
deploy-pages / deploy (push) Canceled after 0s
i18n consistency check / check (push) Canceled after 0s
provider adoption tests / test (chapter2/context-compression) (push) Canceled after 0s
provider adoption tests / test (chapter2/prompt-injection) (push) Canceled after 0s
provider adoption tests / test (chapter2/system-hint) (push) Canceled after 0s
provider adoption tests / test (chapter3/log-sanitization) (push) Canceled after 0s
web-search-agent tests / test (push) Canceled after 0s
web-search-agent tests / agentbook (push) Canceled after 0s
ai-agent-book 精选快照(<2MB 代码与文档,来自 github.com/bojieli/ai-agent-book)
2026-08-20 13:12:50 +00:00

44 lines
14 KiB
Markdown
Raw Permalink Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
# Utószó: Vissza az Agent = LLM + Kontextus + Eszközökhöz {.unnumbered}
Ez a könyv egy formulával nyitott: **Agent = LLM + Kontextus + Eszközök**. Mind a tíz fejezet e három szóban bontakozik ki.
**1. fejezet** megalapozza a formula háromrétegű értelmezését — a megvalósítási réteget, a intuitív réteget és az akadémiai réteget —, és bemutatja az orchestációs spektrumot a munkafolyamatoktól az autonóm Agensekig. Az ezt követő fejezetek az „Építés — Értékelés és evolúció — Együttműködés" sorrend mentén bontakoznak ki.
- **Ügynök építése (26. fejezet).** A kontextusmérnökség dönti el, mit lát az Ügynök egy feladaton belül, a memória és a tudásbázisok pedig több munkamenetre terjesztik ki az információt; az eszközök határozzák meg, mit tud tenni, a kódgenerálás adja az új eszközök és rendszerek létrehozásának metaképességét, az interakcióról szóló fejezet pedig a megfigyelési és cselekvési teret a szöveges körökből a hang, a grafikus felületek és a fizikai világ felé tolja.
- **Értékelés és evolúció (79. fejezet).** Az értékelés megbízható jellé alakítja a teljesítményt, az utólagos tréning a modell paramétereibe írja a magas dimenziós képességeket, a folyamatos evolúció pedig az üzemi tapasztalatot a tudás, az utasítások, a programok vagy a paraméterek kontrollált frissítéseivé alakítja.
- **Együttműködés (10. fejezet).** A többügynökös együttműködés tovább alakítja a kontextus, az eszközök és a felelősség szervezésének módját.
Ez a három szint nem független polc. A 9. fejezet különösen az összes korábban lefektetett alapra épül: trajektóriák és tudásrendszerek nélkül a tapasztalatnak nincs hová tárolódnia; kódképesség nélkül az Agent nem tud eszközöket és Harness-eket módosítani; értékelés nélkül pedig a rendszer nem tudja eldönteni, hogy egy módosítás előrelépés vagy visszalépés-e. A 9. fejezet ezért az a konvergenciapont, ahol a könyv arról a kérdésről, hogy „hogyan építsünk Agenset", átvált arra, hogy „hogyan tegyük az Agenset hosszú távon jobbá".
## Két felhő {.unnumbered}
1900-ban Lord Kelvin azt mondta, hogy két felhő még mindig a fizika tiszta egén függ — később az egyikből a relativitáselmélet, a másikból a kvantummechanika lett. Ma az Agensek egén sem nevezhető tisztának, és én is két felhőt látok.
**Az első felhő az, hogyan léphetnek az Agensek streamelt, valós idejű módon kapcsolatba a környezetükkel.** Ma az Agensek túlnyomó többsége még mindig körönkénti (turn-by-turn) „kérés-válasz" módban működik: befejezel egy mondatot, ő végiggondol egy egész bekezdést, majd egyszerre kiadja az eredményt. De a való világ nem áll meg és nem vár, amíg befejezi a gondolkodást — a beszédet megszakítják, a jelenet folyamatosan változik, az e-mailek folyamatosan érkeznek. Egy igazán „élő" Agentnek képesnek kellene lennie arra, hogy gondolkodás közben hallgasson, gondolkodás közben beszéljen, eltervezze a dolgokat, miközben te még a mondat közepén jársz, és észrevegye magától, hogy „ezt az e-mailt kezelni kell", anélkül, hogy bárki kérte volna. Két út vezet ehhez a valós idejű képességhez, gyakran párhuzamosan. Az egyik a "gyors és lassú architekturális szétválasztása" — a valós idejű reagálás és az intelligencia majdnem ortogonális tengelyek, amelyeket egyetlen modell nehezen fog át, ezért egy gyors frontend modell tartja a beszélgetés ritmusát, míg egy lassú backend modell végzi a mély gondolkodást. A másik út az "inferencia gyorsítása" — ha a dekódolási sebesség elég nagy, a körönkénti várakozás olyan rövid lesz, hogy majdnem eltűnik, elmosva a határt a körönkénti és a „valós idejű" között. Ezt az utat a chipek és inferenciamotorok gyorsan fejlesztik: a Xiaomi MiMo egy 1T paraméteres modellt hajtott át 1000 token/s sebességen egyetlen 8 GPU-s csomóponton[^mimo], míg dedikált megoldások, amelyek a teljes modellt egyetlen chipbe kódolják (mint a Taalas HC1), egy 8 milliárd paraméteres modellt körülbelül 17000 token/s sebességre hajtanak, 100 ezredmásodperc alatti válaszidővel[^taalas]. Amikor egy modell másodpercenként több ezer szót képes kipréselni, a tapasztalati különbség a „gondolkodj, majd beszélj" és a „beszélj, miközben gondolkodsz" között egyszerűen eltűnik.
**A második felhő az, hogyan halmozhatnak az Agensek az emberekhez hasonlóan folyamatosan tapasztalatot a környezettel való interakcióik sikereiből és kudarcaiból.** A mai modellek inkább egy kiváló memóriájú zsenire hasonlítanak, aki nem képes semmi újat tanulni: a képzés során az emberi tudást a legapróbb részletekig memorizálják, de amint a munkahelyen vannak, alig fejlődnek — minden egyes feladat után a csapdák, amelyekbe beleléptek, és a trükkök, amelyeket kitaláltak, többnyire a kontextussal együtt eldobásra kerülnek. Hogy ez valódi probléma-e, az két ellentétes hipotézistől függ.
Az egyik a "„Kis Világ Hipotézis"": egy elég nagy modell — mondjuk billió paraméterrel — már tartalmazza a fizikai világ szinte minden fontos általános tudását; elég egyszer megtanulni. Akik ezt a nézetet vallják (köztük OpenAI-s és Anthropic-os kutatók), rámutatnának, hogy a programozás az egyetlen terület, ahol az AI ma a legerősebb — nem azért, mert a kód valahogy különleges a modellek számára, hanem mert a programozás az emberiség legnyitottabb területe: hatalmas mennyiségű nyílt forráskódú kód áll rendelkezésre, készen a tanulásra, míg a legtöbb iparágban nincs nyilvános információ vagy adat. Tehát amit a határt kutató laborok valójában csinálnak, az az, hogy iparágról iparágra haladva, mindegyikkel partnerségben „desztillálják" annak szakmai képességét ugyanabba a nagy modellbe. E nézet szerint a szűk keresztmetszet nem a modell kapacitása vagy tanulási képessége, hanem az, hogy van-e elég adat — töltsd be az adatokat, képezd egyszer, és a probléma megoldódott.
A "„Nagy Világ Hipotézis"" azonban rámutat egy rétegre, amelyet nem lehet „egyszeri képzéssel" biztosítani: az adott felhasználóra vagy vállalatra jellemző tudásra. Egy adott vállalat kódolási szabványai és prezentációs preferenciái, valamint egy adott ügyfél sajátos természete egyetlen képzési korpuszban sem szerepelnek, és folyamatosan változnak. Ahhoz, hogy a számtalan konkrét szituációból álló „nagy világba" illeszkedjen, a modellnek a telepítés után is folytatnia kell a tanulást; nem érkezhet a gyárból minden beállítva. Pontosan ezt az irányt járja be a 3. fejezetben tárgyalt memória és a 9. fejezetben tárgyalt folyamatos evolúció: a tapasztalatot tudásdokumentumokba, utasításokba vagy programokba kell írni, vagy a kiválasztott tapasztalatot a modell paramétereinek frissítésére kell használni? Tágabb értelemben mind az „RSI (rekurzív önfejlesztés)", mind az „AI a tudományért" az Agenseket olyan határterületek felé tolja, ahol nincsenek kész válaszok. Ott az Agent csak autonóm módon tanulhat a kísérletek ismétlődő sikereiből és kudarcaiból, ahelyett, hogy minden döntésért az emberekhez fordulna vissza. A modell legerősebb képessége ezért végső soron nem a memorizálás, hanem a tanulás és az alkalmazkodás lesz.
Egyik felhőt sem fogja eloszlatni egyetlen modellfrissítés. Ahhoz, hogy megértsük, hogyan fognak végül eloszlani, először egy dolgot kell tisztán látnunk: a modellek és az Agensek soha nem voltak egymás felső- és alsó szakaszai; együtt haladnak előre.
## A modellek és Agensek koevolúciója {.unnumbered}
Nézz vissza a Harness-ek visszaesési logikájának rétegeire — többszintű kontextustömörítés, újrapróbálkozási logika, ami csak ezernyi hiba után kapcsolja be a megszakítót, engedélyellenőrzések, amelyek pesszimistán „nem biztonságosra" alapértelmezettek — és minden nyúlvány a csúnya „spagetti kódban" azt a helyet jelöli, ahol a modell még ingatag. Amikor a következő generációs modellek internalizálják ezeket a korlátokat, a megfelelő kód törölhető; és a modellek azért tudják internalizálni őket, mert az Agensek már átestek ezeken a gödrökön a modell nevében valós üzleti környezetben, a tanulságokat a következő képzési kör számára jellé sűrítve. A felhasználók valós kihívásokat állítanak; az alkalmazási réteg Harness-ekkel javítja ki azt, amit a modell még nem tud jól; ezek a javítások pedig a modell következő iterációjának képzési jeleivé válnak. Ez egy önerősítő lendkerék.
Ez a lendkerék arra a kérdésre is választ ad, amely az 1. fejezetben maradt nyitva: **a modellek végül felfalják-e a Harness-t? A könyv válasza igen, de nem egyszerre: rétegről rétegre falják fel, és ez a folyamat soha nem ér véget.** Minden képesség, amelyet a modell stabilan internalizál, lehetővé teszi a megfelelő Harness-réteg törlését — a 6. fejezet interakciós modellje ilyen eset: a megszakítás és a közbeszólás olyan viselkedéseit, amelyeket korábban külső Harness-szel kellett összerakni, ma már közvetlenül a modellbe építik. De ez a „felfalás" soha nem lesz teljes. Először is, a képzés hónapokig tart — a modell várhat, de az üzlet nem. Másodszor, egy modell nem képes internalizálni a valós üzlet minden korlátját és preferenciáját; mindig van egy legújabb határvonal, amelyhez külső logika kell biztonsági háttérként. Harmadszor, a modellek minden generációja új képességhatárt nyit meg, és a határ pontosan az, ahol a modell a legkevésbé megbízható. Tehát a Harness nem fog eltűnni; egyszerűen folyamatosan vándorol, együtt a modellel, minden új határ felé. A Keserű Lecke (Bitter Lesson) is így olvasandó az Agent-korszakban: az általános módszerek fognak végül győzni — de minden egyes méter a „végül" belsejében a Harness által van kikövezve.
És a lendkerék a leggyorsabban azok kezében forog, akik mindkét végét birtokolják. Amit az Anthropic csinál a Claude Code-dal, pontosan ez: hagyja, hogy saját modellje és saját Harness-e táplálja egymást és koevolváljon. A modell tudja, hogy a Harness hogyan fogja hívni; a Harness tudja, hol vannak a modell határai; minden változás bármelyik oldalon azonnal visszacsatolódik a másikhoz. Egy kísérletben pusztán a Harness megváltoztatásával — ugyanaz a modell — 52,8%-ról 66,5%-ra emelték a feladatpontosságot. Ez mutatja, mekkora tőkeerővel bír ma a Harness, de egyben emlékeztető is: a Harness azért bír ekkora erővel, mert a modell még nem jutott el odáig. És ugyanezért ez a lendkerék maga a legmélyebb védőárok (moat) ebben a korszakban: minél szorosabban fonódik össze a valós üzlet, a visszajelzési adatok és a modell iterációja, annál nehezebb bárkinek kívülről felzárkóznia.
Hogy ez mit jelent számodra, attól függ, hogy a lendkerék melyik végén állsz. Ha modelleket építesz, a védőárok az, hogy pörgesd fel ezt a lendkereket — hagyd, hogy a valós világ forgatókönyveiből származó visszajelzés a lehető leggyorsabban visszaáramoljon a képzésbe. Ha alkalmazásokat építesz modellek tetejére, a Harness a legélesebb rövid távú technikai tőkeáttételed, de légy tisztánlátó: minden alkalommal, amikor a modell internalizál egy réteg korlátot, szinte mellesleg elsöpör egy sor olyan előnyt, amely kizárólag a Harness-re épült. Az alkalmazási rétegben az igazán tartós védőárkok általában a technológián kívül esnek: exkluzív adatok, szilárd disztribúciós csatornák, felhasználói bizalom, hálózati hatások és a fizikai világ olyan összetett helyzetei, amelyek emberek és Agensek együttműködését igénylik. A körültekintő játék: használd a Harness-t, hogy időt nyerj, és használd azt az időt, hogy a technológián túli gátakat építs.
Tehát ne aggódj azon, hogy a kezedben lévő keretrendszer elavul-e. A modellek néhány havonta iterálnak; a specifikus API-k, termékek és leaderboardok mind meg fognak fordulni. De a három kérdés — mit lát, mit tehet, és hogyan ellenőrizhető, hogy jól csinálja-e a dolgokat — nem fog elavulni. Ezek nem egy adott modell használatát írják le, hanem azt az alapvető módot, ahogy egy intelligens rendszer kölcsönhatásba lép a világgal. Sajátítsd el őket, és bármilyen új képességet hoz is a modellek következő generációja, tudni fogod, hová illeszkedik a formulában — és első pillantásra látni fogod, milyen messze van még attól, hogy eloszlassa azt a két felhőt.
Az Agent-technológia még teljes sebességgel fejlődik; egyetlen könyv sem tud lépést tartani minden változással. De ha ez a könyv nem valamely API konkrét használatát hagyja benned, hanem az ítélőképességet, hogy tisztán láss a technológiai hullámok közepette, akkor beteljesítette küldetését. A könyv minden szövege, illusztrációja és kísérő kísérleti kódja nyílt forráskódú. Nyugodtan látogass el a repository-ba, futtasd le a kísérleteket saját kezűleg, és küldj issue-kat és PR-eket. És a legizgalmasabb dolog az Agensekben éppen ez: képesek új képességeket létrehozni kód írásával, sőt, még önmagukat is fejleszteni. Ha idáig elolvastad, már a birtokodban vannak a „teremtés" elvei. Most menj, és teremts valamit.
[^mimo]: A Xiaomi MiMo-V2.5-Pro-UltraSpeed a modell-rendszer együttes tervezésén keresztül FP4 kvantálással, DFlash párhuzamos spekulatív dekódolással és a TileRT inferenciarendszerrel először hajtja egy 1T paraméteres modell generálási sebességét 1000 token/s fölé egyetlen általános célú 8 GPU-s csomóponton. Lásd: Xiaomi MiMo hivatalos technikai blog, "Pushing 1T-Parameter Model Generation Speed to 1000 TPS," 2026. https://mimo.xiaomi.com/blog/mimo-tilert-1000tps
[^taalas]: A Taalas HC1 a teljes Llama 3.1 8B modellt egy 6nm-es chipre kódolja, körülbelül 17000 token/s sebességet érve el 100 ezredmásodperc alatti válaszidővel; a kompromisszum az, hogy a chip csak a beleégetett modellt futtatja, és a modellfrissítések új chip gyártást (tape-out) igényelnek. Lásd: Karl Freund, "Taalas Launches Hardcore Chip With 'Insane' AI Inference Performance," Forbes, 2026. https://www.forbes.com/sites/karlfreund/2026/02/19/taalas-launches-hardcore-chip-with-insane-ai-inference-performance/