ACE: zelfverbeterende taalmodellen uitleggen

Samenvatting

ACE laat taalmodellen leren door hun context-playbook bij te werken, zonder de modelgewichten aan te passen.

ACE en het context-playbook

Agentic Context Engineering, kortweg ACE, laat een AI-agent lessen uit eerdere taken bewaren in een playbook. De agent leest die informatie bij een volgende taak en past alleen de relevante onderdelen aan. Zo blijft het model zelf onveranderd.

De aanpak bestaat uit drie stappen. De Generator voert de taak uit met het bestaande playbook. De Reflector beoordeelt de uitvoering en feedback en haalt daar een les uit. De Curator zet die les om in een kleine delta-update, waarna eenvoudige merge-logica het playbook bijwerkt.

Waarom ACE relevant is

ACE kiest niet voor een volledige herschrijving van het geheugen. Het playbook bestaat uit kleine, benoemde entries met onder meer regels voor toolgebruik, herbruikbare code en advies voor foutoplossing. Entries krijgen identificaties en tellers voor nuttige of schadelijke bijdragen. Nieuwe regels kunnen worden toegevoegd, samengevoegd, aangepast of verwijderd.

De reden voor die aanpak blijkt uit een AppWorld-casus. Een Dynamic Cheatsheet kromp daar in één stap van 18.282 tokens naar 122 tokens, terwijl de gerapporteerde nauwkeurigheid daalde van 66,7 procent naar 57,1 procent. De bron presenteert dit als één mislukte casus, niet als een algemeen foutpercentage.

AppWorld vormt het testterrein voor offline en online aanpassing. Bij online aanpassing voorspelt de agent eerst en werkt hij daarna het playbook bij op basis van feedback. De kwaliteit van die feedback bepaalt dus welke lessen blijven staan.

Concrete takeaway voor ACE

Wie ACE toepast, moet lessen opslaan als kleine, herkenbare regels in plaats van het volledige geheugen telkens te herschrijven. Leg per entry vast welke taak of fout de regel beschrijft en controleer feedback voordat je die regel toevoegt, samenvoegt of verwijdert. Zo blijft zichtbaar welke contextwijziging het gedrag van de agent beïnvloedt.