BLUN Docs
Prompt caching
Caching spart Zeit und Tokens, wenn grosse statische Systemtexte wiederverwendet werden.
- Trenne statische Regeln von dynamischem Nutzerkontext.
- Aendere statische Prompts selten und bewusst.
- Pruefe Usage-Daten, ob Caching wirklich Kosten reduziert.