## Ziel Retrieval-Qualität, Task-Success und Staleness werden messbar und vergleichbar. Basis für Regression-Tests bei jeder Änderung. ## Aufgaben - [ ] Eval-Dataset anlegen (mindestens 20 Query/Expected-Pairs) - [ ] `lemma_eval_run` Tool implementieren - [ ] Metriken implementieren: Recall@5, MRR, Task-Success-Rate, Staleness-Rate - [ ] Baseline messen (aktueller Stand vor V2.1) - [ ] Regression Suite: Eval läuft bei jedem CI-Push - [ ] Ergebnisse in `docs/evals/results/` speichern ## Referenz Siehe `docs/evals/benchmark-plan.md` ## Akzeptanzkriterien - [ ] Recall@5 >= 0.80 nach V2.1 - [ ] Task-Success-Rate >= 0.75 nach V2.3 - [ ] Staleness-Rate <= 0.05 nach V2.2 - [ ] CI-Integration vorhanden
Ziel
Retrieval-Qualität, Task-Success und Staleness werden messbar und vergleichbar. Basis für Regression-Tests bei jeder Änderung.
Aufgaben
lemma_eval_runTool implementierendocs/evals/results/speichernReferenz
Siehe
docs/evals/benchmark-plan.mdAkzeptanzkriterien