Skip to content

feat(evals): Eval Harness — Recall@5, Task-Success, Staleness-Rate #9

Description

@KniggeMS

Ziel

Retrieval-Qualität, Task-Success und Staleness werden messbar und vergleichbar. Basis für Regression-Tests bei jeder Änderung.

Aufgaben

  • Eval-Dataset anlegen (mindestens 20 Query/Expected-Pairs)
  • lemma_eval_run Tool implementieren
  • Metriken implementieren: Recall@5, MRR, Task-Success-Rate, Staleness-Rate
  • Baseline messen (aktueller Stand vor V2.1)
  • Regression Suite: Eval läuft bei jedem CI-Push
  • Ergebnisse in docs/evals/results/ speichern

Referenz

Siehe docs/evals/benchmark-plan.md

Akzeptanzkriterien

  • Recall@5 >= 0.80 nach V2.1
  • Task-Success-Rate >= 0.75 nach V2.3
  • Staleness-Rate <= 0.05 nach V2.2
  • CI-Integration vorhanden

Metadata

Metadata

Assignees

No one assigned

    Projects

    No projects

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions