Skip to content

Halluzination bei themenfremdem Treffer: hybrid antwortet selbstbewusst mit erfundenen Referenzen #5

Description

@markus7h

Problem

Bei Fragen ohne echte Deckung im Index formuliert mode="hybrid" trotzdem eine selbstbewusste Antwort samt Referenzen. Beispiel: Frage nach dem gerichtlichen Aktenzeichen einer Teilungsversteigerung → Antwort VR-Nr. 203864 mit Quellenangabe, obwohl der Index nur Renten-/Leistungsausweise enthält (die Nummer stammt aus einem Rentendokument).

Der [no-context]-Guard greift nur bei komplett leerem Retrieval, nicht bei einem thematisch unpassenden Treffer.

Fix-Vorschlag

Confidence-/Relevanz-Schwelle beim Retrieval schärfen, sodass hybrid bei zu schwacher Deckung ehrlich "nicht im Index belegt" sagt statt zu konfabulieren. Ties in mit dem Pflicht-Gegencheck aus #2.

Metadata

Metadata

Assignees

No one assigned

    Labels

    No labels
    No labels

    Projects

    No projects

    Milestone

    No milestone

    Relationships

    None yet

    Development

    No branches or pull requests

    Issue actions