RAG Formation · Référence

Refus, incertitude et contrôle des hallucinations

Une fiche autonome pour apprendre et tester la qualité RAG sur ce site.

$ reference --status
▸ cours RAG Formation
▸ mode référence autonome
▸ statut Terminé
● apprendre → tester → vérifier

Fiche de référence

Le contenu du cours guidé RAG Formation est complet ; cette fiche est disponible pour un apprentissage autonome.

Règle en une ligne

Une réponse partielle et fluide peut tout de même halluciner si elle ajoute une affirmation importante que les preuves n’étayent pas.

Terme	Signification
Refus	Une déclaration claire indiquant que les preuves indexées n’établissent pas le fait demandé.
Incertitude	Une explication calibrée de ce que les preuves étayent et de ce qui reste inconnu.
Hallucination	Une affirmation importante présentée sans soutien suffisant des preuves autorisées.

Élément	À consigner	Ne pas affirmer
Référence	Commande, configuration et résultat observé	La référence est un objectif.
Modification	Une hypothèse ou une décision	On peut savoir ce qui a causé le résultat lorsque plusieurs éléments ont changé.
Indicateur	Suivre séparément la précision des refus et le taux d’hallucination, ainsi qu’une réponse ayant franchi la limite.	Un seul indicateur décrit toute la qualité.
Sécurité	Un échec et un cas de régression	Une réponse fluide prouve que le système est fiable.

cd demo
python3 eval.py run --mode answer --workspace meridian_demo --category unanswerable --tag lesson-12-refusal

Livrable : Une politique de refus avec des cas de test pour l’absence de preuves, les preuves partielles, les conflits et l’ambiguïté.

Pour continuer : Ouvrir la leçon autonome correspondante · Feuille de route