Hallucination (hallucination)

Une hallucination est une sortie fluide du modèle fausse ou non étayée. En opérations, le risque n'est pas la poésie — c'est inventer une réservation, une politique ou un fait client. Atténuation : récupération, contrôles par outils, validation humaine sur les actions externes et jeux d'évaluation.

Pourquoi c'est important pour votre opération

Traitez l'hallucination comme un risque opérationnel à concevoir, pas une surprise.

Termes liés

• Evaluation (evals)
• RAG (génération augmentée par récupération)

Aller plus loin

Pratique gouvernance de l'IA

← Tous les termes