Article · IA & agents
La confiance annoncée par un LLM mérite un audit
Une étude compare confiance verbalisée, probabilité postérieure et accord entre générations, et observe une sensibilité aux formulations.
Dire « je suis sûr » ne suffit pas
Un agent peut joindre un score de confiance à sa réponse, mais ce score peut ressembler à une rhétorique calibrée plutôt qu'à une estimation fiable. Lukas Meyer, Sofia Rossi, Wei Chen, Thomas Laurent et Yiming Li comparent trois signaux sans entraînement supplémentaire sur 100 questions TriviaQA pour deux familles de modèles.
Trois signaux
L'étude compare la confiance verbalisée avec la réponse, la probabilité postérieure de vérité et l'accord entre trois générations supplémentaires. Les auteurs auditent aussi les erreurs du benchmark et examinent un petit ensemble de claims biographiques marqués par une confiance.
Résultats rapportés
Après audit des erreurs, la confiance verbalisée atteint une AUROC de 0,956 et 0,937 pour les deux familles étudiées. L'accord entre trois générations est plus faible, à 0,765 et 0,790. Une interpolation fixe n'apporte pas de bénéfice statistiquement fiable.
L'accord peut aussi renforcer une erreur partagée : quatre erreurs d'un modèle et deux de l'autre reçoivent un soutien unanime des échantillons. Réinterroger la confiance avec des prompts équivalents change le score moyen de 0,043 à 0,084 et inverse 4 % à 9 % des décisions au seuil 0,8.
Interprétation éditoriale : traiter la confiance comme un signal parmi d'autres
Un agent devrait utiliser la confiance pour décider d'une vérification, jamais pour la remplacer. Le workflow doit combiner provenance, tests, accord avec une source indépendante et coût d'une erreur. Une répétition du même modèle n'est pas une indépendance.
Limites et statut de la source
Les essais portent sur deux familles, un benchmark de questions et un audit biographique exploratoire. Les scores changent avec l'élicitation et le bruit de benchmark. Le document est un preprint ArXiv.
Source
Lukas Meyer, Sofia Rossi, Wei Chen, Thomas Laurent et Yiming Li, « An Analysis of Training-Free Self-Reported Confidence in Language Models », ArXiv 2609.20541v1 : résumé et preprint, PDF.