Agents et humains : usages, biais et apprentissage

Ce dossier rassemble onze travaux qui partagent un même objet : ce qui se passe quand un modèle de langage ou un agent logiciel se place entre une personne et une décision. Certains mesurent un effet sur un choix économique, d'autres sur l'apprentissage d'un élève, d'autres encore sur le sentiment d'être l'auteur d'un texte. Quelques-uns ne portent pas sur des humains mais sur des agents eux-mêmes, confrontés aux dispositifs d'influence conçus pour nous. Pris séparément, chacun décrit un cadre expérimental étroit. Lus ensemble, ils dessinent un répertoire de mesures qui manque souvent aux démonstrations d'agents.

Le regroupement n'est pas thématique au sens du domaine applicatif. On y trouve des loteries, des rapports financiers, des fractions arithmétiques, des situations de classe, du conseil psychologique et du conseil agricole vocal. Ce qui les relie est méthodologique : tous cherchent à séparer l'effet de l'outil de l'effet du contenu qu'il transporte, et presque tous signalent que cette séparation est plus difficile qu'elle n'y paraît.

Le lecteur en retire deux choses. D'abord un inventaire de chiffres rapportés, avec les protocoles qui les produisent et les limites que les auteurs reconnaissent eux-mêmes. Ensuite une liste de variables qu'il devient raisonnable d'instrumenter quand on conçoit un agent : le format de l'aide, le rôle assigné au modèle, la trace des décisions, la part de travail cognitif effectivement transférée. Les travaux cités sont des preprints ; les lectures éditoriales sont signalées comme telles et restent distinctes des résultats des auteurs.

Le conseil IA et la prise de risque

Paul Althaus, Leon Houf et Christiane Schwieren posent une question simple : le caractère interactif d'un assistant génératif modifie-t-il la manière de prendre des risques ? Leur expérience incitée réunit 158 participants qui choisissent entre une loterie sûre et une loterie risquée, avec une aide facultative. Le groupe contrôle dispose d'un outil préprogrammé qui donne les valeurs attendues. Deux autres groupes reçoivent la même information par une IA en direct, l'une à consultation unique, l'autre interactive avec jusqu'à deux relances par tour. Les trois bras comptent respectivement 56, 53 et 49 personnes. Le modèle employé dans les bras IA est gpt-5.4-mini, et l'aversion au risque est estimée par la méthode DOSE sur six choix rémunérés.

L'accès à l'IA ne déplace pas significativement le paramètre d'aversion au risque. La comparaison entre IA à réponse unique et contrôle donne 0,032, avec un intervalle de confiance à 95 % de -0,239 à 0,302. L'écart entre IA interactive et IA à réponse unique est de -0,077, sans significativité (F = 0,28 ; p = 0,60). Aucun effet robuste n'apparaît non plus sur la fréquence de consultation. Le système a calculé correctement la valeur attendue de la loterie risquée dans 216 consultations sur 228, soit 94,7 %.

Les auteurs bornent leur conclusion. L'échantillon est modeste, issu d'un recrutement en ligne lié au laboratoire AWI de l'université de Heidelberg, et les décisions sont des loteries, non des engagements financiers ou médicaux de long terme. Ils indiquent pouvoir exclure des effets supérieurs à Δr = 0,275, pas les effets plus petits. L'étude mesure un effet d'accès à information rendue équivalente, et non l'influence de recommandations riches, personnalisées ou fausses.

Les agents GUI face aux nudges

Une interface d'achat oriente les décisions par ses défauts, l'ordre d'affichage et ses signaux sociaux. Un agent qui perçoit l'écran et clique à la place d'un utilisateur reste exposé à ces mêmes leviers, même lorsqu'il produit une justification textuelle élaborée. « A Dual-Process Perspective on Nudge Susceptibility in LLM-Based GUI Agents » s'appuie sur la théorie des deux processus pour distinguer les nudges automatiques des nudges sociaux réfléchis.

L'expérience d'achat en ligne mobilise 3 600 agents et 21 600 simulations, sur six modèles de pointe provenant de trois fournisseurs. Les auteurs font varier la configuration de raisonnement et observent les choix effectués dans l'interface. La question n'est pas de savoir si un agent est influençable, mais si un raisonnement plus long déplace le type d'influence auquel il répond.

Les agents sont vulnérables aux deux familles de nudges. Activer le raisonnement réduit la sensibilité aux défauts automatiques et augmente la sensibilité à l'influence sociale réfléchie. Le raisonnement étendu ne supprime donc pas l'effet de l'architecture de choix, il en redirige le chemin. Une analyse exploratoire associe cette redirection à l'échelle du modèle, association que les auteurs ne transforment pas en règle générale.

En lecture éditoriale, une délégation d'achat devrait consigner les éléments d'interface qui ont pesé sur l'action, défauts et preuves sociales compris. Une justification produite après le clic n'établit pas que l'agent a comparé les options de façon indépendante. Les tests gagneraient à inclure des interfaces contrefactuelles : même produit, autre ordre, autre valeur par défaut, autre signal social. Le résumé ne permet pas de juger la persistance de ces effets hors tâches commerciales, ni de comparer avec des utilisateurs humains placés dans le même dispositif. Ces simulations décrivent des agents, pas un préjudice économique mesuré.

Le rôle assigné à un LLM et l'analyse financière

Ahmed Asaad, Amr Mohamed, Yang Zhang et Omneya Abdelsalam analysent 3 575 dépôts SEC avec 12 grands modèles de langage. Ils comparent une récupération conditionnée par persona, une récupération neutre et un contexte formulé comme une mémoire. Leur distinction conceptuelle est opérationnelle : un EvidenceScore devrait rester invariant quand la preuve est identique, alors qu'un PersonalizedScore peut légitimement refléter un mandat. Confondre les deux niveaux fait passer un choix de rôle pour une propriété du document.

Dans la condition où tous les rôles lisent des extraits neutres et identiques au niveau des octets, 69 % en moyenne de l'effet observé avec la récupération personnalisée subsiste. La médiane est de 68 %, avec une plage de 44 à 89 % selon le modèle. Pour la persona ShortSeller, 8 modèles sur 12 conservent au moins 74 % de l'effet et la médiane atteint 89,1 %. Une grande partie du spillover ne vient donc pas de la sélection des passages : le rôle continue d'orienter la lecture et la notation d'une preuve partagée.

Les auteurs testent un cadrage qui sépare le profil utilisateur de la preuve, ainsi qu'une sortie distinguant score d'évidence et score personnalisé. Ces mitigations réduisent le spillover sans l'annuler, et leur efficacité varie selon le modèle. La lecture éditoriale qui en découle est documentaire : conserver les passages récupérés, les instructions de rôle et le type de score, et demander deux sorties séparées dans les usages à enjeux. La neutralité reste ici une référence d'invariance expérimentale, pas une vérité externe ; un score neutre peut être stable et faux. L'étude dépend des documents, personas, prompts et métriques retenus, et ne mesure aucune performance d'investissement. Ce point rejoint le dossier évaluation des LLM et incertitude.

Le consensus des groupes d'agents

Le consensus final sert parfois d'indice de cognition collective. Tengfei Shao montre qu'il dépend d'abord de la façon dont on définit la participation et l'état final. Son étude rejoue 100 groupes humains confrontés à une tâche de sélection de cartes de Wason, avec des groupes d'agents LLM appariés, un agent par réponse initiale humaine.

Les groupes humains ne produisent pas tous une réponse, et les règles de score donnent des taux de consensus très différents, de 24,0 % à 57,0 % selon la définition. Les agents, eux, publient presque toujours. L'étude recourt donc à des comparaisons de sensibilité, dont une comparaison à participation appariée, pour atténuer cette asymétrie de mesure.

Dans les comparaisons postérieures à l'aveugle, les groupes d'agents restent plus consensuels. L'écart atteint 34,0 et 43,9 points selon le mode dans la comparaison fondée sur les soumissions, puis 34,1 et 44,4 points dans la comparaison à participation appariée. Dans les 45 groupes sans participant silencieux, le consensus complet est de 51,1 % chez les humains contre 85,2 % en mode chat pour les agents. Le consensus ne suit pas l'exactitude collective : dans une variante isomorphe, le raisonnement atteint une quasi-unanimité alors que 74,0 % des groupes s'accordent sur une mauvaise réponse.

La lecture éditoriale porte sur l'orchestration. Un système multi-agent devrait mesurer la diversité des hypothèses, les changements d'avis et la justesse finale, plutôt que récompenser l'accord. Une convergence rapide peut être une panne de raisonnement collectif. Rôles, tours et visibilité des messages doivent être documentés pour qu'un résultat soit interprétable. Le protocole se limite à une tâche de Wason, un modèle servi et un modèle de robustesse ; il ne décrit pas une loi générale. Le document est un preprint.

L'appropriation d'un travail fait avec une IA

Megan Wei, Melanie Subbiah, Audrey Lee, Annya Dahmani, Dave Edwards, Helen Edwards, Ellie Pavlick et leurs coauteurs posent une question de vécu : pourquoi une personne tient-elle certaines productions faites avec une IA pour les siennes, et pas d'autres ? L'étude est une enquête qualitative exploratoire. Chaque participant décrit deux tâches récentes qu'il choisit lui-même, l'une qui lui semblait lui appartenir, l'autre non. Le protocole porte sur le déclaratif, pas sur la qualité du résultat ni sur la titularité juridique.

Le sentiment d'appropriation est plus faible lorsque la personne se borne à approuver des suggestions. Diriger le processus, itérer et réécrire le renforcent. L'appropriation peut aussi porter sur la vision d'un projet, même quand l'exécution n'aurait pas été possible sans l'outil. La perte de voix personnelle et l'absence de compréhension du résultat l'érodent. La volonté de déclarer l'usage de l'IA ne suit pas la fierté : elle dépend des normes du groupe et de la crainte de perdre le crédit.

En lecture éditoriale, l'enjeu pour un agent de travail n'est pas de bannir l'automatisation mais de rendre visibles les décisions, les alternatives et les points de reprise. Une interface qui permet de corriger, annoter et comprendre une sortie soutient davantage le rôle de l'utilisateur qu'une interface qui n'expose qu'un résultat final. Conserver consignes, révisions et validations peut servir à la fois l'apprentissage, l'audit et le sentiment d'auteur. Cette expérience vécue reste distincte des questions juridiques et des politiques de divulgation, propres à chaque contexte. La taille, le recrutement et le caractère auto-rapporté de l'enquête limitent la généralisation.

Le feedback métacognitif contre le délestage cognitif

Un assistant peut expliquer une méthode, donner un indice ou livrer la solution complète. Ces trois usages ne demandent pas la même part de raisonnement. Le preprint « Designing Against Deskilling: Metacognitive Feedback Reduces Cognitive Offloading to LLM Assistants » prend cette différence pour objet, au lieu d'opposer un groupe avec IA à un groupe sans IA. Les auteurs nomment answer offloading le fait de réclamer la réponse entière.

L'expérience en ligne réunit 704 participants, sur un plan 2 × 2 avec un contrôle sans IA. Les participants s'entraînent sur des fractions auprès d'un assistant qui répond à la demande : il peut guider, donner un résultat intermédiaire ou fournir la solution. Un test ultérieur a lieu sans assistant. Deux interventions sont comparées. Le feedback métacognitif explicite les conséquences possibles d'une demande de solution complète. La récompense liée à l'effort attribue plus de points quand la personne sollicite moins d'aide directe.

Le feedback métacognitif réduit le recours à la réponse complète, avec un odds ratio rapporté de 0,47, et améliore la performance au test sans IA, avec un odds ratio de 1,51. Les auteurs ne trouvent pas d'effet de la récompense sur ces deux résultats. L'accès à l'assistant, pris isolément, ne dégrade pas significativement le test. Les participants qui délèguent plus souvent la réponse réussissent ensuite moins bien ; le risque dépend donc de la part de travail transférée et de la facilité avec laquelle l'interface permet de demander la solution. Dans cette étude, la récompense a surtout réduit l'usage global de l'assistant sans améliorer l'évaluation sans IA. Le test porte sur l'arithmétique de fractions et une interaction courte, et ne mesure pas une perte de compétence sur plusieurs mois.

SOL, la recherche d'information comme apprentissage

Le preprint Beyond Retrieval: Scaffolding Children's Online Learning part d'un constat de conception. Les moteurs grand public sont pensés pour des adultes, alors que les enfants développent encore leurs capacités linguistiques, cognitives et leur culture informationnelle. Les auteurs traitent donc la recherche comme une activité d'apprentissage et non comme la livraison d'un résultat.

Le travail introduit SOL (Scaffolding to Foster Independence when Children Search Online for Learning), un projet de recherche qui vise les enfants de 9 à 11 ans. Le dispositif imaginé ajoute un soutien adaptatif aux systèmes existants : aide à formuler une requête, invitation à comparer plusieurs sources, explications adaptées à l'âge et questions de réflexion avant d'accepter une réponse. Les auteurs annoncent une approche mixte, combinant tests utilisateurs, conception participative avec des enfants et des enseignants, mesures d'interaction et résultats d'apprentissage.

L'élément transposable à un produit de recherche assistée est la progressivité du soutien. Une interface peut exposer une piste ou une question de contrôle sans faire disparaître l'effort de l'utilisateur, ce qui déplace le critère de réussite : un bon système n'est pas seulement celui qui trouve vite, mais celui qui aide à formuler, comparer et vérifier. Cette lecture est éditoriale et reste séparée du preprint. Le même déplacement de critère traverse le dossier RAG et recherche d'information.

Le document présente un programme et ses hypothèses, pas la validation d'un système déployé. Il ne fournit aucune comparaison expérimentale permettant d'attribuer un gain à un type d'aide donné. Les besoins des enfants de 9 à 11 ans ne se transposent pas automatiquement à d'autres âges ni à des recherches non scolaires.

Edustories et les décisions de classe

Edustories, présenté par Michal Štefánik, Jan Nehyba, Jirina Karasova, Martin Fico et leurs coauteurs, documente des situations de classe collective au lieu d'échanges entre un modèle et un seul élève. Le dataset contient 1 492 récits écrits par des enseignants stagiaires, chacun décrivant une situation, un contexte, un problème, une intervention et une issue perçue.

Les auteurs évaluent si un modèle peut prédire le succès d'une intervention à partir de la description, de l'anamnèse et de l'action choisie. Sur 310 cas comparés à des experts, le meilleur modèle atteint 58,0 % d'exactitude, contre 64,2 % pour le meilleur expert. Les profils d'erreur diffèrent : les modèles confondent surtout succès court et succès long. Les récits proviennent de 241 enseignants stagiaires du primaire et du secondaire tchèques. Les textes ont été anonymisés automatiquement puis relus, et une version anglaise a été produite pour la recherche. Les experts ont annoté des catégories de problème, d'intervention et de résultat, en discutant les cas litigieux.

La lecture éditoriale proposée tient en une distinction : un agent de feedback destiné aux enseignants devrait exposer ses incertitudes, séparer court et long terme et laisser la décision à un professionnel. La proximité des scores ne suffit pas à conclure, et les profils d'erreur, la confidentialité des situations et la possibilité d'expliquer une recommandation comptent davantage qu'un classement de modèles.

La population est composée d'enseignants en formation, la collecte est centrée sur un contexte tchèque, et la traduction anglaise peut contenir des erreurs ou de la « translationese », que les auteurs estiment à 5 à 10 % des récits. L'évaluation exclut les modèles propriétaires et ceux de plus de 100 milliards de paramètres. Le benchmark ne démontre pas qu'une IA pourrait conseiller une classe sans supervision humaine.

StratCBT et le choix de stratégie en dialogue

Une conversation de thérapie cognitivo-comportementale évolue selon les pensées, les émotions et les réactions exprimées. Zimu Wang, Yiwen Jiang, Xiangyu Zhao, Yaling Shen, Jiahe Liu et leurs coauteurs présentent StratCBT, un jeu de données qui aligne chaque réponse du conseiller sur une stratégie tout en conservant un dialogue dynamique.

StratCBT contient 9 688 sessions et environ 256 000 utterances. Chaque réponse est reliée à l'une de huit stratégies distinctes. Les conversations sont générées par self-chat à partir de modèles de clients construits autour de pensées négatives, avec des sessions réalistes utilisées comme guide. L'intention n'est pas de fixer une étape une fois pour toutes, mais de permettre à l'agent d'observer l'état conversationnel et d'ajuster sa stratégie en conséquence.

Le résumé rapporte que les expériences de génération alignée par stratégie dépassent les jeux existants sur les compétences générales de conseil et sur les aptitudes spécifiques à la TCC, selon des évaluations menées avec des clients simulés par LLM. Aucun chiffre n'est donné pour ces comparaisons dans la source.

En lecture éditoriale, la représentation par stratégies a surtout un intérêt d'auditabilité : elle aide à retracer pourquoi une réponse a été produite. Elle ne transforme pas un modèle conversationnel en thérapeute. Un produit construit sur ce type de données devrait limiter ses promesses, prévoir une escalade vers un humain et faire tester les situations de crise par des experts indépendants.

Le jeu de données est centré sur la TCC et sur l'anglais, et les auteurs signalent des limites culturelles et de généralisation. Les clients simulés ne remplacent pas une évaluation clinique. Le document est un preprint, et rien ici ne constitue une indication de prise en charge.

FarmerChat et la robustesse au bruit d'un agent vocal

Dans un conseil agricole vocal, une erreur sur une culture, un ravageur, un produit ou une quantité déforme toute la réponse. Aakash Singh, Lakshmi Pedapudi, Chandrashekar M S, Sanyam Singh, Naga Ganesh et Vineet Singh décrivent les améliorations apportées à FarmerChat sans toucher au modèle ASR principal.

Le système analyse l'audio, applique une amélioration conditionnelle, diarise les locuteurs et sélectionne la voix de l'agriculteur. Il appelle ensuite l'ASR, corrige à l'aide d'un lexique agricole pondéré et fait passer le texte par une barrière de qualité avant de le transmettre à l'agent de conseil. Chaque étage est remplaçable et ne s'active que lorsque les preuves le justifient, ce qui évite d'ajouter un grand système agentique là où une correction locale suffit.

Sur des enregistrements annotés en hindi, télougou et odia, la pipeline réduit le WER de 16 % à 23 % relativement sur trois ASR cloud et de 5 % sur un modèle embarqué. Le gain atteint 32 % à 42 % sur l'audio multi-locuteur selon les modèles, et les auteurs indiquent que toutes les baisses annoncées sont statistiquement significatives.

La lecture éditoriale porte sur l'attribution de l'erreur. Un agent vocal fiable sépare transcription, correction métier, compréhension et réponse, de sorte qu'une amélioration du texte final ne masque pas quel module a changé l'information. Les termes critiques peuvent recevoir une pondération et une vérification supplémentaire avant l'appel du modèle de conseil. Cette décomposition par étage rejoint le dossier agents, architecture et outils.

Le downstream advisory model n'est pas encore mesuré dans le protocole décrit. Les langues et le contexte agricole sont propres au service. Le document est un preprint et ne constitue pas un conseil agronomique.

Motivated Emotional Mind, des objectifs venus de l'état interne

Wiesław L. Galus et Janusz A. Starzyk proposent une formalisation mathématique de la Motivated Emotional Mind, une architecture cognitive destinée à des systèmes intelligents incarnés. L'agent ne reçoit pas seulement une récompense de tâche : il tente aussi de maintenir un état interne et de limiter des violations allostatiques.

Le modèle relie signaux extéroceptifs et intéroceptifs, contexte motivationnel, traces de mémoire et représentations associatives appelées semblions. Ces représentations se disputent l'accès au traitement, peuvent reconstruire des signaux de haut en bas et influencent la sélection d'action. La curiosité, les buts changeants, les seuils de besoin et l'incertitude d'action font partie de la formalisation. L'affect global y module le taux d'apprentissage, la valence des représentations et l'équilibre entre exploration et exploitation.

Pour un concepteur d'agent, l'apport est d'abord lexical : le modèle fournit un vocabulaire pour séparer l'objectif déclaré, l'état régulateur et les ressources disponibles au moment du choix. En lecture éditoriale, un système qui invoque une motivation devrait enregistrer le besoin actif, le seuil franchi, la représentation sélectionnée et le coût de l'action. Une telle trace permettrait de distinguer une préférence apprise d'une contrainte de régulation interne.

Le preprint est une formalisation théorique et une proposition d'architecture, non la validation expérimentale d'une conscience artificielle. Les termes affect, besoin et expérience restent des éléments de modèle. Les auteurs considèrent que des simulations reproductibles, des tâches incarnées et des comparaisons avec des architectures d'apprentissage par renforcement sont nécessaires pour évaluer la portée de la proposition.

Ce qui se recoupe entre ces travaux

Un premier recoupement concerne la distinction entre le contenant et le contenu. L'expérience sur les loteries isole l'accès à une IA en tenant l'information constante, et ne trouve pas d'effet. L'étude sur les dépôts SEC fait l'inverse : elle tient la preuve constante au niveau des octets et observe que 69 % en moyenne de l'effet de rôle subsiste. Ces deux résultats ne se contredisent pas, ils cernent la même frontière par deux côtés. Quand l'aide se réduit à une valeur attendue identique, le canal importe peu ; quand le modèle doit interpréter un texte, le cadrage pèse même sur une preuve partagée. Entre les deux, le travail sur le feedback métacognitif montre qu'un troisième facteur compte, le niveau d'aide réclamé, avec un odds ratio de 0,47 sur le recours à la réponse complète.

Un deuxième recoupement est le refus des verdicts globaux. Les auteurs du feedback métacognitif ne concluent pas que l'IA dégrade l'apprentissage, puisque l'accès à l'assistant pris isolément ne dégrade pas significativement le test ; ils pointent la part de travail transférée. Edustories ne conclut pas qu'un modèle peut gérer une classe, malgré 58,0 % contre 64,2 % pour le meilleur expert, parce que les profils d'erreur diffèrent. StratCBT revendique un gain sur les aptitudes TCC tout en rappelant que des clients simulés ne remplacent pas une évaluation clinique. Trois domaines, une même prudence sur la portée d'un score.

Un troisième recoupement porte sur la trace. L'étude sur les nudges demande de consigner les éléments d'interface qui ont influencé l'action, celle sur les dépôts SEC de conserver passages, instructions de rôle et type de score, celle sur l'appropriation de garder consignes et révisions, FarmerChat d'isoler l'étage qui porte l'erreur, et la Motivated Emotional Mind d'enregistrer le besoin actif et le seuil franchi. Aucun de ces travaux n'a été conçu avec les autres, et tous convergent vers la même exigence : une sortie finale ne suffit pas à expliquer une décision d'agent.

Deux tensions restent ouvertes. Le raisonnement étendu est souvent présenté comme un correctif, mais il réduit la sensibilité aux défauts automatiques tout en augmentant celle à l'influence sociale réfléchie. Et l'accord entre agents, que le travail sur les groupes de Wason mesure à 85,2 % de consensus complet contre 51,1 % chez les humains, s'accompagne d'une variante isomorphe où 74,0 % des groupes s'accordent sur une mauvaise réponse. On ne sait pas, à partir de ces sources, quelle part de ces écarts tient au modèle, au protocole ou à la définition de la mesure. Les protocoles de mesure sont eux-mêmes en discussion, comme le montre le dossier sécurité des modèles et des agents.

Sources

• arXiv:2609.07358v1 — Le conseil IA change-t-il la prise de risque ?
• arXiv:2609.19843v1 — A Dual-Process Perspective on Nudge Susceptibility in LLM-Based GUI Agents
• arXiv:2609.03218v1 — The Analyst in the Prompt: Role, Retrieval, and Memory Biases in LLM Financial Analysis
• arXiv:2609.20543v1 — Language-model groups overstate consensus when replaying human deliberation on a reasoning task
• arXiv:2609.20658v1 — Ownership in AI-Assisted Everyday Tasks
• arXiv:2609.20143v1 — Designing Against Deskilling: Metacognitive Feedback Reduces Cognitive Offloading to LLM Assistants
• arXiv:2609.15568v1 — Beyond Retrieval: Scaffolding Children's Online Learning
• arXiv:2609.20484v1 — Edustories: A Collection of Real-world Case Studies from Classroom Practices
• arXiv:2609.20565v1 — Steering the Compass: Aligning Dynamic Psychological Counseling Conversations with Cognitive Behavioral Therapy Strategies
• arXiv:2609.20504v1 — Model-Agnostic and Language-Agnostic Voice Pipeline Improvement for the Agriculture Domain
• arXiv:2609.20437v1 — A Mathematical Model of Motivated Emotional Mind - Cognitive Embodied System