LE’intelligence artificielle il est de plus en plus utilisé pour produire des résumés et des rapports au contenu complexe. L’avantage est évident. En quelques secondes seulement, vous pouvez obtenir une synthèse d’informations qui prendraient beaucoup plus de temps à examiner. Mais que se passe-t-il si le résultat contient un détail erroné ?
C’est la question à partir de laquelle une étude menée par Université de Georgetown Et Université de Washington. Les auteurs ont analysé non seulement les erreurs produites par les modèles, mais aussi l’effet possible que des informations trompeuses peuvent avoir sur mémoire humaine. Il ne s’agit donc pas seulement de comprendre dans quelle mesure le résultat obtenu est fiable, mais également de savoir si des inexactitudes pourraient affecter ceux qui le liront.
Comment l’étude sur les résumés générés par l’IA a été menée
L’étude a suivi deux étapes. Dans la première, les chercheurs l’ont mis à l’épreuve ChatGPT-5.5 et Gemini 2.5 Flash-Liteconfiant aux deux modèles la tâche de résumer deux courtes vidéos d’animationtous deux d’une durée de 25 secondes. Les scènes, créées à l’intérieur Grand Theft Auto V et déjà utilisés dans des études antérieures sur la mémoire, ils montraient une voiture rouge arrivant à une intersection, tournant et heurtant un piéton.
Les vidéos étaient presque identiques, mais présentaient une différence centrale. Dans l’un il y avait un panneau STOP, dans l’autre un panneau cédez le passage. Chaque modèle a reçu chaque vidéo cinq fois, toujours lors d’une nouvelle session, produisant ainsi un résultat global 20 résumés.
L’invite, c’est-à-dire l’instruction fournie aux modèles, a été formulée précisément pour réduire le risque d’inexactitudes. Il a été demandé aux systèmes de produire au moins 300 mots, de maintenir un ton neutre et factuel, de n’introduire aucune nouvelle interprétation ou élément et d’inclure tous les événements importants. Malgré ces indications, les 20 textes contenaient des erreursd’un minimum de 7 à un maximum de 21 par texte.
Le omissions étaient la catégorie la plus fréquente. Les chercheurs ont identifié 19 détails centraux des scènes et, en moyenne, les motifs ils ont laissé de côté 51,6%. Ce qui est encore plus surprenant, c’est que 19 textes sur 20 ne mentionnaient pas l’événement principalou la voiture qui a heurté le piéton, un chiffre correspondant à 95 %. Dans d’autres cas, des informations inexactes sont apparues, des ajouts non présents dans la vidéo ou dans la réalité. « Hallucinations » de l’IA.comme des véhicules ou des personnes qui n’existaient pas dans la séquence originale.
Cette première analyse a surtout servi à identifier les problèmes qui pourraient émerger. Pour tester si ces imprécisions avaient également des conséquences sur les lecteurs, les auteurs ont donc organisé une seconde expérimentation.
Un mauvais détail peut changer nos souvenirs
Les adultes américains recrutés en ligne ont participé à la deuxième expérience. 331 personnes ont terminé les deux séances et, après l’exclusion de trois individus qui n’avaient pas réussi un contrôle d’attention, 328 participants ont été inclus dans les analyses. Tout le monde regardait l’une des deux vidéos et devait prêter attention à ce qui se passait. Après 24-48 heures est revenu pour la phase suivante et a lu un résumé de 21 phrases généré avec ChatGPT.
L’étape décisive concerne le panneau de signalisation. Selon les groupes, le texte rapportait correctement celui vu dans le film ou le remplaçait par l’autre. Quiconque avait observé un STOP pouvait donc lire que la voiture était arrivée à un signal de passage et vice versa. Le reste de la synthèse est resté essentiellement le même, de manière à isoler l’effet de ce seul détail.
Immédiatement après, les volontaires ont été invités à répondre à une série de questions basées sur les vidéo originalepas sur le texte que vous venez de lire. Parmi ceux-ci, on a demandé quel signal était présent à l’intersection.
La différence était claire. Parmi ceux qui avaient lu un résumé conforme au film, 83,6 % se sont souvenus du bon signe. Toutefois, dans le groupe exposé à des informations trompeuses, le pourcentage est tombé à 44,8%. Les autres questions indiquent que les volontaires n’avaient pas simplement oublié toute la scène. Par exemple, 96,6 % ont rappelé que l’accident s’est produit pendant la journée et, en moyenne, les participants ont donné la bonne réponse à 91,4 % des 11 questions non essentielles.
Ensuite, il y a un autre élément intéressant. Avant la lecture, certains participants ont été informés que le résumé était réalisé par un système d’IA, d’autres qu’il provenait d’un transcripteur humain. En réalité, le contenu était toujours généré avec ChatGPT. Savoir ou croire que l’intelligence artificielle était derrière le texte n’a pas réduit de manière significative l’effet de la désinformation. Même le niveau de confiance signalé dans les systèmes d’IA ou la fréquence à laquelle ils sont utilisés ne semblent pas avoir d’impact sur les résultats.
Pourquoi des informations trompeuses peuvent interférer avec la mémoire et quelles sont les limites de la recherche
Le phénomène ne s’est pas produit avec l’intelligence artificielle. En psychologie, on l’appelle depuis des décennies effet de désinformation. Après avoir vécu ou observé un événement, l’exposition ultérieure à des informations inexactes peut modifier la façon dont certains détails sont mémorisés. En fait, la mémoire ne fonctionne pas comme un enregistrement immuable, mais est le résultat d’un processus de reconstruction, également influencé par ce que nous apprenons plus tard.
La recherche applique ce mécanisme aux textes produits par des modèles génératifs. Le point le plus délicat est que l’erreur ne doit pas nécessairement être flagrante. Un détail en apparence anodin, comme un STOP transformé en cession, peut suffire à perturber la mémoire. Et c’est précisément ce qui rend le sujet pertinent lorsque les synthèses automatiques sont utilisées dans des contextes où la précision compte beaucoup.
Les auteurs citent par exemple l’utilisation de l’IA pour générer des rapports ou des résumés dans champ de police. Dans ces cas, nous avons souvent tendance à penser que la présence d’une personne chargée de vérifier le texte généré, appelée humain dans la bouclepeut corriger les erreurs. Cependant, l’étude suggère un problème possible. La même personne appelée pour vérifier le texte pourrait être influencée par les informations inexactes qu’elle lit.
Cela ne signifie cependant pas qu’il a été démontré que chaque résumé de l’IA altère la mémoire ou que les mêmes résultats se produisent automatiquement dans des situations réelles. L’expérience était très contrôlée, impliquait deux simples vidéos animées et testait directement l’effet d’un seul type de fausse information, à savoir le panneau de signalisation. L’analyse des erreurs des modèles était également limitée à une seule invite et à 20 textes générés.
Le résultat met en évidence un risque concret : une erreur dans un résumé automatique peut affecter la façon dont une personne reconstruit ce qu’elle a vu. Les mêmes auteurs soulignent cependant la nécessité de vérifier le phénomène avec des matériaux plus réalistes et dans des scénarios différents.