L’image que vous voyez ci-dessus, qui représente un souris avec d’énormes organes génitauxa été généré par À mi-parcoursun logiciel d’intelligence artificielle générative populaire capable de créer des images à partir de la saisie de texte, et est apparu dans un article scientifique publié sur 13 février 2024 dans le magazine Frontières de la biologie cellulaire et du développement. L’article, rédigé par les chercheurs chinois Xinyu Guo, Liang Dong et Dingjun Hao, étudie le lien entre les cellules souches spermatogones et un système de médiation biochimique particulier du cancer et des infections.
Mais ce qui nous intéresse ici, ce n’est pas le contenu de l’article mais les chiffres qu’il contient, car ils entrent directement dans celui-ci. débat de plus en plus houleux sur les effets d’un utilisation inappropriée de l’IA et plus généralement sur les problématiques du système d’examen des publications scientifiques.
Maintenant, vous n’avez pas besoin d’être un maître Jedi en biologie pour comprendre qu’il s’agit d’un chiffre loin d’être précis d’un point de vue scientifique. En fait, il semble évident que le rat représenté possède un pénis. absolument disproportionné par rapport au reste du corps, même équipé de quatre testicules. Même en lisant l’écriture sur la figure, nous comprenons immédiatement que quelque chose ne colle pas : testtomcels, bite Et iollotte sserotgomar Je suis mots inexistantsce qui ne veut rien dire.
Tout cela n’aurait que peu d’importance si ce chiffre n’était pas une partie d’un véritable article scientifiqueprincipalement soumis au processus dit de examen par les pairs: En termes simples, son contenu a été – du moins en théorie – vérifié et validé par des experts universitaires indépendants. Il n’est donc pas surprenant que l’article a été retiré trois jours après la publication suivant de nombreux rapports par d’autres chercheurs sur l’incohérence scientifique de ce chiffre et des deux autres chiffres présents dans l’article.
Mais la question est la suivante : Comment ces chiffres ont-ils abouti dans un article scientifique ? Précisons tout de suite un point : le magazine qui a publié l’article, comme tout autre du groupe éditorial Frontières, n’interdit pas l’utilisation de l’IA générative pour la production d’images, à condition que l’utilisation de tels outils soit déclarée et que les images soient vérifiées par des humains examen par les pairs. Les auteurs de l’article ont déclaré à juste titre dans les légendes que les images ont été créées à l’aide de l’IA, mais il reste à clarifier comment il est possible qu’ils aient jugé approprié d’inclure Des chiffres « dénués de sens » dans leur article, et que les critiques du journal n’avaient apparemment rien à redire. À l’heure actuelle Frontières il n’a donné aucune explication à ce sujet, se limitant à merci pour les rapports.
Naturellement, on soupçonnait que le texte de l’article, outre les images, avait également été généré par l’intelligence artificielle, mais les analyses effectuées jusqu’à présent ont été peu concluant.
La portée de cette histoire devient inquiétant au moment où nous nous rendons compte que si ces images ont passé le processus de examen par les pairsqui sait combien d’autres plus réalistes l’auront fait sans que personne ne s’en aperçoive.
Cet épisode est donc un peu comme l’enfant qui crie « le roi est nu » : depuis des années en effet, les chercheurs se plaignent du fait que le système de publication académique pousse fortement quantité d’articles produits, même avec des incitations économiques. Une véritable « course à la publication » avec des conséquences tangibles sur la qualité des articles eux-mêmes et sur la carrière des scientifiques. De ce point de vue, l’IA peut représenter un moyen de produire plus en moins de temps, et il arrive parfois que tu vas trop loin en le négligeant sur les erreurs et les incohérences.
Ce n’est pas un hasard si une étude récente publiée dans la prestigieuse revue Nature j’ai calculé que 2023 a été l’année avec le nombre record d’articles rappelés après publication (plus de 10 000), non seulement pour les données d’origine douteuse mais aussi pour les textes produits grâce à l’IA générative. Natured’ailleurs, contrairement à Frontières a interdit l’utilisation de l’IA pour générer des images et des vidéos, précisément parce que les logiciels d’intelligence artificielle ils ne fournissent pas de sources à partir desquels ils tirent les informations avec lesquelles ils génèrent les images, le processus de vérification peut donc devenir très compliqué.
Il est possible que ce soit précisément une dynamique de ce type qui soit à l’origine de ce qui s’est passé avec l’article retiré. Frontières. C’est pourquoi il ne serait pas correct de traiter l’histoire du « rat au pénis géant » comme une drôle de curiosité ou une erreur isolée, mais le symptôme d’un problème plus important en amont. Un problème particulièrement sensible dans le monde scientifique, si crucial pour la société dans laquelle nous vivons. Un problème qui, s’il n’est pas résolu, cela pourrait devenir de plus en plus gravecar les progrès rapides de l’intelligence artificielle rendent de plus en plus difficile la distinction entre le contenu généré par l’IA et le contenu d’origine humaine.