L'IA intensifie la lutte contre les "usines à papier" qui produisent de fausses recherches

Sep 08, 2023

Vous pouvez également rechercher cet auteur dans PubMed Google Scholar

Vous avez un accès complet à cet article via votre institution.

Les outils d'intelligence artificielle qui peuvent générer des images et du texte réalistes rendent difficile la détection de fausses recherches.Credit : Westend61/Alamy

Les progrès de l'intelligence artificielle (IA) compliquent les efforts des éditeurs pour s'attaquer au problème croissant des papeteries - des entreprises qui produisent de faux articles scientifiques sur commande. Les outils d'IA générative, y compris les chatbots tels que ChatGPT et les logiciels de génération d'images, offrent de nouvelles façons de produire du contenu de papeterie, qui pourrait s'avérer particulièrement difficile à détecter. Ces défis faisaient partie des défis discutés par les experts de l'intégrité de la recherche lors d'un sommet le 24 mai, qui s'est concentré sur le problème de la papeterie.

Un détecteur de papeterie mis à l'épreuve pour éradiquer la fausse science

"La capacité des papeteries à générer des données brutes de plus en plus plausibles va monter en flèche avec l'IA", déclare Jennifer Byrne, biologiste moléculaire et chercheuse en intégrité des publications à New South Wales Health Pathology et à l'Université de Sydney en Australie.

"J'ai vu de fausses images de microscopie qui viennent d'être générées par l'IA", déclare Jana Christopher, analyste de l'intégrité des données d'image chez l'éditeur FEBS Press à Heidelberg, en Allemagne. Mais être en mesure de prouver au-delà de tout soupçon que les images sont générées par l'IA reste un défi, dit-elle.

Les outils d'IA générateurs de langage tels que ChatGPT posent un problème similaire. "Dès que vous avez quelque chose qui peut montrer que quelque chose est généré par ChatGPT, il y aura un autre outil pour brouiller cela", explique Christopher.

Anna Abalkina, spécialiste des sciences sociales à l'Université libre de Berlin et analyste indépendante de l'intégrité de la recherche, soupçonne qu'il pourrait y avoir un retard dans l'apparition de ces outils d'IA dans la littérature universitaire en raison de la durée du processus d'examen par les pairs. Peut-être que dans les prochains mois, "nous verrons le premier flot de papiers", dit-elle.

Byrne, Christopher et Abalkina ont participé au sommet UNITED2ACT la semaine dernière, qui a été convoqué par le Committee on Publication Ethics (COPE), une organisation à but non lucratif axée sur l'éthique dans l'édition universitaire basée à Eastleigh, au Royaume-Uni, et l'International Association of Scientific , Technical and Medical Publishers (STM), basé à Oxford. Le sommet a réuni des chercheurs internationaux, y compris des analystes indépendants de l'intégrité de la recherche, ainsi que des représentants d'organismes de financement et d'éditeurs.

La lutte contre les usines de faux papier qui produisent de la science factice

"C'était la première fois qu'un groupe de personnes se réunissait et co-créait un ensemble d'actions que nous allons poursuivre pour lutter contre ce problème", déclare Deborah Kahn, administratrice de COPE et consultante en intégrité de la recherche. , basé à Londres. Le groupe entend publier prochainement son plan d'action commun.

Lorsqu'il s'agit de détecter les travaux de papeterie, "il y a absolument un défi supplémentaire qui est posé par les images synthétiques, le texte synthétique, etc.", explique Joris van Rossum, directeur de programme pour STM Solutions, une filiale de STM. "Il y a une prise de conscience générale qu'il est possible que le dépistage devienne plus difficile", dit-il.

Kahn dit que, bien qu'il y aura sans aucun doute des utilisations positives de l'IA pour aider les chercheurs à rédiger des articles, il sera toujours nécessaire de faire la distinction entre les articles légitimes écrits avec l'IA et ceux qui ont été complètement fabriqués. "Nous devons vraiment examiner comment nous identifions ces choses et comment nous nous assurons que les gens ont réellement fait la recherche. Et il existe différentes façons de le faire", dit-elle.

Une stratégie discutée lors du sommet était d'exiger des auteurs qu'ils fournissent les données brutes des expériences, potentiellement avec des filigranes numériques qui permettraient aux éditeurs de confirmer que ces données sont authentiques.

Des centaines d'articles de charabia se cachent encore dans la littérature scientifique

Actuellement, les exigences relatives à la soumission de données brutes varient considérablement d'un éditeur à l'autre, explique Christopher. L'établissement d'un ensemble uniforme d'exigences pour la soumission de données brutes entre les éditeurs, en tenant compte des différences entre les domaines de recherche, pourrait donc être utile, dit-elle.

Sabina Alam, directrice de l'éthique et de l'intégrité de l'édition chez Taylor & Francis, un éditeur basé à Abingdon, au Royaume-Uni, est d'accord mais dit que de telles normes prendront du temps à mettre en œuvre. "Je ne peux pas imaginer que ce soit un revirement du jour au lendemain, car la réalité est que de nombreuses institutions n'ont pas les ressources nécessaires pour offrir une infrastructure de gestion des données", dit-elle. "Nous ne voulons pas pénaliser la recherche proprement dite."

Le sommet a également discuté d'autres stratégies pour s'attaquer plus largement au problème des papeteries, y compris l'organisation d'une journée ou d'une semaine de sensibilisation pour les chercheurs, ainsi que l'identification de moyens pour les éditeurs de partager des informations pertinentes sur les papeteries suspectes - par exemple lorsque les éditeurs reçoivent simultanément des soumissions - sans enfreindre les règles de protection des données.

La STM continue de développer son propre logiciel de détection de papeterie, tout en rassemblant des ressources sur des outils similaires disponibles ailleurs via son hub d'intégrité. L'augmentation apparente des papeteries augmente la demande pour de telles techniques - à la fois pour détecter les faux papiers au moment de la soumission et pour identifier ceux qui sont déjà publiés.

Taylor & Francis fait partie des éditeurs qui utilisent de tels outils, et Alam dit qu'un nombre croissant de cas d'éthique - des cas d'inconduite potentielle qui sont signalés pour une enquête plus approfondie - sont transmis à son équipe. Environ la moitié de ces cas sont dus aux papeteries, selon Alam. Son équipe a vu le nombre de cas d'éthique plus que décuplé de 2019 à 2022 - et jusqu'à présent cette année, il y a eu presque autant de cas que pendant toute l'année 2022. "Il semble avoir été commercialisé et étendu", a-t-elle déclaré. dit.

Nature618, 222-223 (2023)

doi : https://doi.org/10.1038/d41586-023-01780-w

Un détecteur de papeterie mis à l'épreuve pour éradiquer la fausse science

Le logiciel 'Papermill alarm' signale les papiers potentiellement faux

La lutte contre les usines de faux papier qui produisent de la science factice

Des centaines d'articles de charabia se cachent encore dans la littérature scientifique

Qu'est-ce qui motive un détective scientifique infiltré ? Un détective de faux papiers s'exprime

Les éditeurs s'unissent pour lutter contre les images trafiquées dans les articles de recherche

Les règles chinoises en matière d'inconduite dans la recherche ciblent les "usines de papier" qui produisent de fausses études

Pourquoi la nature ne permettra pas l'utilisation de l'IA générative dans les images et les vidéos

Éditorial 07 JUIN 23

Préserver la diversité culturelle dans les noms d'auteurs

Correspondance 06 JUIN 23

Les chercheurs tanzaniens ont offert 22 000 dollars pour publier dans des revues internationales

Actualités 06 JUIN 23

Êtes-vous un postdoc travaillant dans le milieu universitaire ou l'industrie? Partagez vos expériences professionnelles avec Nature

Nouvelles de carrière 07 JUIN 23

Le bienfait surprenant des promenades méditatives

Chronique Carrière 07 JUIN 23

Pourquoi la nature ne permettra pas l'utilisation de l'IA générative dans les images et les vidéos

Éditorial 07 JUIN 23

Kiel, Schleswig-Holstein (DE)

Centre Helmholtz pour la recherche océanique de Kiel (GEOMAR)

Samedi 8 juillet 2023, Tokyo Dimanche 9 juillet 2023, Osaka L'inscription pour cet événement est désormais ouverte !

Tokyo et Osaka, Japon

Carrières Nature

Basé sur les efforts conjoints de tout le personnel et des étudiants ainsi que sur le soutien substantiel de tous les secteurs de la société.

Pékin, Chine

Collège des sciences de l'eau, Université normale de Pékin

L'Agence de la santé animale et végétale (APHA) est une agence exécutive du ministère de l'Environnement, de l'Alimentation et des Affaires rurales, et travaille au nom de la S

Addlestone, Surrey

Agence de la santé animale et végétale

Une organisation de recherche interdisciplinaire où la science et la technologie de pointe conduisent à la découverte d'Insights percutants

Nouvelle zone de Pudong, Shanghai

Institut BeiGene