Pourquoi la nature ne permettra pas l'utilisation de l'IA générative dans les images et les vidéos

Sep 05, 2023

Vous avez un accès complet à cet article via votre institution.

Nature ne publiera pas d'images créées entièrement ou partiellement à l'aide de l'IA générative.Credit : Artem Medvediev/Alamy

La nature devrait-elle permettre l'utilisation de l'intelligence artificielle générative (IA) dans la création d'images et de vidéos ? Cette revue discute, débat et consulte sur cette question depuis plusieurs mois suite à l'explosion des contenus créés à l'aide d'outils d'IA générative tels que ChatGPT et Midjourney, et à l'augmentation rapide des capacités de ces plateformes.

En dehors des articles spécifiquement consacrés à l'IA, Nature ne publiera aucun contenu dans lequel des photographies, des vidéos ou des illustrations ont été créées en tout ou en partie à l'aide de l'IA générative, du moins dans un avenir prévisible.

Les artistes, cinéastes, illustrateurs et photographes avec lesquels nous commandons et travaillons seront invités à confirmer qu'aucun des travaux qu'ils soumettent n'a été généré ou augmenté à l'aide de l'IA générative (voir go.nature.com/3c5vrtm).

Des outils tels que ChatGPT menacent la science transparente ; voici nos règles de base pour leur utilisation

Pourquoi interdisons-nous l'utilisation de l'IA générative dans le contenu visuel ? En fin de compte, c'est une question d'intégrité. Le processus d'édition - en ce qui concerne à la fois la science et l'art - est étayé par un engagement partagé envers l'intégrité. Cela inclut la transparence. En tant que chercheurs, éditeurs et éditeurs, nous avons tous besoin de connaître les sources des données et des images, afin que celles-ci puissent être vérifiées comme exactes et vraies. Les outils d'IA générative existants ne permettent pas d'accéder à leurs sources pour qu'une telle vérification puisse avoir lieu.

Ensuite, il y a l'attribution : lorsqu'un travail existant est utilisé ou cité, il doit être attribué. Il s'agit d'un principe fondamental de la science et de l'art, et les outils d'IA générative ne sont pas conformes à cette attente.

Le consentement et la permission sont également des facteurs. Ceux-ci doivent être obtenus si, par exemple, des personnes sont identifiées ou si la propriété intellectuelle d'artistes et d'illustrateurs est impliquée. Encore une fois, les applications courantes de l'IA générative échouent à ces tests.

Les systèmes d'IA générative sont entraînés sur des images pour lesquelles aucun effort n'a été fait pour identifier la source. Les œuvres protégées par le droit d'auteur sont régulièrement utilisées pour former l'IA générative sans les autorisations appropriées. Dans certains cas, la vie privée est également violée - par exemple, lorsque les systèmes d'IA générative créent ce qui ressemble à des photographies ou des vidéos de personnes sans leur consentement. Outre les problèmes de confidentialité, la facilité avec laquelle ces « deepfakes » peuvent être créés accélère la propagation de fausses informations.

Pour l'instant, Nature autorise l'inclusion de texte qui a été produit avec l'aide de l'IA générative, à condition que cela soit fait avec les mises en garde appropriées (voir go.nature.com/3cbrjbb). L'utilisation de ces grands outils de modèle de langage (LLM) doit être documentée dans la section des méthodes ou des remerciements d'un article, et nous attendons des auteurs qu'ils fournissent des sources pour toutes les données, y compris celles générées avec l'aide de l'IA. De plus, aucun outil LLM ne sera accepté comme auteur d'un article de recherche.

Le monde est au bord d'une révolution de l'IA. Cette révolution est très prometteuse, mais l'IA - et en particulier l'IA générative - bouleverse également rapidement les conventions établies de longue date dans les domaines de la science, de l'art, de l'édition, etc. Ces conventions ont, dans certains cas, mis des siècles à se développer, mais le résultat est un système qui protège l'intégrité scientifique et protège les créateurs de contenu contre l'exploitation. Si nous ne faisons pas attention dans notre gestion de l'IA, tous ces gains risquent de s'effondrer.

De nombreux systèmes réglementaires et juridiques nationaux sont encore en train de formuler leurs réponses à l'essor de l'IA générative. Jusqu'à ce qu'ils rattrapent leur retard, en tant qu'éditeur d'œuvres de recherche et de création, la position de Nature restera un simple "non" à l'inclusion de contenu visuel créé à l'aide de l'IA générative.

Nature618, 214 (2023)

doi : https://doi.org/10.1038/d41586-023-01546-4

Des outils tels que ChatGPT menacent la science transparente ; voici nos règles de base pour leur utilisation

Comment les lecteurs de Nature utilisent ChatGPT

"Course aux armements avec l'automatisation": les professeurs s'inquiètent des cours générés par l'IA

Préserver la diversité culturelle dans les noms d'auteurs

Correspondance 06 JUIN 23

Les chercheurs tanzaniens ont offert 22 000 dollars pour publier dans des revues internationales

Actualités 06 JUIN 23

Le modèle de publication "sans rémunération" du Conseil de l'UE suscite des réactions mitigées

Actualités 02 JUIN 23

L'IA apprend à écrire seule un logiciel de tri

Nouvelles et opinions 07 JUIN 23

ChatGPT : consignes de signalement standard pour une utilisation responsable

Correspondance 06 JUIN 23

Six conseils pour mieux coder avec ChatGPT

Caractéristique technologique 05 JUIN 23

L'anonymisation de l'examen par les pairs rend le processus plus juste

Actualités carrières 26 MAI 23

La Chine dépasse les États-Unis en termes de contribution à la recherche dans Nature Index

Indice Nature 19 MAI 23

Pourquoi il vaut la peine de rendre les méthodes de calcul faciles à utiliser

Chronique Carrière 27 AVR 23

Kiel, Schleswig-Holstein (DE)

Centre Helmholtz pour la recherche océanique de Kiel (GEOMAR)

Samedi 8 juillet 2023, Tokyo Dimanche 9 juillet 2023, Osaka L'inscription pour cet événement est désormais ouverte !

Tokyo et Osaka, Japon

Carrières Nature

Basé sur les efforts conjoints de tout le personnel et des étudiants ainsi que sur le soutien substantiel de tous les secteurs de la société.

Pékin, Chine

Collège des sciences de l'eau, Université normale de Pékin

L'Agence de la santé animale et végétale (APHA) est une agence exécutive du ministère de l'Environnement, de l'Alimentation et des Affaires rurales, et travaille au nom de la S

Addlestone, Surrey

Agence de la santé animale et végétale

Une organisation de recherche interdisciplinaire où la science et la technologie de pointe conduisent à la découverte d'Insights percutants

Nouvelle zone de Pudong, Shanghai

Institut BeiGene