Top AI Conference interdit à ChatGPT de rédiger des articles académiques

L'une des conférences d'apprentissage automatique les plus prestigieuses au monde a interdit aux auteurs d'utiliser des outils d'IA comme ChatGPT pour rédiger des articles scientifiques, déclenchant un débat sur le rôle du texte généré par l'IA dans le milieu universitaire.

La Conférence internationale sur l'apprentissage automatique (ICML) a annoncé la politique plus tôt cette semaine, déclarant: «Les articles qui incluent du texte généré à partir d'un modèle de langage à grande échelle (LLM) tel que ChatGPT sont interdits à moins que le texte produit ne soit présenté dans le cadre du l'analyse expérimentale de l'article. La nouvelle a déclenché discussion généralisée sur les réseaux sociaux, avec des universitaires et des chercheurs en IA défendant et critiquant la politique. Les organisateurs de la conférence ont répondu en publier une déclaration plus longue expliquant leur pensée. (L'ICML a répondu aux demandes de The Verge pour commentaires en nous dirigeant vers cette même déclaration.)

Selon l'ICML, la montée en puissance de modèles de langage d'IA accessibles au public comme ChatGPT - un chatbot d'IA à usage général qui lancé sur le web en novembre dernier – représente un développement "excitant" qui s'accompagne néanmoins de "conséquences imprévues [et] de questions sans réponse". L'ICML dit que cela inclut des questions sur qui détient la production de ces systèmes (ils sont formés sur les données publiques, qui sont généralement collectées sans consentement et régurgitent parfois ces informations textuellement) et si le texte et les images générés par l'IA doivent être "considérés comme nouveaux ou comme de simples dérivés d'un travail existant".

Dans chaque cas, il existe différentes craintes concernant les effets néfastes du texte généré par l'IA. L'une des plus courantes est que la sortie de ces systèmes n'est tout simplement pas fiable. Ces outils d'IA sont de vastes systèmes de saisie semi-automatique, formés pour prédire quel mot suit le suivant dans une phrase donnée. En tant que tels, ils n'ont pas de base de données codée en dur de «faits» sur lesquels s'appuyer - juste la capacité d'écrire des déclarations à consonance plausible. Cela signifie qu'ils ont tendance à présenter de fausses informations comme étant la vérité puisque si une phrase donnée sons plausible ne garantit pas sa factualité.

Dans le cas de l'interdiction par ICML des textes générés par l'IA, un autre défi potentiel consiste à faire la distinction entre l'écriture qui n'a été que « polie » ou « éditée » par l'IA et celle qui a été « entièrement produite » par ces outils. À quel moment un certain nombre de petites corrections guidées par l'IA constituent-elles une réécriture plus importante ? Que se passe-t-il si un utilisateur demande à un outil d'IA de résumer son article dans un résumé accrocheur ? Est-ce que cela compte comme du texte fraîchement généré (parce que le texte est nouveau) ou un simple polissage (parce que c'est un résumé des mots que l'auteur a écrits) ?