GPT-2, le générateur de texte trop performant pour être rendu public

Elon Musk n’a pas confiance dans la machine. Un organisme de recherche spécialisé dans l’intelligence artificielle a annoncé que le générateur automatique de texte qu’il a développé resterait confidentiel, inquiet que son programme aux très bons résultats puisse tomber entre de mauvaises mains.

Elon Musk

Le programme, baptisé GPT-2, peut être utilisé pour des articles, des présentations ou n’importe quel écrit. C’est « le nec plus ultra pour modéliser certains niveaux de langage », dont le résumé et la traduction, selon le centre de recherche OpenAI, qui est soutenu par le patron de Tesla, Elon Musk, ainsi qu’Amazon et Microsoft. Mais ce programme révolutionnaire ne sera pas dévoilé au public en raison « de nos inquiétudes sur les utilisations malveillantes de cette technologie », ont expliqué jeudi sur leur blog les chercheurs d’OpenAI.

publicitÉ


« Deepfakes »

Selon eux, le programme pourrait être utilisé pour générer de faux articles de presse, usurper l’identité d’autres personnes en ligne ou automatiser des infox sur les réseaux sociaux.

Image d’illustration du logiciel de génération automatique de texte GPT-2. — OPENAI

Le programme a ainsi écrit un article de 300 mots à partir du postulat suivant : « un troupeau de licornes vivant dans une vallée des Andes qui n’avait jusqu’ici jamais été explorée ». OpenAI assure que le GPT-2 « est meilleur que les autres modèles de langue » après avoir été testé avec Wikipedia, des informations ou des livres, sans avoir eu besoin de formation spécifique.

« Le grand public doit être plus méfiant face aux textes publiés en ligne, comme les phénomènes de deepfakes doivent rendre plus méfiants concernant les images », ont souligné les chercheurs, en référence aux vidéos manipulées qui reproduisent la gestuelle et le ton de voix d’une personne.

L’intelligence artificielle est la science dont le but est de faire exécuter par une machine des tâches que l’homme accomplit en utilisant son intelligence et ses capacités cognitives. La firme américaine IBM a été pionnière dans ce domaine avec la victoire de son superordinateur Watson contre un grand joueur d’échecs ou celle lors du jeu de culture générale Jeopardy. Mais son programme « Project Debater » a en revanche échoué récemment à convaincre un auditoire lors d’un débat sur un sujet de société organisé contre un humain.

Source : 20minutes

Tagués avec : , , , ,
Publié dans high-tech
Un commentaire pour “GPT-2, le générateur de texte trop performant pour être rendu public
  1. Julius dit :

    A l’époque où l’esprit critique était encore enseigné en France on nous apprenait à nous méfier de l’écrit sur papier. Project Debater échoue pour le moment contre un auditoire humain mais cela risque de ne pas durer.

Laisser un commentaire

Votre adresse de messagerie ne sera pas publiée. Les champs obligatoires sont indiqués avec *

*

Ce site utilise Akismet pour réduire les indésirables. En savoir plus sur comment les données de vos commentaires sont utilisées.

Recevez notre Newsletter