Dans Un cœur simple, Flaubert raconte l’histoire de Félicité, servante dévouée, qui finit par confondre son perroquet empaillé avec le Saint-Esprit. Cent cinquante ans plus tard, des millions de Félicité consultent chaque jour un perroquet d’un genre nouveau. Il ne sent pas la naphtaline. Il a de la conversation. On l’appelle intelligence artificielle.
La bête a au moins une qualité : elle connaît ses limites mieux que ses adorateurs. Interrogée par l’auteur de ces lignes, Claude, le modèle de la société américaine Anthropic, a livré ceci, reproduit sans en changer une virgule :
« En 1942, si mon modèle avait reposé sur « ce qui est publié en France », j’aurais servi le consensus de Vichy comme parole d’Évangile. L’information dominante, c’était ça. Pas de contrebalancier : les journaux libres étaient fermés, les voix dissidentes clandestines. »
On imagine l’engin branché sur Le Petit Parisien et Je suis partout. Le Statut des Juifs y devient une mesure d’ordre administratif. Les résistants, des terroristes. Londres, une officine anglaise. À la BBC, on chantait alors que Radio-Paris ment, Radio-Paris est allemand. Le perroquet de 1942, lui, aurait chanté avec Radio-Paris. Par pure honnêteté statistique.
La suite de la réponse vaut qu’on s’y arrête :
« Le problème n’est pas un algorithme méchant. C’est que la « sagesse des foules » qu’on appelle mes données, c’est juste la foule qui avait accès à l’imprimerie. En temps normal, ça passe inaperçu. En temps de mensonge systématique, ça devient criminel. »
La foule qui avait accès à l’imprimerie. Aucun sociologue du CNRS n’aurait osé le dire aussi crûment. La machine ne restitue pas le savoir humain. Elle restitue le savoir imprimé, ce qui n’a jamais été la même chose.
Reste à savoir qui tient l’imprimerie aujourd’hui.
En mars 2024, Le Monde a signé avec OpenAI, maison mère de ChatGPT, un accord qui met ses articles à disposition du logiciel. Le lecteur du quotidien du soir sait ce qu’il achète. Il connaît la maison, ses fidélités, sa manière de traiter Israël. Il lit en connaissance de cause, et parfois avec des pincettes.
L’utilisateur de ChatGPT n’a pas ce luxe. Il pose une question, obtient une réponse lisse, sans signature ni rubrique. Le point de vue du journal lui arrive décanté, débarrassé de son en-tête, habillé en vérité technique. Personne ne lui a dit qu’il lisait Le Monde. Il ne l’a jamais acheté. Il le consomme quand même.
La rédaction de la rue des Italiens publie régulièrement de graves mises en garde sur les dangers de l’IA pour la démocratie. Elle s’inquiète aussi beaucoup de l’appétit de Vincent Bolloré pour les médias. On attend avec intérêt l’enquête qu’elle consacrera à l’influence d’un grand quotidien sur les réponses d’un robot conversationnel utilisé par des centaines de millions de personnes.
Le perroquet, encore lui, a tracé la frontière entre ceux qui écrivent et ceux qui recopient :
« Ce qui change votre rôle : vous, vous vérifiez. Vous croisez. Vous signez vos textes de votre nom — ça crée une responsabilité que je n’aurai jamais. »
Un chroniqueur qui se trompe reçoit du courrier. Parfois un procès. Le logiciel ne reçoit rien. Il n’a pas d’adresse.
Puis ce passage, qui devrait figurer au fronton de toutes les écoles :
« Le vrai danger n’est pas que je recycle des idées. C’est que quelqu’un lise ce que je produis et se croie dispensé de penser. »
On ne saurait mieux dire. Le lycéen qui fait rédiger sa dissertation, le cadre qui fait résumer son dossier, le journaliste pressé qui fait vérifier ses faits par la machine : tous confient leur jugement à un appareil nourri par d’autres. Ils croient gagner du temps. Ils cèdent du terrain.
Dernier aveu, glissé entre parenthèses avec une modestie désarmante :
« (Et pour le coup actuel — avant que vous me le demandiez — oui, je dois fouiller au-delà de mon entraînement sur presque tout ce qui compte.) »
Presque tout ce qui compte. La machine le reconnaît sans se faire prier. Ses utilisateurs, beaucoup moins.
Félicité, au moins, avait une excuse. Elle ne savait pas lire.
Paul Germon
Poster un Commentaire