Nous parlons beaucoup de ce que l’intelligence artificielle va nous apporter.
Elle écrit, traduit, calcule, diagnostique, conseille, programme. Demain, elle fera probablement mieux que nous dans un nombre croissant de tâches.
La question n’est donc plus de savoir si elle va transformer nos vies, puisqu’elle les transforme déjà.
La vraie question est ailleurs : jusqu’où sommes-nous prêts à lui déléguer notre capacité de décider, de juger et, finalement, de rester libres ?
Les dernières alertes venues du cœur même de l’industrie de l’IA méritent à cet égard d’être prises au sérieux. Jacob Coxon, ancien chercheur d’OpenAI puis d’Anthropic, a récemment dénoncé une course à la super intelligence dans laquelle chaque laboratoire accélère parce qu’il craint que les autres ne prennent de l’avance.
C’est un mécanisme bien connu : chacun aurait intérêt collectivement à ralentir, mais personne ne veut être le premier à le faire.
Nous entrons ainsi dans une forme de dilemme du prisonnier technologique.
Ce qui me semble préoccupant, c’est le fait que les chercheurs eux-mêmes reconnaissent que le problème de l’alignement – autrement dit la capacité à garantir qu’une IA poursuive durablement des objectifs compatibles avec les nôtres – n’est pas résolu, et pas seulement la puissance croissante des modèles.
D’où les appels à mieux coordonner les laboratoires, à renforcer l’interprétabilité des modèles, à les surveiller en temps réel et à bâtir une véritable gouvernance.
Mais il existe un autre danger, plus discret et peut-être déjà plus présent, que Nicolas Hazard le souligne dans Je ne suis pas un algorithme ! : nous vivons dans l’impression de choisir librement alors que nos goûts, notre attention, nos achats et parfois même nos opinions sont de plus en plus influencés par des systèmes conçus pour anticiper nos comportements.
Le risque n’est donc pas seulement qu’une intelligence artificielle devienne trop puissante, mais que nous devenions trop passifs, que nous consultions systématiquement au lieu de réfléchir, que nous suivions une recommandation au lieu de décider, que nous préférions la réponse immédiate à l’effort du doute et que nous confondions assistance et abandon de responsabilité.
Voilà pourquoi le débat sur l’IA est moins technologique qu’il n’y paraît.
Il me semble politique, au sens noble du terme, parce qu’il pose la question de savoir qui fixe les règles.
Il est économique, parce qu’il concerne la concentration d’une puissance considérable entre les mains de quelques acteurs.
Il est aussi éducatif, parce que les générations qui arrivent devront apprendre non seulement à utiliser l’IA, mais aussi à lui résister lorsqu’elle menace leur autonomie.
Enfin, il est surtout profondément humain, car une décision humaine ne vaut pas seulement par son efficacité ; elle engage une conscience, une responsabilité, parfois un doute, quelquefois même une erreur ; tout ce que la machine cherchera précisément à réduire.
La réponse n’est certainement pas de refuser le progrès. La technologie n’est pas l’ennemie, mais elle reste un outil dont il faut reprendre la maîtrise et auquel il faut redonner sa juste place.
Il faut donc éviter les deux caricatures :
- d’un côté, le catastrophisme qui voudrait arrêter l’innovation.
- de l’autre, la naïveté qui consisterait à croire que le progrès technologique saura spontanément se réguler lui-même.
Entre les deux, existe une voie plus exigeante : l’innovation sous responsabilité.
Elle suppose une gouvernance claire, des contrôles, de la transparence, de l’éducation et surtout une limite simple : ce qui peut être confié à la machine ne doit pas automatiquement l’être.
Nous avons peut-être là un nouvel enjeu de transmission.
Pendant des siècles, nous avons transmis des savoirs, une culture, une mémoire, des valeurs.
Demain, il faudra aussi transmettre la capacité de rester humain dans un monde où les machines sauront presque tout faire.
Il nous faudra apprendre à douter, à vérifier, à argumenter, à supporter de ne pas savoir immédiatement, à rencontrer l’autre sans filtre, à décider sans toujours demander une recommandation et, surtout, à comprendre cette idée simple : l’intelligence artificielle peut nous aider à mieux vivre, mais elle ne doit jamais nous dispenser de vivre, de choisir et d’assumer.
C’est peut-être cela, finalement, le véritable défi : ne pas seulement fabriquer des machines toujours plus intelligentes, mais veiller à ce que l’homme ne renonce jamais à exercer la sienne.
Jean-Luc Scemama
Poster un Commentaire