L’intelligence artificielle ne doit pas décider de notre humanité
L’intelligence artificielle progresse plus vite que notre capacité à la comprendre, à l’encadrer et à former ceux qui l’utilisent.
Elle écrit, traduit, code, résume, classe, prédit, recommande et produit des images. Elle entre dans les entreprises, les administrations, les écoles, la justice, les médias et la création. Elle peut améliorer la productivité, aider la recherche, simplifier certaines tâches et élargir l’accès au savoir.
Mais elle peut aussi créer une société plus opaque, plus inégalitaire et plus dépendante.
Le danger est que l’humain renonce à exercer ce qui le définit : juger, créer, vérifier, choisir et répondre de ses actes.
L’Europe a déjà posé un cadre avec l’AI Act : interdiction de certains usages considérés comme inacceptables, obligations renforcées pour les systèmes à haut risque et exigences de transparence. Depuis février 2025, les interdictions sur les pratiques présentant un risque inacceptable et les obligations de culture de l’IA sont entrées en application ; depuis août 2025, des obligations s’appliquent aux modèles d’IA à usage général.[28][29][30]
Le droit avance. Mais il ne suffira pas si les citoyens, les enseignants, les salariés et les administrations restent désarmés.
L’enjeu : ne pas devenir les assistants de nos assistants
Une IA générative peut fournir une réponse cohérente et fausse ; elle peut reproduire des biais, donner une apparence de sérieux à une information inventée, uniformiser l’écriture, automatiser la décision, rendre la surveillance plus facile et fragiliser les créateurs.
Il faut donc refuser deux naïvetés :
– La naïveté technophile : l’outil serait neutre et toujours bénéfique.
– La naïveté défensive : il suffirait de l’interdire pour préserver nos habitudes.
La réponse est la maîtrise.
La France possède des ressources réelles : une stratégie nationale, des capacités de recherche, des infrastructures de calcul, des chercheurs, des entreprises, une CNIL reconnue, une ANSSI forte, des administrations capables d’innover et un cadre européen exigeant.
Sa stratégie publique prévoit déjà la formation des agents, le développement d’outils d’IA dans les administrations et la prévention des discriminations algorithmiques.
Ce qui manque, c’est la généralisation de la responsabilité.
Cinq décisions sans attendre
Première décision : faire de la culture de l’IA un savoir fondamental.
Dès le collège, apprendre comment fonctionne un système génératif, ce qu’il sait faire, ce qu’il invente parfois, comment vérifier une réponse et comment protéger ses données.
À l’école, l’IA doit servir à apprendre davantage, pas à penser à la place des élèves.
Deuxième décision : imposer la transparence.
Toute administration, entreprise ou plateforme utilisant une IA pour recruter, orienter, évaluer, attribuer un droit ou produire un contenu public doit dire clairement quand et comment elle l’utilise.
Les personnes concernées doivent pouvoir demander une explication humaine.
Troisième décision : protéger la création humaine.
Dans l’édition, les médias, la musique, la publicité et l’enseignement supérieur, il faut déclarer l’usage substantiel d’une IA générative et conserver la trace des interventions humaines.
Ce n’est pas une hostilité à l’innovation, mais une condition de confiance et de droit d’auteur.
Quatrième décision : créer un droit effectif au recours humain.
Aucune décision publique défavorable prise avec l’appui d’une IA ne doit devenir irréversible sans contrôle humain, voie de contestation et délai de réponse.
Les obligations européennes vont déjà dans cette direction pour les systèmes à haut risque.
Cinquième décision : donner des moyens de contrôle aux régulateurs.
La CNIL, l’ANSSI, l’ARCOM, la DGCCRF et le PEReN doivent disposer d’équipes spécialisées, de capacités d’audit, de moyens de test et de sanctions réellement dissuasives.
La France a annoncé une gouvernance répartie entre plusieurs autorités ; son défi est désormais d’assurer la cohérence et l’effectivité de ce dispositif.
L’IA ne doit pas être un prétexte à l’impuissance publique, ni un alibi pour la surveillance, ni une machine à déclasser ceux qui ne maîtrisent pas les codes numériques.
Elle peut devenir un levier de progrès si nous faisons le choix d’une règle simple : la technologie doit augmenter la capacité humaine, jamais effacer la responsabilité humaine.
Jean-Luc Scemama