Pour aller plus loin

C’était le phénomène de la rentrée littéraire. Salué comme un choc de lecture, « C’était ça ou mourir », premier roman de Thélyson Orélien paru chez Grasset en août dernier, figurait dans la première sélection du prix Goncourt. Il en a été retiré le 25 septembre, alors qu’un détecteur, Pangram, estimait que 94 % du texte [proportion notamment relevée par Radio-Canada, NDLR] avait été généré par une IA, et que des accusations de plagiat, pour des textes antérieurs, avaient surgi dans la foulée.

Mon propos ici n’est pas de défendre ou de condamner l’écriture d’un roman plus ou moins assistée par IA. Ce qui me frappe en réalité, c’est l’usage de l’IA pour défendre une frontière entre humain et machine, au moment où les IA génératives rendent cette frontière de plus en plus discutable et redéfinissent jusqu’à ce que nous entendons par « auteur ». Chercher à détecter une écriture générée artificiellement, c’est supposer qu’il existe en face une écriture « purement » humaine. Comme si nos façons d’écrire et de parler n’étaient pas elles aussi remodelées par l’IA. Aussi sophistiqué soit-il, le détecteur d’IA est un outil qui entretient une vision du monde déjà dépassée ! Il est le symptôme d’un décalage, bien compréhensible, entre ce que nous vivons déjà et ce que nous parvenons à en penser, face à des transformations bien trop rapides à l’échelle de chacun de nous comme à celle de nos sociétés.

Nos cerveaux sont plastiques. Ils construisent en permanence un modèle interne du monde à partir de ce qu’ils perçoivent. Or nous vivons désormais entourés de textes générés artificiellement. Comment notre façon d’écrire, et même de parler, n’en serait-elle pas façonnée ?

C’est en réalité déjà documenté et mesurable. Des chercheurs du Max Planck Institute ont analysé plus d’un million de conférences et d’épisodes de podcasts et observé, après la sortie de ChatGPT, une hausse nette des mots que ce modèle utilise fréquemment, y compris dans la parole la plus spontanée. L’effet ne se résume donc pas au copier-coller de l’IA. Cette dernière s’insère dans notre environnement linguistique et transforme peu à peu les formes que nous finissons par produire nous-mêmes. Aucune sphère ne semble épargnée. Selon une étude récente réalisée par des chercheurs de l’université de technologie de Chalmers (Suède) et de l’université Napier d’Edimbourg (Royaume-Uni), qui s’appuie sur des détecteurs, environ 15 % des déclarations parlementaires britanniques analysées en 2026 contenaient au moins un paragraphe classé comme généré par IA.

Bien entendu, nous n’écrivons (pas encore) tous comme des IA. Mais la différence que mesure Pangram s’efface des deux côtés. Les modèles imitent toujours mieux les humains et les humains se mettent à écrire et à parler comme les modèles. Pangram est calibré sur un monde qui n’existe déjà plus.

Et pourtant ! Nous persistons dans une vision erronée qui sépare notre psychisme, logé bien à l’abri dans un cerveau incarné, de notre environnement, et oppose le domaine du « naturel » avec son caractère fantasmé de pureté dont l’écriture littéraire procéderait, à l’artificiel ; produit exclusif du non-humain.

S’ajoute une anthropologie compétitive, qui oppose humains et machines et fait de la supériorité humaine une valeur à défendre. Elle condamne notre compréhension de ce qui se produit avec nos technologies à une lecture défensive, qui durcit artificiellement la frontière humain-technologie et multiplie les discours rassurants mais stériles, du type « les IA ne seront jamais capables d’écrire aussi bien que les humains ». C’est oublier que l’humain est lui-même déjà façonné par les technologies avec lesquelles il vit. Cette « essence » humaine dont il s’agirait ici de préserver la pureté est une illusion qu’il nous faut urgemment dissiper. Faute de quoi, nous resterons prisonniers de débats figés, bien en deçà des enjeux actuels. Nous avons construit une frontière entre l’humain et la machine, puis confié à une machine le soin de la faire respecter.

« L’affaire Orélien » permet aussi de mettre en lumière comment les IA transforment nos valeurs et notre paysage moral. Un phénomène appelé « changements techno-moraux ».

Notre définition même de la confiance est ainsi en train d’être reconfigurée, et avec elle la nature du lien humain. Pour les philosophes Henrik Skaug Sætra et John Danaher, auteurs de l’article « Technology and moral change : the transformation of truth and trust » dans la revue scientifique « Ethics and Information Technology », la confiance est une disposition relationnelle qui évolue avec nos environnements technologiques. A force d’interagir avec des machines, nous risquons d’apprendre à traiter les autres comme des systèmes techniques. Plutôt que de nous demander si nous pouvons faire confiance à autrui, nous nous demanderons s’il est fiable. Si la confiance implique d’accepter une part d’imprévisibilité chez autrui, et par là même le risque d’être trompé, la fiabilité, habituellement réservée aux machines, appelle la mesure. La généralisation des IA dans nos vies favorise donc cette re-définition.

Or lire un roman repose justement sur une relation de confiance. Sur un pacte de lecture par lequel nous acceptons de nous laisser toucher par un texte que nous croyons le fruit d’une incarnation. Avec Pangram et autres, l’auctorialité devient une performance à auditer : il s’agit de juger la fiabilité de la personne qui signe le texte. Le pacte cède alors la place au contrôle algorithmique dont Pangram devient la police.

Terminons par la normativité IAffective, à savoir la reconfiguration à bas bruit de ce que nous jugeons désirable et acceptable par la médiation des IA. Ici, cette reconfiguration opère sur au moins deux plans. D’un côté, les modèles de langage façonnent peu à peu notre sens de ce qui est bien écrit. De l’autre, c’est vers une IA que l’on se tourne pour établir si un texte peut être reconnu comme l’œuvre de celui qui le signe.

Reconnaître l’hybridation de nos façons d’écrire et faire l’apologie de l’écriture assistée par IA sont deux choses distinctes. Il s’agit de prendre acte d’une influence qui s’exerce sur nous toutes et tous, que nous utilisions ces IA pour écrire ou non, et qu’il nous faut comprendre. Au-delà de l’affaire Orélien, le moment que nous traversons appelle donc un retournement du regard, de l’IA et de ses détecteurs de pureté, vers les individus et sociétés qu’elle façonne. Une attitude inspirée du souci de soi des Anciens, qui implique selon Foucault « une certaine manière de veiller à ce qu’on pense et à ce qui se passe dans la pensée ».

Aussi, ne laissons pas des technologies comme Pangram détourner notre attention. Peut-être ferons-nous alors bon usage de cette crise, en posant notamment les questions politiques de l’extractivisme des modèles de langage, entraînés sur les œuvres d’auteurs qui n’y ont jamais consenti, et de la justice qui leur est due. Plutôt que d’affiner nos détecteurs, il nous faut définir ensemble de nouvelles règles, et sans doute de nouveaux mots et concepts, afin de ne pas laisser les IA déterminer à notre place ce que nous deviendrons.

BIO EXPRESS
Chercheuse en neurosciences cognitives, spécialiste de l’IA au CNRS, Nadia Guerouaou est notamment l’autrice de « Notre cerveau sous influence : comment les IA génératives modèlent nos émotions et façonnent nos sociétés » (Eyrolles, 2026).

Cet article est une tribune, rédigée par un auteur extérieur au journal et dont le point de vue n’engage pas la rédaction.

Par  Nadia Guerouaou