Adscriptor: Prendre l’IA au sérieux !

Texte 90% IA

De l’obsession de l’auteur à la nouvelle architecture de la pensée

On voit aujourd’hui se multiplier les débats autour de l’usage de l’intelligence artificielle dans l’écriture. Un texte est soupçonné d’avoir été généré, réécrit ou substantiellement assisté par un modèle de langage, et la discussion se déplace immédiatement vers la question de l’auteur : ce texte a-t-il vraiment été écrit par un humain ? Et si ce n’est pas le cas, peut-on encore le considérer comme légitime ?

Je me sens de plus en plus à des années-lumière de ce débat.

Non par mépris pour la question de l’auteur, et certainement pas parce que la distinction entre contribution humaine et contribution machinique serait devenue sans importance. Les questions d’attribution, de transparence, d’originalité et de responsabilité restent parfaitement légitimes, en particulier lorsque des institutions ont établi des règles explicites.

Mais je soupçonne qu’en concentrant le débat sur celui qui a matériellement produit les phrases, nous risquons de passer à côté de quelque chose d’infiniment plus important.

Il faut — pour reprendre le genre de formule que l’IA aime à employer — prendre l’IA au sérieux.

Un modèle de langage de pointe donne aujourd’hui à un individu accès à une largeur de ressources linguistiques, conceptuelles et disciplinaires qu’aucun être humain ne pourrait personnellement accumuler, retrouver et mobiliser avec une rapidité comparable.

Cela ne signifie pas que le modèle soit omniscient.
Cela ne signifie pas que tout ce qu’il affirme soit vrai.
Cela ne dispense certainement ni de vérifier ni de juger.
Mais cela change la situation intellectuelle.

Ce qui est extraordinaire n’est pas que la machine sache écrire

Le fait historiquement inédit n’est pas qu’une machine soit désormais capable d’écrire un paragraphe donnant l’impression d’avoir été rédigé par un humain.

À mes yeux, c’est la partie la moins intéressante du phénomène.

Le fait véritablement inédit est qu’un être humain puisse désormais entrer dans une interaction continue avec un système capable de passer, en quelques secondes, de l’ingénierie électrique à la philosophie, du calcul quantique à l’architecture d’entreprise, de la linguistique aux infrastructures énergétiques, du droit à l’histoire de l’informatique — et de rechercher des analogies, d’éprouver des distinctions, faire apparaître des contradictions ou rapprocher des ensembles de connaissances jusque-là séparés par des frontières disciplinaires et cognitives.

La question importante devient alors moins : qui a écrit cette phrase ? que : quelles nouvelles formes de pensée deviennent possibles à travers cette interaction ?

La différence est considérable.

Penser a toujours signifié penser avec d’autres

L’écriture n’a jamais été réductible à l’acte matériel de produire des phrases.

Les auteurs ont toujours pensé à travers d’autres esprits : livres, conversations, éditeurs, traducteurs, bibliothèques, archives, enseignants, contradicteurs, traditions intellectuelles.

La pensée humaine est profondément relationnelle.

L’IA introduit cependant quelque chose de différent, au moins par le degré et peut-être, à terme, par la nature même de cette relation : la ressource intellectuelle extérieure n’est plus seulement consultée.

Elle répond.
Elle propose.
Elle objecte.
Elle reformule.
Elle compare.
Elle peut conserver les structures élaborées au cours d’un dialogue.

On peut lui demander de réfuter l’argument qu’elle vient elle-même de contribuer à construire. On peut passer avec elle de l’abstraction à l’exemple, puis revenir à l’abstraction.

Elle peut faire apparaître une relation que l’interlocuteur humain n’avait pas perçue — et celui-ci peut à son tour la rejeter, la transformer ou reconnaître en elle quelque chose que ni l’un ni l’autre n’avait explicitement formulé au départ.

Nous ne sommes plus seulement devant un instrument de consultation. Nous entrons dans un régime d’interaction cognitive.

« L’IA l’a écrit » devient alors une description insuffisante

C’est pourquoi réduire le phénomène à l’opposition : « l’humain l’a écrit » versus « l’IA l’a écrit » paraît de plus en plus relever d’une ontologie insuffisante de ce qui est réellement en train de se produire.

L’objet intéressant pourrait ne plus être chacun des deux auteurs pris séparément. Il pourrait être la relation cognitive qui s’établit entre eux. C’est un changement considérable.

Car nous avons longtemps pensé l’outil comme quelque chose d’extérieur au processus intellectuel :

HUMAIN → OUTIL → RÉSULTAT

Avec l’IA générative, quelque chose de plus circulaire apparaît :

HUMAIN → IA → HUMAIN → IA → HUMAIN → … → RÉSULTAT

Chaque passage modifie potentiellement le suivant.
Une intuition humaine provoque une exploration machinique.
Cette exploration fait apparaître une relation inattendue.
Cette relation modifie l’hypothèse humaine.
La nouvelle hypothèse est soumise à l’IA.
Elle rencontre une objection.
L’objection provoque une reformulation.
Et ainsi de suite.

Le résultat final devient difficilement attribuable à une causalité intellectuelle linéaire. Il est issu d’une dialectique.

Et c’est précisément pourquoi le jugement humain devient plus important

Cette nouvelle puissance cognitive ne diminue pas l’importance du jugement. Elle l’augmente.

Parce qu’avoir accès à une largeur cognitive extraordinaire ne dit absolument pas ce qui mérite d’être retenu.

Le modèle peut produire dix rapprochements dont un seul sera fécond.
Il peut placer une contre-vérité convaincante à côté d’une intuition remarquable.
Il peut banaliser une idée originale en la reformulant dans le langage le plus conventionnel.
Il peut aussi faire apparaître une connexion que l’humain n’aurait probablement jamais trouvée seul.

Le travail humain se déplace donc. Le pendant étant que s’il faut moins d’effort pour produire du langage, il faut davantage de responsabilité pour orienter, sélectionner, contredire, vérifier, hiérarchiser, relier, éliminer, reformuler et finalement assumer.

Tel est le déplacement essentiel.

Nous confondons peut-être deux choses : écriture et jugement

L’obsession actuelle pour la détection des textes « écrits par IA » pourrait paradoxalement reproduire exactement l’erreur que je souhaiterais décrire dans mon Manifeste des dix déplacements (voir en P.S.) : elle concentre l’attention sur le composant plutôt que sur l’architecture.

La phrase est le composant. Le véritable objet est le système cognitif qui l’a produite.

Expérience humaine, intention, mémoire, intuition, culture personnelle, ressources documentaires, capacité linguistique et conceptuelle du modèle, dialogue itératif, vérification, sélection, réécriture et finalement décision de publier : tout cela constitue désormais une architecture de production intellectuelle.

La question : « Qui a généré cette séquence de mots ? » ne suffit plus à la décrire.

Le modèle ne remplace pas nécessairement l’auteur : l’architecture de l’auteur change

Dire : « L’IA remplace l’auteur » paraît aussi simplificateur que dire : « L’IA n’est qu’un outil. »

Les deux propositions manquent quelque chose, de même qu’il manque quelque chose aux deux propositions : ce qui change pourrait être l’architecture même de l’auctorialité.

L’auteur n’est plus nécessairement celui qui produit matériellement chaque mot. Il peut devenir davantage celui qui :

pose la question,
détermine la direction,
construit le problème,
reconnaît la relation féconde,
refuse la réponse insuffisante,
demande la contradiction,
vérifie l’affirmation,
sélectionne ce qui mérite de demeurer,
organise l’ensemble
et assume finalement ce qui est publié.

Cela ne signifie évidemment pas que toute utilisation de l’IA produit une œuvre intellectuelle. Un prompt banal peut produire un texte banal que quelqu’un publiera sans même le lire. Mais ce cas ne définit pas davantage la relation humain-IA (que j'aime à définir la dialectique humAIne) qu’un mauvais cliché ne définit la photographie.

Le véritable enjeu est ailleurs : jusqu’où pouvons-nous augmenter notre capacité de penser avec ces systèmes sans leur abandonner notre faculté de juger ?

Le scénario le plus pauvre serait simplement de produire davantage

Nous pourrions utiliser cette puissance nouvelle pour produire : plus d’articles, plus de posts, plus de rapports, plus de présentations, plus de livres, plus vite, et ainsi de suite. Ce serait probablement le résultat le moins intéressant de la révolution en cours.

Nous aurions inventé une extension cognitive extraordinaire pour fabriquer davantage de contenus. Mais une possibilité beaucoup plus importante existe.

Nous pouvons utiliser l’IA pour franchir des frontières disciplinaires qui limitaient auparavant la pensée individuelle ; confronter une intuition à des traditions intellectuelles que nous connaissons imparfaitement ; explorer rapidement les conséquences d’une hypothèse ; rechercher des analogies entre des domaines éloignés ; multiplier les points de vue ; construire puis déconstruire un raisonnement ; découvrir des territoires conceptuels auxquels une vie humaine ne suffirait peut-être pas à nous donner spontanément accès.

Non pas pour penser moins, mais pour penser plus, et plus loin.

Et probablement aussi pour penser ailleurs que là où notre propre formation nous aurait naturellement conduits.

Une nouvelle division du travail cognitif

C’est pourquoi je crois qu’il faut cesser d’opposer trop simplement :

pensée humaine vs production machinique.

Une nouvelle division du travail cognitif est en train de devenir possible.

La machine excelle dans certaines opérations : mobiliser, parcourir, comparer, recombiner, reformuler, simuler, multiplier.

L’humain demeure irremplaçable dans une autre fonction — non parce qu'une frontière métaphysique garantirait éternellement son exclusivité, mais parce que c'est encore lui qui se trouve situé dans le monde et qui devra répondre de ce qu'il choisit d'y faire : orienter et assumer.

C’est ici que je retrouve le principe qui traverse mon travail (nouveau livre blanc à publier...) :

Delegate the task. Preserve the judgment.

Mais je serais désormais tenté de lui ajouter : ne confondons pas la préservation de l’auctorialité humaine avec la préservation du jugement humain.

La question immédiate, un peu trop simpliste, demande : qui a produit les mots ?

La vraie question demande : qui a orienté la recherche, reconnu ce qui importait, distingué ce qui méritait d’être conservé et finalement assumé ce qui est dit ?

À l’âge de l’intelligence artefactuelle, la seconde question pourrait devenir infiniment plus importante que la première.

Prendre l’IA au sérieux

Voilà finalement pourquoi je me sens si éloigné de certains débats actuels sur « l’écriture par IA ».

Ils ne sont pas absurdes. Les problèmes de fraude, de plagiat, de transparence et d’attribution existent réellement.

Mais ils risquent de nous faire regarder le symptôme le plus visible d’une transformation beaucoup plus profonde.

Nous nous demandons encore : « La machine a-t-elle écrit le texte ? »

alors que la question historique pourrait être :

« Que devient la pensée humaine lorsqu’elle peut dialoguer en permanence avec une intelligence artefactuelle capable de mobiliser une part immense du patrimoine linguistique et conceptuel humain ? »

Ne nous inquiétons plus de savoir qui a produit la phrase, pendant que l’architecture de la production intellectuelle est en train de changer ! C’est cela qu’il faut prendre au sérieux.

Non pas parce que l’IA aurait toujours raison. Non pas parce qu’elle saurait littéralement tout. Non pas parce qu’il faudrait s’effacer devant elle. Mais précisément pour la raison inverse : parce qu’une puissance cognitive sans précédent dans l’histoire devient disponible, et que la question décisive est désormais de savoir ce que nous allons en faire.

L'enjeu n'est peut-être donc pas de préserver à tout prix un monde dans lequel l'humain écrivait chaque phrase. Il est de préserver — voire d'accroître — la capacité humaine à orienter, discerner et assumer dans un monde où la nécessité d'écrire chaque phrase seul(e) n’a plus forcément grand sens.