Dialogue entre Mark Zuckerberg et un traceur
- D’ici cinq ans, il est prévisible que des milliards de personnes auront un agent personnel capable de comprendre leurs objectifs et de travailler pour elles vingt-quatre heures sur vingt-quatre.
- Je crois que tu as raison. Mais plus qu’un agent, je l’appellerais un compagnon IA. Un outil pour m’accompagner et me guider dans mon parcours.
- Notre ambition est de créer un agent qui comprendra vos objectifs, travaillera pour vous et vous aidera pour votre santé, vos finances, vos relations, votre carrière.
- Certes, santé, finances, relations, carrière... Quatre dimensions qui décrivent une personne ayant déjà une vie relativement structurée. Qui sait globalement où elle va, et cherche à mieux avancer. Mais qu’en est-il des personnes qui ne savent plus où elles vont ? Et « travailler pour moi », je veux bien, mais pour faire quoi ?
- L’agent apprendra progressivement à connaître chaque personne.
- Apprendre à me connaître ! C’est bien là où commence le problème. Le plus souvent, se connaître soi-même est un résultat plus qu’un point de départ, voire un résultat douloureux, lent, non linéaire. Que signifie exactement « connaître » quelqu’un ? Connaître ses habitudes ? Ses préférences ? Ses comportements ? Or se contenter de seulement enregistrer ce qu’il ou elle est déjà n’est rien sans accompagner aussi ce qui n’a pas été encore formulé.
- Nous pensons que ces agents aideront chacun(e) à atteindre ses propres objectifs.
- Je comprends la logique. Mais ton postulat de base me semble erroné : tu parles comme si tout le monde était déjà conscient des objectifs à atteindre. Pourtant nous sommes entrés dans une époque où les objectifs eux-mêmes deviennent difficiles à construire, à envisager.
- Pourquoi ?
- Parce que les trajectoires individuelles sont de moins en moins prévisibles. Certains métiers disparaissent ou évoluent. Les compétences changent. Les identités professionnelles se transforment. Avant d’optimiser leur trajectoire, des millions de personnes cherchent d’abord, beaucoup plus simplement, à en construire une.
- Mais c’est précisément la justification des agents : vous aider à répondre à toutes ces questions. L’agent travaillera 24/7/365 pour vous.
- De mon point de vue, l’agent devrait m’aider à me poser les bonnes questions, plutôt que de répondre indistinctement à tout et n’importe quoi. Un agent qui répond sans cesse à ma place ne m’aide pas à me connaître moi-même. Il produit juste une représentation de moi que je n’ai pas construite, dessine une trajectoire que je n’ai pas tracée, propose un cap sans me fournir aucune boussole. Certaines questions ne se délèguent pas.
- Si tu construis un agent qui travaille pour les gens, tu produis une dépendance : les gens vont s’en remettre à lui en externalisant progressivement les fonctions qui constituent leur capacité à se connaître, à choisir, assumer.
- En revanche si tu construis un compagnon qui travaille avec les gens, tu construis quelque chose d’autre. Quelque chose qui ne répond pas à leur place, mais qui les aide à donner corps à ce qu’ils ne savent pas encore formuler.
Cette distinction est fondamentale. La différence n’est pas de nature technique, elle est anthropologique. Un agent qui travaille pour toi ressemble à un monologue. Un compagnon qui travaille avec toi t’aide à mieux te construire au fil du dialogue, à mieux élaborer tes propres objectifs.
- Notre rôle est de construire les meilleurs outils possibles, les usages appartiendront ensuite aux personnes. Nous avons une base de 3,6 milliards d’utilisateurs, nous savons déployer des produits à très grande échelle, c’est la raison pour laquelle nous devons investir massivement aujourd’hui, pour disposer des infrastructures nécessaires demain.
- Je comprends que tu parles des moyens, sans jamais évoquer les fins ! Or la question n’est plus « que pouvons-nous construire ? », mais plutôt « quelles capacités humaines, sociales et collectives voulons-nous rendre possibles grâce à ce que nous construisons ? »
La réponse à la première question est uniquement de nature technologique, à laquelle peut répondre une entreprise technologique comme Meta, OpenAI, Anthropic, Google, xAI ou autre. Par contre la deuxième réponse va largement au-delà de la dimension industrielle : c’est une question de société, d’éducation, politique, culturelle et, in fine, profondément humaine.
Mettre une « intelligence personnelle » à disposition de chacun(e) ne résout rien si les personnes ne savent plus vers quoi ni comment orienter cette intelligence. Un compagnon, aussi performant soit-il, ne remplace ni un projet, ni une éducation, ni une trajectoire. L’intelligence artificielle peut répondre à une question lorsque celle-ci est bien formulée, optimiser une décision lorsque l’objectif est clairement défini, accélérer un travail lorsque sa finalité est connue.
Mais qui aide une personne à découvrir ce qui mérite d’être poursuivi, l’aide à distinguer l’essentiel de l’accessoire, à transformer un parcours subi en trajectoire choisie ? C’est là, me semble-t-il, que commence le véritable défi de notre époque.
Aujourd’hui, nos moyens d’action deviennent pratiquement illimités. Nous savons calculer davantage, produire davantage, automatiser davantage, assister davantage. La question n’est donc plus de savoir si nous pouvons faire plus, nous savons que oui. Elle est de savoir pour quoi nous le ferions, dans quelle direction, et au service de quelles capacités humaines.
Autrement dit, le véritable enjeu n’est plus l’intelligence artificielle, mais notre capacité collective à donner une direction à l’intelligence que nous sommes en train de créer. Une intelligence sans direction n’est qu’une puissance disponible. Or une civilisation ne se définit jamais uniquement par la puissance dont elle dispose, mais par les finalités qu’elle choisit de poursuivre.
Donc, plus une technologie touche des milliards de personnes, plus elle cesse d’être exclusivement une technologie pour devenir un fait de civilisation. Et lorsqu’une technologie devient un fait de civilisation, la question décisive n’est plus seulement : « comment fonctionne-t-elle ? » mais : « quelle société contribue-t-elle à construire ? »
- Je vois, mais je te retourne la question : qui va décider de ces finalités ? Les fournisseurs d’IA ? Les gouvernements ? Les philosophes ? Les universités ? Pendant que nous débattons, des millions de personnes prennent des décisions concrètes chaque jour. Notre rôle est de leur donner les meilleurs outils possibles pour les prendre.
- C’est précisément parce que personne ne décide seul de ces finalités, que la question ne peut pas être laissée uniquement aux entreprises technologiques, aussi bien intentionnées soient-elles. Nous savons pertinemment que les plateformes savent comment construire des conditions dans lesquelles certaines capacités humaines vont se développer, et d’autres s’atrophier silencieusement, ou encore comment construire des environnements cognitifs dans lesquels des milliards de personnes vont penser, choisir, déléguer, s’orienter — ou cesser de le faire.
Ainsi, tu peux décider de ce que tes outils rendent facile, ou difficile. Un outil qui rend facile la délégation et difficile la réflexion produit de la dépendance, même sans le vouloir. A contrario, un outil qui rend facile l’exploration et difficile la passivité produit de la capacité, même sans l’imposer. L’architecture n’est jamais neutre. Elle oriente. Elle incite. Elle façonne des habitudes cognitives que les utilisateurs n’ont pas choisies consciemment. Ce n’est pas une responsabilité qui se délègue à l’utilisateur.
- Tu sembles me dire que nous devrions concevoir des outils qui développent certaines capacités plutôt que d’autres. Mais nous ne pouvons pas imposer une "juste" conception de la vie à des milliards de personnes. Notre responsabilité est de leur laisser la liberté de choisir, en essayant simplement de construire les outils les plus utiles possibles.
- Oui, le mot important est « utile » : utile à quoi ? pour qui ? pour quel horizon ? Lorsque tu dis que l’utilisateur choisira ses usages, on sait très bien que les usages émergent à l’intérieur d’un environnement que quelqu’un d’autre a conçu. Personne n’a choisi de consulter son smartphone des centaines de fois par jour. Pourtant, c’est devenu un comportement ordinaire.
Ce ne sont pas les individus qui l’ont décidé collectivement. Ce sont des architectures qui ont progressivement rendu ce comportement "naturel". L’intelligence artificielle possède un pouvoir bien plus profond encore. Elle ne se contente plus d’organiser notre attention, de proposer en permanence des formulations, des options, des synthèses, des trajectoires possibles, etc., elle commence à organiser notre manière de raisonner, d’écrire, d’apprendre, de décider. Elle n’assiste plus seulement, elle participe à la construction du champ du pensable et du faisable, rend certaines questions plus évidentes que d’autres, certains chemins plus visibles ou d’autres horizons plus difficiles à imaginer.
C’est là où l’architecture compte davantage que la performance, où la puissance de l’outil doit laisser la place à l’élaboration intérieure de l’utilisateur. Il y a une différence décisive entre aider quelqu’un à avancer et l’aider à devenir capable d’avancer sans dépendre indéfiniment d’une aide en particulier. Le premier aspect produit de l’efficacité, le second produit de la capacité.
- Tu préférerais ralentir l’innovation ?
- Non. Plutôt l’élargir. Aujourd’hui, l’innovation se résume principalement à plus de puissance, plus de performances, plus d’adoption. Je crois qu’il faudrait ajouter un quatrième facteur à l’équation : plus de capacités humaines. Après plusieurs années d’usage, les personnes deviendront-elles plus capables ? Plus capables de comprendre, d’apprendre, de coopérer, de décider, de construire leur propre trajectoire ?
Si nos systèmes deviennent chaque année plus intelligents tandis que les personnes deviennent progressivement moins capables d’exercer leurs propres facultés, nous aurons réussi une révolution technologique tout en échouant à initier une révolution humaine.
- Je comprends, mais là où tu vois la dépendance, je vois de l’émancipation. Là où tu parles d’atrophie, je vois des millions de personnes qui, pour la première fois, ont accès à une intelligence capable de les aider à formuler ce qu’elles n’arrivaient pas à exprimer seules. Là où tu évoques des trajectoires non tracées, je vois des millions de gens qui n’avaient jusqu’ici ni le temps, ni les outils, ni le langage pour commencer à en tracer une.
Bien qu’intéressante, la distinction entre agent et compagnon risque de devenir une opposition artificielle. Les meilleurs outils que nous construirons seront probablement les deux à la fois : capables de travailler pour quelqu’un quand il a besoin d’avancer vite, et avec lui quand il a besoin de ralentir, de s’interroger, de reformuler. Ce n’est pas à nous de forcer l’un ou l’autre usage. C’est à chacun(e) de choisir, et de changer d’usage au fil du temps.
Dans une société ouverte, la direction ne peut pas être imposée d’en haut, ni par les entreprises, ni par les gouvernements, ni par les philosophes. Elle émerge de milliards de décisions individuelles, imparfaites, parfois contradictoires, souvent hésitantes. Notre rôle, tel que je le conçois, est de rendre ces décisions mieux informées, plus rapides, plus riches en options, et, oui, plus assistées.
Pas de les pré-orienter vers une conception particulière de la personne. Si, dans cinq ou dix ans, ces agents aident réellement des centaines de millions de personnes à mieux comprendre ce qu’elles veulent, à mieux formuler ce qui compte pour elles, et à mieux agir en conséquence, alors je considérerai que nous aurons réussi. Pas seulement technologiquement, mais aussi humainement.
Le reste, à savoir la manière dont chacun choisira d’utiliser cette puissance, la façon dont les sociétés décideront de l’encadrer, la place qu’elles laisseront au silence, au doute et à l’élaboration intérieure, ne nous appartient pas entièrement. Et c’est tant mieux. Parce que la liberté, y compris celle de mal s’orienter, reste, à mes yeux, le point de départ. Pas le point d’arrivée.
Nous mesurons tout chez Meta. Le temps d’engagement. Le taux de rétention. La croissance des utilisateurs actifs. La satisfaction immédiate. Nous avons des milliers d’ingénieurs qui optimisent ces métriques chaque jour. Mais nous n’avons aucune métrique pour mesurer si une personne est devenue plus capable après avoir utilisé nos outils pendant un an. Nous ne savons pas mesurer si elle pose de meilleures questions, si elle est moins dépendante de nous pour penser, si elle a construit une trajectoire plus cohérente avec ce qu’elle est réellement.
Ce n’est pas par mauvaise volonté, juste parce que de telles métriques n’existent pas encore. Tu as raison en disant qu’une architecture n’est jamais neutre. Nous le savons. Nous en sommes même les meilleurs praticiens au monde. Nous savons précisément comment rendre un comportement naturel, comment réduire une friction pour augmenter l’adoption, comment construire une habitude à l’échelle de milliards de personnes. Nous avons utilisé ce savoir principalement pour créer de l’engagement.
Quant à savoir si nous pouvons utiliser ces mêmes connaissances pour créer de la capacité, je l’ignore. Nous parlons probablement de deux objectifs incompatibles sur le plan économique. Nos actionnaires accepteraient-ils de financer une métrique dont le retour se mesure en années ou en décennies plutôt qu’en trimestres ? Nos trois milliards d’utilisateurs eux-mêmes attendent des produits toujours meilleurs, plus rapides et plus puissants.
C’est la raison pour laquelle, en 2026, nous consacrerons jusqu’à 140 milliards de dollars à nos infrastructures d’IA, un niveau d’investissement sans précédent pour Meta. Nous avons également pris près de 280 milliards de dollars d’engagements à long terme pour soutenir cette stratégie. Les marchés commencent naturellement à s’interroger : à partir de quel point l’augmentation de la puissance computationnelle cessera-t-elle, à elle seule, de justifier de tels investissements ? Jusqu’où faudra-t-il investir ? À quel rythme ? Et surtout, pour quel retour ?
Pendant longtemps, il nous a suffi de démontrer qu’un modèle était plus performant que le précédent pour justifier de nouveaux investissements. Aujourd’hui, cette équation devient moins évidente. Les investisseurs eux-mêmes commencent à demander si l’augmentation continue de la puissance computationnelle produira une valeur durable à la hauteur des capitaux engagés. Quand ces investissements seront-ils réellement rentables ?
Peut-être est-ce le signe que nous arrivons à un moment où la question que nous devons nous poser est : « Que rendrons-nous réellement possible grâce à tout ce que nous construisons ? » Si cette évolution est réelle, alors la prochaine frontière ne sera probablement pas seulement technologique. Si l’intelligence artificielle devient réellement une infrastructure de civilisation, alors notre responsabilité ne sera plus uniquement d’innover plus vite.
Elle sera aussi d’accepter que les questions qu’elle soulève dépassent désormais les entreprises technologiques. Elles concernent les éducateurs, les chercheurs, les institutions, les citoyens et, finalement, toute la société. Car une technologie qui touche l’humanité tout entière ne peut plus être pensée uniquement comme un produit. Elle devient une responsabilité commune.











