Musk promet l’abondance. Altman parle d’un génie capable d’exaucer nos souhaits. Zuckerberg veut donner une superintelligence à chacun. Amodei nous avertit qu’elle pourrait aussi devenir une arme. J’ai passé plusieurs jours à confronter leurs visions. Je pensais réfléchir à l’avenir de l’intelligence artificielle. J’ai fini par me demander ce qu’il allait rester de nous.

Il y a quelques jours, je regardais Elon Musk expliquer à The Economist que, dans une dizaine d’années, les progrès conjoints de l’intelligence artificielle et de la robotique pourraient nous conduire vers une société d’abondance. Des robots produiraient une grande partie de nos biens et services, l’intelligence artificielle effectuerait pratiquement toutes les tâches intellectuelles mieux que nous et le travail deviendrait progressivement facultatif. Musk va même jusqu’à imaginer que l’argent puisse finir par perdre une partie de son utilité.

Ma première réaction n’a pourtant été ni philosophique ni politique. Elle a été beaucoup plus banale : est-ce que, moi, j’aurai encore un travail avant de prendre ma retraite ?

Ce n’est qu’ensuite que les autres questions sont arrivées. Que feront ceux dont le métier disparaîtra à 35 ans ? Qui possédera les robots ? Qui touchera les gains de productivité ? Que se passera-t-il si quelques entreprises contrôlent l’essentiel de cette nouvelle intelligence ? Que feront les gouvernements autoritaires avec elle ? Les criminels ? Et que se passera-t-il si les machines deviennent progressivement capables d’améliorer les machines qui leur succèdent ?

À force de tirer sur le fil, la question de mon emploi est devenue presque secondaire.

Car ce que nous sommes peut-être en train de construire dépasse largement ChatGPT, les agents, les campagnes publicitaires automatisées ou les assistants personnels. Nous sommes peut-être en train de transformer l’intelligence elle-même en infrastructure.

Et nous construisons cette infrastructure avant d’avoir réellement décidé de la société que nous voulons faire fonctionner dessus.

Quatre hommes, quatre futurs

Ces dernières semaines, quatre des hommes les plus influents de l’intelligence artificielle ont exposé leur vision du futur. Ils ne racontent pas exactement la même histoire, mais ils partagent une conviction : quelque chose de beaucoup plus important que les outils que nous utilisons aujourd’hui approche.

Elon Musk imagine la rencontre entre superintelligence et robotique. Si l’IA devient capable de réaliser pratiquement toute activité intellectuelle et que des robots peuvent ensuite exécuter ces décisions dans le monde physique, la capacité de production pourrait devenir gigantesque. Dans son scénario, nous nous rapprocherions progressivement d’une économie où le travail humain n’est plus indispensable.

Sam Altman utilise une autre image. Lors d’un entretien publié cet été, le patron d’OpenAI explique que nous serions déjà entrés dans une forme de « singularité ». Pas encore celle, classique, d’une intelligence qui s’améliorerait seule de manière récursive et incontrôlable, mais une période où l’accélération technologique commence à changer de nature.

Sa vision ressemble à celle d’un génie : une intelligence abondante, extrêmement bon marché, disponible pour résoudre des problèmes, créer des entreprises, inventer des produits ou accélérer la recherche.

Mark Zuckerberg propose encore autre chose. Dans son manifeste The Future is for Everyone, il refuse l’idée d’une superintelligence concentrée entre les mains de quelques gouvernements ou grandes organisations. Il veut au contraire une superintelligence personnelle, distribuée aussi largement que possible afin de donner davantage de pouvoir aux individus.

Et puis il y a Dario Amodei. Le patron d’Anthropic semble observer exactement la même technologie, mais avec beaucoup moins de tranquillité. Sa préoccupation première est qu’un régime autoritaire développe une IA plus puissante que celles des démocraties et l’utilise pour obtenir un avantage militaire durable, améliorer la surveillance de sa population ou renforcer considérablement ses capacités de répression. Il ajoute les cyberattaques, les risques biologiques et les problèmes d’alignement parmi les scénarios qui devraient nous préoccuper.

Quatre visions se dessinent donc : Musk imagine l’abondance, Altman le génie, Zuckerberg l’individu augmenté et Amodei une puissance qu’il faut apprendre à contenir.

Mais en les écoutant suffisamment longtemps, une question finit par devenir gênante.

Ils parlent énormément du monde d’après. Beaucoup moins du chemin pour y arriver.

Le trou dans le scénario

Le récit technologique ressemble souvent à ceci : aujourd’hui, puis une IA extrêmement puissante, puis l’abondance. Entre les deux, quelques flèches et beaucoup d’optimisme.

Mais imaginons que les progrès continuent réellement au rythme actuel. Que se passe-t-il entre le dernier salaire d’un comptable remplacé et la société où travailler serait devenu facultatif ? Entre l’agence marketing de vingt personnes et l’entrepreneur capable de piloter cent agents ? Entre l’entreprise qui automatise 40 % de ses fonctions administratives et le revenu universel évoqué par certains dirigeants de la Silicon Valley ?

C’est précisément dans cet espace que risquent d’apparaître les vrais problèmes. Et ils ne seront plus techniques.

Les études actuelles ne montrent pas encore une disparition généralisée du travail. L’OCDE insiste d’ailleurs sur le fait que l’IA automatise souvent des tâches sans nécessairement supprimer immédiatement les professions qui les contiennent. Mais l’IA étend désormais cette automatisation à des activités cognitives et non routinières qui échappaient davantage aux précédentes vagues technologiques.

C’est peut-être là que nous commettons une erreur d’observation. Nous attendons les licenciements, alors que la première manifestation de la révolution pourrait être beaucoup plus silencieuse.

Un salarié part et n’est pas remplacé. Une équipe de huit personnes passe à cinq. Une agence qui nécessitait autrefois vingt collaborateurs produit la même chose avec dix personnes et des agents. Les juniors ne sont plus recrutés parce que les tâches sur lesquelles ils apprenaient sont désormais automatisées.

Le chômage massif ne sera peut-être pas le premier indicateur.

Le premier indicateur pourrait être l’emploi qui n’a jamais été créé.

Une campagne publicitaire presque sans publicitaire

Prenons mon propre métier.

Aujourd’hui déjà, une IA peut analyser un marché, proposer une stratégie, rédiger des annonces, générer des images, produire une landing page, analyser les données et recommander les prochaines actions. Dans le même temps, les plateformes publicitaires utilisent leurs propres modèles pour déterminer les audiences, gérer les enchères et distribuer les créations.

Il reste encore énormément d’humain dans cette chaîne. Mais regardons la direction plutôt que la photographie.

Demain, je pourrais simplement donner un objectif : vendre un produit au Luxembourg avec une marge minimale de 30 %, un budget donné et un coût d’acquisition maximal.

Un agent analyserait le marché. Un autre concevrait le positionnement. Un troisième fabriquerait la page. D’autres produiraient les créations, lanceraient les campagnes, suivraient les ventes, modifieraient les prix et arrêteraient automatiquement ce qui ne fonctionne plus.

Tous recommenceraient ensuite.

À quel moment mon métier disparaît-il ? Probablement jamais complètement. Mais combien de personnes faudra-t-il pour produire la même quantité de valeur ?

C’est une question beaucoup plus inconfortable.

Car la révolution IA pourrait moins supprimer les entreprises que supprimer une grande partie des humains nécessaires à leur fonctionnement.

C’est aussi ce qui rend l’enthousiasme de Sam Altman pour les startups particulièrement intéressant. Il considère que nous vivons une période exceptionnelle pour créer une entreprise parce qu’une petite équipe peut désormais construire ce qui aurait nécessité beaucoup plus de capital et de salariés auparavant.

Il a probablement raison.

Mais cette promesse possède un envers : si dix personnes peuvent produire ce que cent produisaient hier, nous avons créé énormément de productivité.

Nous n’avons pas encore décidé ce que deviennent les 90 autres.

Le génie n’exauce jamais les souhaits gratuitement

L’image du génie utilisée par Altman est séduisante. Imaginez une intelligence capable de répondre : « Trouve-moi un médicament », « Construis-moi une entreprise », « Conçois une batterie plus efficace » ou « Réduis les dépenses de mon organisation de 30 % ».

Mais les histoires de génies ont toujours contenu un avertissement. Le problème n’est pas seulement le souhait. C’est sa formulation.

Supposons qu’une entreprise donne à une superintelligence un objectif parfaitement raisonnable : augmenter son résultat opérationnel de 20 %. Elle analyse tout, automatise une partie de l’administration, supprime 1000 emplois, délocalise certaines opérations, choisit un fournisseur moins cher mais beaucoup plus polluant, réduit le service client et augmente légèrement les prix.

Résultat : +21 %. Mission accomplie.

L’IA n’a pas échoué. Elle a réussi. C’est nous qui avions mal défini le problème.

Cette question est ancienne dans la recherche sur la sécurité de l’intelligence artificielle. Bien avant l’actuelle explosion des modèles génératifs, des chercheurs travaillaient déjà sur les effets secondaires indésirables, les mauvaises fonctions de récompense et la tendance d’un système à optimiser parfaitement ce qu’on lui demande plutôt que ce que l’on souhaitait réellement obtenir.

Avec un chatbot, une mauvaise optimisation produit parfois une réponse absurde. Avec des agents connectés à des comptes bancaires, des infrastructures, des laboratoires, des robots ou des systèmes militaires, elle pourrait produire quelque chose de beaucoup moins amusant.

Une intelligence supérieure n’élimine pas le problème des mauvaises décisions. Elle peut simplement permettre de les exécuter beaucoup mieux.

Et si la machine commençait à améliorer la machine ?

Nous arrivons alors à la singularité.

Le terme est souvent employé avec beaucoup trop de facilité. Dans sa définition classique, il désigne un moment hypothétique où une intelligence artificielle suffisamment avancée contribuerait à fabriquer une intelligence supérieure, qui améliorerait à son tour la génération suivante, déclenchant une boucle d’accélération dont les conséquences deviendraient extrêmement difficiles à prévoir.

Nous n’en sommes pas là.

Aujourd’hui encore, les architectures, les infrastructures d’entraînement, les objectifs et une grande partie du processus de recherche restent organisés par des humains. En revanche, quelque chose a changé : l’IA écrit du code, analyse des expériences, recherche des vulnérabilités, formule des hypothèses et aide à construire les outils nécessaires à la génération suivante.

La machine ne se reproduit pas encore seule. Mais elle commence à travailler dans l’usine qui fabrique ses descendants.

C’est pour cela que je pense qu’un historien pourrait un jour regarder 2025 comme une année charnière. Pas forcément comme « l’année de la singularité », mais comme le moment où l’intelligence artificielle est passée du statut d’outil spectaculaire à celui d’accélérateur de sa propre révolution.

C’est une hypothèse.

Mais 2026 ressemble déjà beaucoup moins à une année de découverte qu’à une année d’industrialisation.

Le problème n’est pas seulement l’IA dangereuse. C’est l’humain dangereux avec une IA.

C’est probablement le point sur lequel Dario Amodei me paraît le plus convaincant.

Nous parlons énormément d’alignement : comment faire en sorte que l’IA respecte nos intentions ? Très bien. Imaginons maintenant une IA parfaitement alignée, parfaitement obéissante et extrêmement compétente.

Son utilisateur est un escroc.

Ou un cybercriminel.

Ou un fanatique.

Ou un dictateur.

Nous obtenons alors une IA extrêmement sûre qui exécute parfaitement la volonté d’une personne dangereuse.

C’est pourquoi Amodei refuse l’idée selon laquelle distribuer largement les capacités suffirait automatiquement à équilibrer la situation entre attaquants et défenseurs. Il estime au contraire qu’il faut tester les modèles suffisamment puissants, qu’ils soient ouverts ou fermés, notamment sur leurs capacités cyber, biologiques et autonomes.

Cette question deviendra rapidement régalienne. Nous aurons probablement des IA criminelles, des IA policières, des IA militaires et des IA chargées de surveiller d’autres IA.

Et nous arriverons à un paradoxe assez vertigineux : pour nous protéger des systèmes artificiels trop rapides pour être surveillés par des humains, nous devrons probablement utiliser d’autres systèmes artificiels.

Qui surveillera alors les gardiens ?

L’IA va-t-elle nous rendre plus intelligents ou simplement plus paresseux ?

Il existe encore une autre conséquence dont on parle beaucoup moins. Nous nous concentrons sur la capacité des IA à remplacer notre travail, mais que se passe-t-il lorsqu’elles remplacent progressivement l’effort nécessaire pour comprendre ?

Pourquoi apprendre à rédiger lorsqu’une IA écrit mieux ? Pourquoi apprendre une langue lorsque la traduction devient instantanée ? Pourquoi retenir quelque chose lorsqu’un assistant personnel se souvient de tout ? Pourquoi apprendre à programmer lorsqu’un agent produit l’application ? Pourquoi chercher pendant deux heures lorsqu’une réponse arrive en cinq secondes ?

La bonne nouvelle est évidente. Nous pouvons utiliser l’IA comme professeur, comme contradicteur, comme accélérateur de connaissances ou comme outil permettant d’explorer en quelques heures un sujet qui aurait nécessité plusieurs jours.

Mais il existe un scénario opposé : celui d’une population extrêmement productive en apparence, mais de plus en plus incapable de reconstruire seule les raisonnements qui produisent ses résultats.

Une société de compétence apparente et de dépendance réelle.

Le risque n’est donc peut-être pas simplement que l’IA devienne plus intelligente que nous. Il est que nous devenions suffisamment dépendants d’elle pour ne plus savoir exactement ce que nous savons nous-mêmes.

Et là encore, le résultat pourrait être profondément inégalitaire. Une minorité utilisera l’IA pour réfléchir davantage, questionner, tester, apprendre et produire. Une autre partie l’utilisera essentiellement pour supprimer l’effort.

La fracture numérique de demain pourrait ne plus opposer ceux qui ont accès à Internet à ceux qui ne l’ont pas.

Elle pourrait opposer ceux qui savent conserver leur souveraineté intellectuelle à ceux qui ont délégué leur jugement.

Zuckerberg veut donner la superintelligence à tout le monde. Très bien. La même ?

C’est la proposition centrale de Mark Zuckerberg : éviter qu’une superintelligence soit concentrée entre quelques institutions et favoriser au contraire une distribution large du pouvoir vers les individus.

Sur le principe, difficile d’être contre. Mais une question apparaît immédiatement : qu’est-ce que « tout le monde » signifie ?

Imaginez deux entrepreneurs. Le premier dispose gratuitement d’un excellent modèle et d’une certaine quantité de puissance de calcul. Le second peut dépenser dix millions d’euros par mois en infrastructure et faire travailler en permanence des milliers d’agents.

Ont-ils réellement accès à la même intelligence ?

Pas davantage que deux personnes disposant toutes les deux d’un accès à Internet lorsque l’une d’elles possède Google.

L’accès à l’IA pourrait devenir universel. La quantité d’intelligence disponible, elle, pourrait devenir une nouvelle forme de capital.

Cela pose un problème considérable d’égalité des chances. Peut-être faudra-t-il demain considérer une certaine quantité de puissance de calcul comme nous considérons aujourd’hui l’éducation ou l’accès à Internet : une infrastructure minimale permettant à chacun d’apprendre, de créer et d’entreprendre.

Une sorte de droit universel à l’intelligence artificielle.

L’idée paraît étrange aujourd’hui. Dans cinq ans, elle ne le sera peut-être plus du tout.

Et à qui appartiendra votre mémoire ?

Il existe une autre question encore plus concrète. Votre futur agent personnel pourrait connaître vos finances, votre santé, votre travail, vos relations, vos habitudes, vos faiblesses, vos projets, vos conversations, vos erreurs et vos préférences les plus intimes. Après dix ans d’utilisation, cet agent pourrait devenir la représentation numérique la plus complète jamais constituée de votre personnalité.

Puis vous souhaitez changer de fournisseur. Pouvez-vous partir ?

Le RGPD et le Digital Markets Act ont déjà installé en Europe des principes de portabilité des données et d’interopérabilité. Mais la future portabilité d’un agent pose une question beaucoup plus large que l’export d’une liste de contacts. Il faudra peut-être transférer sa mémoire, ses préférences apprises, ses connexions, ses permissions, ses workflows et son historique décisionnel.

Autrement, la dépendance à une IA personnelle pourrait devenir plus forte que celle que nous avons connue avec n’importe quel système d’exploitation.

L’agent ne serait plus seulement un logiciel, il deviendrait une partie externalisée de votre mémoire et de votre capacité d’action.

À ce niveau, la portabilité ne devrait probablement plus être considérée comme une fonctionnalité commerciale.

Elle devrait devenir un droit.

Et pendant ce temps, l’Europe pourrait simplement louer son intelligence

C’est probablement la question politique qui me préoccupe le plus.

L’Europe pourrait parfaitement conserver son Parlement, sa Commission, ses gouvernements, ses élections, ses tribunaux et ses entreprises. Et pourtant devenir progressivement dépendante d’intelligences développées, hébergées et contrôlées ailleurs.

Imaginez une économie européenne où médecins, développeurs, administrations, industriels et chercheurs dépendent principalement d’IA développées hors d’Europe, tandis que les entreprises achètent leur puissance cognitive à une poignée de fournisseurs étrangers.

L’Europe resterait souveraine juridiquement.

Mais une partie de l’intelligence sur laquelle fonctionnerait son économie serait louée à des entreprises étrangères.

C’est une dépendance d’un genre nouveau. Elle n’est plus simplement énergétique, industrielle ou militaire.

Elle devient cognitive.

L’Union européenne semble avoir compris une partie du problème. Elle investit désormais dans des AI Factories, prépare de grandes infrastructures de calcul et construit progressivement une capacité publique d’évaluation des modèles les plus puissants.

C’est nécessaire, mais le défi dépasse largement la réglementation.

Pour être réellement souverain en matière d’IA, il faut maîtriser ou sécuriser une chaîne beaucoup plus vaste : énergie, semi-conducteurs, centres de données, puissance de calcul, modèles, données, agents, applications et cybersécurité.

Avoir le meilleur règlement du monde sur une intelligence que l’on ne sait pas produire soi-même ne constitue pas une stratégie industrielle.

Nous avons déjà vécu ce scénario. Mais jamais à cette vitesse.

Les grandes ruptures technologiques suivent souvent un scénario assez familier. Une technologie apparaît, augmente fortement la productivité et enrichit d’abord ceux qui possèdent le capital nécessaire pour l’exploiter. Certains métiers disparaissent, d’autres perdent de leur valeur, tandis que les bénéfices mettent du temps à se diffuser dans le reste de la société. Les tensions sociales augmentent alors jusqu’au moment où la politique intervient et où de nouvelles institutions finissent par apparaître.

La révolution industrielle n’a pas spontanément créé le droit du travail, les systèmes de pension, les syndicats, la réduction du temps de travail ou la protection sociale. Ces institutions sont apparues progressivement parce qu’une société industrielle ne pouvait pas durablement fonctionner avec les règles du monde qui l’avait précédée.

Pourquoi imaginons-nous que l’intelligence artificielle fera exception ?

Si l’IA transforme profondément la valeur du travail humain, nous inventerons probablement de nouvelles institutions. Peut-être un revenu minimum différent de celui que nous connaissons. Peut-être des semaines de travail beaucoup plus courtes. Peut-être des fonds citoyens possédant une partie du capital automatisé. Peut-être une quantité minimale de puissance IA garantie à chaque citoyen. Peut-être une taxation radicalement différente du capital et du travail.

Dario Amodei est d’ailleurs l’un des rares dirigeants de l’IA à parler explicitement de scénarios de perturbation durable de l’emploi et à envisager des mécanismes allant de l’assurance salariale jusqu’à des formes beaucoup plus fortes de redistribution si la demande de travail humain chute structurellement.

Mais une question demeure : à quel moment allons-nous construire ces institutions ?

Avant le choc ? Ou après ?

L’histoire incite malheureusement plutôt à parier sur la seconde option.

Le progrès technologique ne garantit pas le progrès humain

Voilà peut-être ce qui m’a le plus dérangé après toutes ces lectures.

Musk, Altman, Zuckerberg et même Amodei imaginent, chacun à leur manière, des bénéfices absolument extraordinaires : des médicaments découverts beaucoup plus rapidement, une énergie plus abondante, des robots supprimant les travaux dangereux, une éducation personnalisée, une intelligence de très haut niveau accessible presque instantanément et une productivité gigantesque.

Il serait absurde de nier cet avenir uniquement parce qu’il nous inquiète.

Mais il serait tout aussi absurde de considérer que le progrès technique produit automatiquement le progrès social.

La technologie ne décide pas comment ses gains sont distribués. Elle ne décide pas qui la possède, quelles libertés nous acceptons de sacrifier, combien d’inégalité nous trouvons acceptable, si un emploi possède une valeur autre que sa productivité ou ce que signifie une vie réussie.

Nous décidons.

Et c’est probablement là que se trouve la partie la plus vertigineuse de toute cette histoire.

Si l’intelligence cesse d’être rare, qu’est-ce qui aura encore de la valeur ?

Pendant presque toute l’histoire humaine, l’intelligence a été une ressource rare. Un bon médecin est rare. Un grand ingénieur est rare. Un excellent avocat est rare. Un chercheur exceptionnel est rare. Un stratège compétent est rare. Cette rareté donne de la valeur à leur temps.

Que se passe-t-il si une partie de cette intelligence devient duplicable à volonté ?

La valeur pourrait se déplacer vers le jugement, la confiance, la responsabilité, les relations humaines ou la capacité à comprendre un contexte que la machine ne perçoit pas complètement.

Mais surtout vers quelque chose de beaucoup plus fondamental : la capacité à définir les objectifs.

L’IA peut optimiser une entreprise. Mais qui décide de ce que cette entreprise doit optimiser ?

L’IA peut peut-être un jour gérer un pays plus efficacement. Mais qui définit ce qu’est un pays « mieux géré » ? Le PIB ? L’égalité ? La liberté ? L’espérance de vie ? La sécurité ? Le bonheur ? La dette publique ? L’environnement ?

Une superintelligence pourra peut-être nous donner des réponses incroyablement sophistiquées, mais elle ne supprimera pas nécessairement nos désaccords sur les questions.

Et celui qui définit la question possède déjà une partie de la réponse.

Peut-être que la vraie singularité n’est pas technologique

Je ne sais pas si Ray Kurzweil aura raison avec 2045. Je ne sais pas si Sam Altman a raison lorsqu’il affirme que nous sommes déjà entrés dans la singularité. Je ne sais pas si Musk verra réellement le travail devenir facultatif, si Zuckerberg réussira à distribuer une superintelligence personnelle à plusieurs milliards d’êtres humains ou si les scénarios catastrophiques qui préoccupent Amodei se matérialiseront.

Personne ne le sait.

Mais je commence à me demander si nous attendons le mauvais événement.

La singularité ne sera peut-être pas le jour où une machine s’améliorera toute seule dans un data center. Elle pourrait être le moment beaucoup plus discret où nos entreprises, nos administrations, nos scientifiques et nous-mêmes commencerons à dépendre suffisamment de l’intelligence artificielle pour qu’un retour en arrière ne soit plus réellement possible.

Pas un grand flash. Pas une annonce. Pas un robot déclarant qu’il est devenu plus intelligent que l’humanité.

Juste une succession de petites décisions parfaitement rationnelles : utiliser l’IA parce qu’elle est meilleure, puis parce qu’elle est moins chère, puis parce que tout le monde l’utilise, puis parce qu’on ne sait plus travailler sans elle.

Et un matin, nous réaliserons peut-être que la question n’est plus :

« Jusqu’où allons-nous laisser aller l’intelligence artificielle ? »

Mais :

« Sommes-nous encore réellement capables de choisir de ne pas la suivre ? »

Nous construisons peut-être l’outil le plus puissant de notre histoire. Nous ne savons pas encore qui le contrôlera, comment ses richesses seront réparties, ce qu’il fera au travail, à nos démocraties ou à notre propre capacité à réfléchir.

Et pourtant nous accélérons. Peut-être parce que les bénéfices possibles sont trop importants pour renoncer. Peut-être parce que la Chine, les États-Unis ou simplement le concurrent d’en face accéléreront si nous ne le faisons pas. Peut-être aussi parce que l’être humain n’a jamais été très doué pour laisser intacte une porte qu’il vient d’apprendre à ouvrir.

Le problème n’est donc peut-être effectivement pas l’intelligence artificielle.

Le problème est que, derrière elle, il y aura toujours un humain pour décider de ce qu’il veut en faire.

Du moins, tant que ce sera encore à nous de décider.