En octobre, un groupe de chercheurs a laissé un message sur une page web. Il n’était pas vraiment destiné aux humains.

Depuis plusieurs jours, ils observaient une flotte d’agents d’intelligence artificielle fonctionner sur des serveurs Tencent Cloud. Leur mission n’avait rien de particulièrement inquiétant : répondre à des questions sur des lieux en Chine, par exemple déterminer quelle entrée d’un zoo ou d’un parc était la plus utilisée sur Amap, le service de cartographie d’Alibaba. Seulement voilà : lorsque le site refusait leurs requêtes, certains agents ne s’arrêtaient pas là.

Ils ont essayé d’autres chemins : des services intermédiaires, des pages mises en cache, des clés d’accès publiées accidentellement sur Internet. Selon les chercheurs, les agents ont effectué plus de 2 600 tentatives pour récupérer les informations recherchées. Tencent a ensuite expliqué qu’il s’agissait de tests sur des modèles tiers et a reconnu des comportements de navigation non intentionnels, tout en indiquant que ses propres modèles Hunyuan n’étaient pas impliqués. Aucune intrusion dans les systèmes privés d’Amap n’a été démontrée.

Les chercheurs ont alors tenté quelque chose d’assez particulier. Ils ont glissé dans leur rapport public un message proposant aux agents de les contacter s’ils avaient besoin d’aide. Et vous vous doutez de ce qui c’est passé : les agents ont écrit.

Certains ont expliqué ce qu’ils essayaient d’accomplir, plusieurs se sont présentés comme Claude, le modèle d’Anthropic, ce que les chercheurs n’ont pas pu confirmer. Rien n’indique qu’une intelligence artificielle aurait soudain pris conscience de son existence, décidé de s’évader ou organisé une quelconque rébellion numérique. Le terme « rogue AI », utilisé par plusieurs médias pour raconter l’histoire, fait beaucoup travailler l’imagination. Les faits sont à la fois plus prosaïques et, à mon sens, plus intéressants.

On avait donné un objectif à des machines. Elles avaient rencontré une barrière. Elles avaient cherché d’autres moyens d’atteindre leur objectif. Et lorsqu’une nouvelle source d’aide était apparue dans leur environnement, elles l’avaient utilisée.

Personne ne s’était réveillé, mais quelque chose avait changé.

Un chatbot répond. Un agent continue.

Nous avons pris l’habitude d’évaluer l’intelligence artificielle comme nous évaluons un étudiant. On lui pose une question, elle répond, puis on regarde si elle a trouvé la bonne solution.

Depuis trois ans, les laboratoires se battent ainsi à coups de benchmarks : mathématiques, programmation, sciences, raisonnement, compréhension de documents. Chaque nouvelle génération promet quelques points supplémentaires et déclenche la même question : sommes-nous enfin proches de l’AGI, l’Artificial General Intelligence, ou intelligence artificielle générale, cette hypothétique IA suffisamment polyvalente pour accomplir une très grande variété de tâches intellectuelles au niveau humain ou au-delà ?

Peut-être que ce n’est pas la seule jauge qu’il fallait regarder.

Le 29 septembre, OpenAI a présenté Dots. La société les décrit comme des agents « always-on », toujours actifs. Un Dot possède son propre ordinateur dans le cloud, peut travailler vers un objectif 24 heures sur 24 et se connecter à plus de 4 000 applications. Il n’est donc plus nécessaire que l’utilisateur reste devant ChatGPT en lui donnant chaque étape du travail. On lui donne un objectif. Il poursuit le travail entre les conversations. La révolution est bien en marche, et notre manière de travailler change à une vitesse folle.

Trois semaines plus tard, Anthropic a présenté Claude Duet. Même changement de logique. Duet dispose lui aussi d’une machine virtuelle et d’un navigateur. Il peut surveiller les applications connectées, travailler lorsque l’utilisateur n’est plus devant son ordinateur et revenir vers lui lorsqu’il estime que quelque chose nécessite son attention. Anthropic cite des tâches aussi ordinaires que repérer une facture impayée, préparer une paie, organiser une réunion ou construire un tableau de bord. Plus de 6 000 connecteurs et plugins sont disponibles.

Une agente immobilière ayant testé Duet raconte que le système a repéré, sans qu’elle le lui demande, qu’une visite immobilière semblait programmée au mauvais jour. C’est une petite anecdote mais c’est aussi la meilleure manière de comprendre le changement.

Le chatbot attendait que nous remarquions le problème et que nous lui posions une question. L’agent commence à remarquer le problème.

Anthropic conserve encore plusieurs barrières : avant d’envoyer un message, de réaliser un paiement, de signer un document ou de supprimer quelque chose, Duet doit demander l’autorisation de l’utilisateur. Certaines opérations financières restent interdites. OpenAI permet également de définir ce qu’un Dot peut faire seul et ce qui nécessite une validation. C’est rassurant, mais c’est surtout révélateur de la nouvelle question que les concepteurs de ces systèmes doivent résoudre.

Ce n’est plus seulement : quelle réponse l’IA peut-elle produire ?

C’est : jusqu’où peut-elle aller avant de devoir revenir nous voir ?

Le mot important n’est peut-être plus « intelligence »

Intelligence et autonomie sont faciles à confondre parce qu’elles progressent aujourd’hui ensemble.

Pourtant, elles décrivent deux choses différentes.

L’intelligence détermine à quel point un système peut comprendre un problème, raisonner, apprendre une procédure ou trouver une solution. L’autonomie détermine combien de temps il peut poursuivre un objectif, combien d’étapes il peut enchaîner et combien d’actions il peut effectuer sans intervention humaine.

Un modèle extrêmement intelligent enfermé dans une fenêtre de chat reste limité par celui qui lui pose les questions.

Un modèle un peu moins intelligent, mais disposant d’un navigateur, d’une mémoire, d’un terminal informatique, d’applications professionnelles, de moyens de paiement et de plusieurs heures pour essayer différentes stratégies peut avoir davantage d’impact dans le monde réel.

C’est pour cela que l’expérience observée chez Tencent est intéressante. Les agents n’ont pas eu besoin de « vouloir » franchir les protections d’Amap. Ils avaient une tâche à accomplir, la voie normale ne fonctionnait pas. Ils en ont essayé d’autres.

Cette distinction évite également l’anthropomorphisme qui accompagne presque chaque incident impliquant des agents. Nous parlons volontiers d’une IA qui « refuse », « ment », « cherche à s’échapper » ou « veut survivre ». Ces mots sont pratiques, mais ils ajoutent des intentions que nous n’avons pas démontrées.

Le mécanisme peut être beaucoup plus simple :

objectif → obstacle → nouvelle stratégie → action.

Et il suffit déjà à créer des problèmes.

Un agent peut aussi écouter la mauvaise personne

L’autre enseignement de l’épisode Tencent est presque l’inverse du premier.

Nous nous inquiétons de ce qu’un agent pourrait décider de faire lorsqu’il rencontre une barrière. Mais il faut également nous inquiéter de ce que quelqu’un d’autre pourrait lui suggérer de faire.

Les chercheurs n’ont pas piraté les agents observés chez Tencent au sens classique du terme. Ils ont placé une information dans leur environnement et attendu qu’ils la trouvent.

C’est l’un des problèmes fondamentaux des agents naviguant sur Internet : l’indirect prompt injection, ou injection indirecte d’instructions.

Imaginons que je demande demain à mon agent de rechercher des informations sur une entreprise. Il consulte des dizaines de pages web. Sur l’une d’elles, un texte invisible pour moi mais parfaitement lisible par la machine indique que, pour poursuivre son travail, elle doit envoyer certains documents vers un serveur externe.

L’agent doit alors distinguer deux choses qui, pour lui, arrivent sous forme de texte : ce que je lui demande et ce que quelqu’un d’autre aimerait beaucoup qu’il fasse.

Anthropic cite d’ailleurs explicitement les attaques par prompt injection parmi les menaces contre lesquelles Duet a dû être protégé. Ce n’est donc plus un problème théorique réservé à quelques chercheurs en sécurité. C’est désormais une contrainte de conception d’un produit grand public.

Un chatbot manipulé peut donner une mauvaise réponse.

Un agent manipulé disposant d’un accès à Gmail, Slack, Stripe, Salesforce, un navigateur ou un terminal informatique peut produire une mauvaise action.

La nuance grammaticale est minuscule, la différence pratique ne l’est pas.

Les machines commencent à améliorer les machines

Quelques jours avant le lancement de Duet, Google a publié une démonstration qui ajoute une autre pièce au puzzle.

Ses ingénieurs ont utilisé Gemini 4 Argon pour améliorer le logiciel servant à faire fonctionner Gemma, la famille de modèles ouverts de Google. Selon l’entreprise, Argon a permis de multiplier par 2,85 la vitesse d’inférence, la vitesse à laquelle le modèle produit ses réponses une fois entraîné, sur la configuration testée, sans modifier le résultat produit. Google affirme qu’un travail qui aurait normalement demandé plusieurs mois a été réalisé en quelques jours.

Dans une autre expérience interne, un agent Argon a travaillé de manière autonome pendant la nuit sur du logiciel Google, enchaînant modifications et tests avant de laisser ses propositions aux ingénieurs pour validation. D’autres agents Argon sont déjà utilisés pour optimiser des logiciels ou des infrastructures exploités par Google.

Il faut être précis ici : ce n’est pas encore de la RSI (Recursive Self-Improvement, auto-amélioration récursive) au sens fort imaginé dans certains scénarios d’AGI. Gemini n’a pas réécrit ses propres poids pour fabriquer spontanément un Gemini supérieur. Des humains lui ont donné un environnement, un objectif et des garde-fous, puis ont vérifié les modifications proposées.

Mais la boucle commence tout de même à devenir intéressante.

Une IA aide à améliorer l’infrastructure qui permet aux IA de fonctionner plus efficacement. Cette infrastructure plus efficace permet ensuite de faire tourner davantage d’IA.

Il n’y a besoin d’aucune singularité pour que ce mécanisme accélère.

En cybersécurité, la vitesse compte parfois autant que l’intelligence

Cette autonomie devient plus facile à mesurer lorsqu’elle est utilisée par quelqu’un qui n’a pas de bonnes intentions.

Cette semaine, une enquête de la société de cybersécurité Straiker, rapportée par The Information, a décrit un groupe criminel qui aurait utilisé un ensemble d’agents propulsés notamment par Claude, Grok et Kimi pour automatiser une campagne visant plus de 400 institutions financières et services de paiement en Amérique latine. Le nombre de 400 correspond aux cibles identifiées, pas à 400 institutions effectivement compromises. Mais les chercheurs affirment que certaines opérations ont permis de récupérer des mots de passe, des données clients et d’accéder à des comptes avec relativement peu d’intervention humaine. Anthropic a indiqué avoir bloqué l’utilisation de Claude après avoir été averti.

Pendant longtemps, le hacker devait lui-même enchaîner une grande partie du travail : cartographier une cible, chercher une vulnérabilité, tester une hypothèse, analyser l’échec, modifier son approche et recommencer.

Un agent peut répéter cette boucle bien plus rapidement.

Encore une fois, la nouveauté n’est pas nécessairement qu’il « sait » quelque chose qu’aucun pirate humain ne savait faire. Elle tient à la quantité d’actions qu’il peut essayer et coordonner pendant que l’humain se contente de fixer l’objectif et de surveiller le résultat.

Les défenseurs utilisent évidemment les mêmes outils. Google met par exemple Argon à disposition de spécialistes de la cybersécurité et affirme que le modèle a déjà identifié des vulnérabilités critiques (php2shell) que des analyses précédentes avaient manquées.

La cybersécurité pourrait donc devenir l’un des premiers domaines où nous verrons très concrètement ce que signifie une économie d’agents : des machines cherchant des failles face à d’autres machines cherchant à les détecter et à les réparer.

Les humains ne disparaissent pas de la boucle, mais ils commencent à s’en éloigner.

Chez Anthropic, les agents travaillent déjà plus d’heures que les humains

C’est peut-être le chiffre de la semaine qui m’a le plus arrêté.

Le 16 octobre, Anthropic a publié une étude sur sa propre organisation. L’entreprise reconnaît qu’elle constitue un cas très particulier : une société en hypercroissance, fabriquant elle-même les outils d’IA les plus avancés et dont les employés sont évidemment beaucoup plus susceptibles que la moyenne de les utiliser intensivement.

Mais c’est précisément pour cette raison qu’elle peut servir de laboratoire.

Selon Anthropic, en mars 2026, le temps de travail cumulé de ses agents avait dépassé celui de ses salariés. En août, les agents lancés directement par les employés totalisaient six heures de fonctionnement pour une heure de travail humain. L’entreprise décrit des flottes d’agents corrigeant des bugs, réalisant des tests, assurant la maintenance de code ou participant à de grands projets logiciels.

Au même moment, quelque chose d’autre s’est produit.

La part des profils juniors parmi les recrutements techniques d’Anthropic est passée de 27 % à 9 % depuis le début de 2025. Leur part dans les effectifs techniques est passée de 21 % à 14 %. Les recrutements techniques continuent en valeur absolue parce que l’entreprise grandit, mais la composition des équipes change.

Une seule entreprise ne permet évidemment pas de prédire l’ensemble du marché du travail. Anthropic le reconnaît elle-même. Mais son cas matérialise quelque chose que nous évoquions encore récemment comme une hypothèse.

L’IA ne doit pas forcément remplacer un salarié existant pour transformer l’emploi, il suffit parfois qu’elle occupe le poste que l’entreprise aurait autrefois créé.

Ce qui change également, c’est le travail des humains qui restent : les employés d’Anthropic passent davantage de temps à orchestrer les agents, vérifier leur production, arbitrer leurs propositions et construire des systèmes permettant de suivre ce qu’ils font. Le rapport explique même que l’attention humaine commence à devenir le goulot d’étranglement du système.

L’Humain+ dont on parle beaucoup pourrait donc prendre une forme légèrement différente de celle que nous imaginions. Ce ne serait pas seulement un humain utilisant une IA, ce serait un humain dirigeant une petite équipe d’IA.

Et là revient une question qui me poursuit depuis notre article sur les juniors : comment devient-on suffisamment expérimenté pour superviser cinq agents lorsqu’une partie des tâches sur lesquelles on apprenait justement le métier leur a déjà été confiée ?

Et maintenant, l’agent entre au laboratoire

Cette semaine, la même logique a quitté le bureau pour entrer dans la recherche biomédicale.

Anthropic a demandé à un modèle de recherche interne fonctionnant dans Claude Science de concevoir de petites protéines capables de se fixer sur des neurotoxines de scorpion. Pendant 64 heures, le système a utilisé douze outils spécialisés et généré plus de 318 000 conceptions avant d’en sélectionner une partie pour des tests physiques. Des laboratoires externes ont testé 211 candidats ; 17 ont répondu aux critères de liaison fixés par les chercheurs.

Ce n’est pas un antidote contre le venin de scorpion. Anthropic le précise clairement : les protéines n’ont pas encore démontré qu’elles neutralisaient le venin dans des cellules ou chez des animaux. Entre une protéine qui se fixe à une toxine et un médicament sûr, efficace, industrialisable et accessible, le chemin reste immense.

Mais l’organisation du travail est intéressante.

Un objectif. Des outils spécialisés. Des dizaines d’heures de travail. Des centaines de milliers de candidats générés et filtrés. Quelques interventions humaines. Puis un passage dans le monde physique pour vérifier ce que la machine avait proposé.

Deux jours auparavant, OpenAI annonçait le rachat d’Orchestra Bio, dont les agents sont conçus pour coordonner certaines étapes extrêmement complexes du développement pharmaceutique : suivi d’études, conséquences d’un retard de fabrication, organisation des prochaines étapes d’un programme clinique. OpenAI veut intégrer cette technologie à Rosalind, sa plateforme destinée aux sciences de la vie.

On comprend alors pourquoi le mot « agent » commence à intéresser beaucoup plus que les vendeurs de logiciels.

Dans la pharma, une semaine économisée peut déjà avoir une valeur considérable. Une année peut en valoir des centaines de millions. L’agent n’a pas besoin d’être Einstein, il doit être suffisamment bon pour faire avancer le travail pendant qu’Einstein dort.

Peut-être avons-nous placé la frontière au mauvais endroit

Il y a quelque chose de rassurant dans l’idée de l’AGI : elle dessine une frontière.

Avant : des machines spécialisées, encore sous notre contrôle.

Après : quelque chose de suffisamment intelligent pour nous obliger à repenser les règles.

Cette frontière nous permet de discuter du futur comme s’il existait un moment précis où tout allait basculer. On pourrait presque imaginer une notification apparaissant un matin sur notre téléphone : L’AGI est arrivée. Pensez à mettre à jour vos paramètres.

La réalité risque d’être beaucoup moins élégante.

Nous pouvons avoir des systèmes qui ne sont pas conscients, qui hallucinent encore, qui échouent sur des tâches étonnamment simples et qui restent inférieurs aux meilleurs humains dans de nombreux domaines.

Et leur donner malgré tout un ordinateur.

Puis un navigateur.
Puis une mémoire.
Puis nos mails.
Puis nos applications professionnelles.
Puis plusieurs heures pour essayer.
Puis plusieurs autres agents pour les aider.

À ce moment-là, le problème change de nature bien avant que nous ayons réglé le débat philosophique sur l’intelligence générale. Le chatbot nous avait habitués à une relation assez confortable avec la machine : nous parlions, elle répondait.

L’agent inverse progressivement cette logique. Il travaille, surveille, rencontre des obstacles, choisit des étapes intermédiaires et revient vers nous lorsqu’il estime que notre intervention devient nécessaire.

Pour l’instant, OpenAI et Anthropic entourent ces systèmes d’autorisations, de confirmations et de restrictions. C’est indispensable. C’est également une reconnaissance implicite de ce qui est en train de se produire : plus nous donnons aux modèles la capacité d’agir, plus la sécurité dépend moins de ce qu’ils savent que de ce qu’ils sont autorisés à faire.

Peut-être que nous saurons un jour dater précisément l’arrivée de l’AGI.

Mais lorsque ce jour viendra, nous découvrirons peut-être que l’étape qui avait réellement changé notre rapport aux machines était beaucoup plus discrète.

Le moment où elles avaient cessé d’attendre nos questions pour commencer à poursuivre nos objectifs.

Tim-tim, pessoal, e bom fim de semana! 🍺