Il y a deux ou trois ans, à Bergerac, j’ai assisté à une conférence du professeur Gérard Berry sur l’intelligence artificielle et l’imagerie médicale. Il reprenait devant nous un sujet qu’il avait traité au Collège de France, lors d’un colloque intitulé « L’imagerie médicale à l’heure de l’IA : défis et opportunités ». Celle-là était différente : une petite assemblée, un cadre privé, et surtout du temps pour les questions. C’est ce qui en a fait la valeur.
Quelqu’un a fini par poser la question que tout le monde retenait : cette technologie me fait peur, elle change le monde trop vite. La réponse de Berry, dont je ne garantis pas les mots exacts mais dont je me rappelle très bien l’effet, tenait en une idée : l’IA aura toujours besoin de l’humain pour la nourrir. Sans nous, elle tourne en rond.
Ça a rassuré la salle. Moi le premier.
Ce que j’avais compris ce soir-là
J’en étais reparti avec une image simple : l’IA est un outil, l’humain le nourrit et l’oriente. Deux verbes, deux rôles, une hiérarchie claire. Je fournis la matière et la direction, la machine exécute. Rassurant parce que ça ressemblait à ce que je connaissais déjà : un logiciel, un tableur, un outil de campagne. Puissant, mais inerte tant que personne ne s’en sert.
Le « nourrir » a d’ailleurs reçu une confirmation après coup. Une étude parue dans Nature en 2024 a montré que l’usage indiscriminé de contenu généré par des modèles dans leur propre entraînement provoque des défauts irréversibles : au fil des générations, les extrémités de la distribution d’origine disparaissent, et le contenu réel cède la place à du bruit. Berry avait raison, et pas seulement en intuition.
Mais les auteurs de cette étude ajoutent une nuance décisive. Entraîner un modèle sur des données générées n’est pas impossible : ce qui compte, c’est le filtrage. Et un filtrage suppose un critère extérieur, quelque chose qui vienne du monde et qui dise ce qui est vrai.
Ce qui a changé
Ce qui m’a fait douter de la phrase de Berry, ce n’est pas la puissance des modèles. C’est leur autonomie.
En deux ans, ils ont cessé d’attendre qu’on les nourrisse. Ils vont chercher. Ils consultent une source, exécutent un code, constatent qu’il échoue, recommencent. Ils enchaînent des dizaines d’étapes sans qu’on repasse derrière à chaque fois. Le contact avec le réel, cette fameuse nourriture, ne s’est pas supprimé : il s’est automatisé.
C’est là que la formule de Berry se fissure. Elle décrivait un humain fournisseur de matière première. Ce rôle-là, l’IA se le procure désormais toute seule.
Un exemple, cette semaine
Je construis l’architecture de ce site avec des agents IA. L’un d’eux devait créer cette rubrique : je lui avais donné une spécification précise, y compris le texte exact de chaque élément. Il a livré le travail, propre, conforme, et il a ajouté de lui-même une phrase d’introduction que je n’avais pas demandée : « Ce que je vois en dehors du travail. »
Bien écrite. Plausible. Et fausse. Parce que la moitié de ce que je compte publier ici parle précisément de mon métier. Cette phrase, personne ne l’aurait signalée en la lisant : elle sonne juste, elle ressemble à ce qu’on attend d’une rubrique personnelle. Il fallait connaître mon intention éditoriale, que je n’avais écrite nulle part en entier, pour voir qu’elle la contredisait.
Voilà exactement où en est la chose. La machine a produit, sans qu’on lui demande, du contenu convaincant et hors sujet. Et ce qui l’a rattrapé, ce n’est pas une vérification technique. C’est quelqu’un qui savait ce qu’il voulait dire.
Encore avant : savoir quoi lui demander
Il y a un rôle plus fondamental que celui de juge, et on l’oublie parce qu’il ne ressemble pas à du travail.
Dans le réseau immobilier où je travaille, nous déployons depuis quelques mois des outils à destination de nos conseillers. Photo, vidéo, texte, processus internes. Rien de tout cela n’est parti d’une démonstration technologique. Chaque fois, c’est parti d’un point de friction : quelque chose qui prend trop de temps, que personne n’aime faire, que certains contournent, que d’autres bâclent faute de mieux. Et pour identifier ces points-là, il faut avoir passé du temps avec les gens qui les vivent.
Aucun modèle ne les remonte tout seul. Il ne sait pas ce qui agace, ce qui décourage, ce qui fait qu’un outil est adopté ou abandonné au bout de trois semaines. Cette information n’est écrite nulle part. Elle est dans une conversation avec quelqu’un qui fait le métier.
C’est le vrai déplacement, et il est plus profond que la question du contrôle. Ce que l’humain apporte n’est plus la matière, ni même la vérification. C’est le problème. Le choix de ce qui mérite d’être résolu.
La vraie question
J’écris ces lignes le soir où j’entends un journaliste évoquer, quelque part sur un front, un drone qui aurait choisi sa cible seul. Je ne sais pas si c’est exact, et ce n’est pas mon sujet. Mais la phrase reste en travers, parce qu’elle décrit exactement ce dont je parle ici : une machine qui ne demande plus qu’on lui dise quoi faire.
Berry a raison sur un point qui n’a pas bougé : quelqu’un doit dire ce qui compte. Le filtrage dont parle l’étude de Nature n’est pas une opération neutre. En imagerie médicale, son terrain, le critère est matériel : le diagnostic confirmé, l’évolution réelle du patient. Ailleurs, c’est la visite déclenchée, le mandat signé, l’outil adopté ou contourné. Une machine peut aller chercher cette information. Elle ne décide pas que c’est celle-là qu’il faut regarder.
Ma conclusion est donc moins rassurante que celle de la salle ce soir-là, et moins alarmante que ce que je craignais en commençant à écrire. L’IA n’a plus besoin de nous pour se nourrir. Elle a toujours besoin de nous pour savoir quel problème vaut la peine d’être résolu, et pour dire si la réponse est bonne. Notre rôle n’a pas disparu, il a remonté la chaîne : de producteur vers commanditaire et juge.
Ce qui laisse une question ouverte, et c’est celle que j’aurais dû poser ce soir-là. Une IA autonome reste au service de l’humain tant que quelqu’un tient ces deux places. Que se passe-t-il le jour où plus personne ne les tient ? Parce que c’est plus rapide, parce que c’est moins cher, parce qu’il est plus confortable de laisser faire. Ou parce que, dans certains usages, on aura décidé que c’était mieux ainsi.
Berry a répondu à la peur de la salle. Pas à celle-là.
