Un agent IA qui prend une décision, envoie un courriel, modifie un dossier client — puis n'en conserve aucune mémoire exploitable. Le scénario semble sorti d'un film de science-fiction, et pourtant il résume exactement ce qui se passerait si l'on déployait demain, dans une entreprise régulée, un agent autonome dépourvu de journal d'activité fiable. L'idée séduit sur le papier : l'agent va vite, il ne se plaint pas, il ne dort pas. Mais dès que l'on passe du prototype au déploiement réel, une question bloque tout : qui peut vérifier ce qu'il a fait, et comment ?

L'agent sans trace : un collaborateur fantôme

Imaginons un agent chargé du suivi de facturation. Il détecte une anomalie, corrige un montant, notifie le client. En apparence, tout fonctionne. Sauf que trois semaines plus tard, le service comptable constate un écart et veut comprendre l'origine de la correction. L'agent, lui, a « oublié » — ou plutôt, personne n'a prévu où stocker la trace de son intervention, dans quel format, avec quelle garantie d'intégrité.

Le problème n'est pas technique au sens strict : on sait journaliser. Le problème est que, dans la plupart des architectures d'agents actuelles, la journalisation est une option, un accessoire que l'on ajoute si l'on y pense. Or un agent sans trace n'est pas un agent efficace : c'est un collaborateur que l'on ne peut pas évaluer, que l'on ne peut pas corriger, et que l'on ne peut pas défendre devant un auditeur.

Le règlement européen sur l'intelligence artificielle, dans sa version définitive adoptée en 2024, pose un principe simple : les systèmes d'IA à risque doivent être conçus de manière à permettre une traçabilité suffisante de leur fonctionnement. Peu importe que l'on soit ou non concerné directement par le texte : le principe qu'il consacre — la traçabilité comme condition de la confiance — s'impose déjà, de facto, à toute entreprise qui veut déployer un agent en production.

Ce que l'entreprise perd quand elle ne peut pas auditer

Prenons les choses concrètement. Un agent qui agit sans laisser de trace expose l'entreprise à trois risques immédiats.

Le premier est opérationnel. Quand un incident survient — une facture émise en double, un rendez-vous client annulé par erreur — l'absence de journal transforme une correction rapide en enquête policière. On ne sait plus qui a fait quoi, ni quand, ni pourquoi. Le temps de résolution s'allonge, le coût aussi.

Le deuxième est organisationnel. Un agent dont on ne peut pas relire les décisions ne peut pas être amélioré. Comment identifier un biais, une dérive, une mauvaise interprétation d'une consigne, si l'on n'a aucun historique à examiner ? L'agent reste une boîte noire, et les boîtes noires finissent toujours par être débranchées.

Le troisième est juridique et commercial. Un client qui conteste une décision, un partenaire qui demande un justificatif, un régulateur qui exerce un droit de contrôle : dans tous ces cas, l'entreprise doit pouvoir produire la preuve de ce qui s'est passé. Sans journal fiable, elle ne peut rien produire. Et dans un monde professionnel où la preuve numérique devient la norme, ne pas pouvoir prouver revient à avoir tort — même quand on a raison.

Le journal infalsifiable : une mémoire qui ne triche pas

C'est ici qu'intervient une idée simple en apparence, mais puissante dans ses conséquences : le journal infalsifiable. Le principe est le suivant : chaque action de l'agent est enregistrée au moment où elle se produit, horodatée, signée, et stockée de manière à ce que personne — pas même l'administrateur du système — ne puisse la modifier ou la supprimer après coup.

Cette garantie change tout. D'abord, elle transforme l'agent en collaborateur auditable : chaque décision peut être relue, comprise, contestée si nécessaire. Ensuite, elle permet d'améliorer l'agent de manière rigoureuse, en s'appuyant sur des faits et non sur des impressions. Enfin, elle donne à l'entreprise un moyen de prouver sa bonne foi — auprès d'un client, d'un auditeur, ou d'un régulateur.

Un journal infalsifiable ne rend pas l'agent plus intelligent. Mais il le rend déployable. Et c'est sans doute la différence la plus importante : entre un agent brillant que l'on ne peut pas mettre en production et un agent modeste dont chaque geste peut être vérifié, c'est le second que l'entreprise choisira. Parce qu'en entreprise, la confiance ne se décrète pas : elle se construit, ligne par ligne, dans un journal que personne ne peut truquer.