Confier une mission à une intelligence artificielle, c'est lui permettre d'agir au nom de l'entreprise. Pour que cette délégation soit utile sans devenir un risque, cinq garde-fous sont nécessaires.
1. Des autorisations précises
L'IA ne doit pouvoir faire que ce que sa mission exige. Un agent chargé de relancer des devis n'a pas besoin de modifier les tarifs ni d'accéder à la comptabilité. Définir le périmètre d'action, c'est limiter l'étendue d'une erreur possible.
2. Des validations humaines aux bons endroits
Toutes les actions ne se valent pas. Préparer un brouillon est sans risque ; envoyer une offre commerciale engage l'entreprise. Les actions qui engagent, par leur coût, leur visibilité ou leur caractère irréversible, doivent être soumises à une personne qui décide. Au début d'une mission, on valide beaucoup ; ensuite, on ajuste selon les résultats.
3. Des plafonds budgétaires
Une campagne publicitaire, une consommation d'appels ou de messages : tout ce qui coûte doit avoir un plafond que l'agent ne peut pas dépasser. Le plafond doit être appliqué par le système, pas seulement écrit dans une consigne.
4. Une traçabilité complète
Ce qui a été fait, quand, sur quelle décision et avec quel résultat doit rester consultable. C'est ce qui permet de comprendre une erreur, de la corriger et d'améliorer la mission. Sans trace, on ne peut ni vérifier ni apprendre.
5. La possibilité d'interrompre
À tout moment, il faut pouvoir mettre une mission en pause ou l'arrêter, sans délai. C'est le garde-fou ultime : si quelque chose ne va pas, on arrête d'abord, on analyse ensuite.
Le modèle de contrôle de ChorAigraph
ChorAigraph est construit autour de ces cinq garde-fous. Chaque employé numérique agit dans un périmètre défini ; les actions sensibles passent par validation ; les dépenses sont plafonnées ; chaque action laisse une trace ; chaque mission peut être suspendue ou arrêtée depuis l'écran.
Déléguer n'est pas abdiquer. C'est décider précisément où le contrôle s'exerce, comme nous le développions dans Automatiser sans perdre le contrôle. Pour une application concrète, voyez Comment automatiser sa prospection commerciale avec l'IA.