L’humain dans la boucle, expliqué : quand un agent IA doit demander d’abord

En bref

L’humain dans la boucle signifie qu’un agent IA peut préparer une action, mais qu’une personne doit l’approuver avant qu’elle ait lieu. Cela s’impose devant tout ce qui est irréversible ou tourné vers l’extérieur : déplacer de l’argent, envoyer des messages, changer des droits, supprimer des données. Une bonne approbation montre le changement exact, la raison de l’agent et les éléments utilisés ; elle se refuse facilement, expire sans réponse, est journalisée et ne peut pas être contournée, car l’agent ne détient jamais la clé qui exécute l’action.

Dans la boucle, sur la boucle, hors de la boucle

Dans la boucle : l’agent propose, une personne décide, puis l’action a lieu. Sur la boucle : l’agent agit, une personne observe et peut l’arrêter. Hors de la boucle : l’agent agit seul. La plupart des entreprises veulent des agents « dans la boucle » pour tout ce qui a des conséquences, et « hors de la boucle » pour lire et préparer le travail.

Quelles actions exigent une personne

L’argent : remboursements, versements, factures, remises, changements d’abonnement.
La communication externe : e-mails, messages et publications qui atteignent des clients ou le public.
Les droits : accorder un accès, changer des clés, ajouter des utilisateurs.
La suppression, et tout ce qui ne peut pas être annulé.
Tout ce qui dépasse un montant que vous fixez, même si les petites actions se font seules.

À quoi ressemble une bonne approbation

Le changement exact, pas un résumé : montant, destinataire, objet.
Pourquoi l’agent le veut, et ce qu’il a lu pour y arriver.
Un geste délibéré pour approuver, un clic pour refuser.
Une expiration, pour que les propositions oubliées ne traînent pas.
Une trace de la proposition, de la décision et du résultat.
Aucun contournement possible : l’agent ne détient pas de clé capable d’exécuter l’action directement.

Les pratiques qui échouent

Demander au modèle de se vérifier lui-même n’est pas un contrôle : le modèle qui s’est trompé confirme son erreur. Les approbations dans une fenêtre de chat, au milieu du reste, sont validées sans lecture. Et une barrière que l’agent peut contourner, parce qu’il détient aussi les vrais identifiants, n’est qu’un décor.

Check-list

Check-list de l’humain dans la boucle

Nous avons listé les actions d’agents qui exigent l’approbation d’une personne.
Les approbations montrent le changement, la raison et les éléments.
L’agent ne peut pas exécuter lui-même les actions soumises à approbation.
Les propositions sans réponse expirent.
Chaque proposition et chaque décision est consignée.

La Human Queue, dans MoltenRock Connect

Goldcote a intégré ce principe dans MoltenRock Connect. C’est disponible pour Stripe : les agents proposent remboursements, factures et plus, vous approuvez avec Touch ID sur votre Mac, et seulement alors Connect envoie le changement. Cloudflare suit.

Questions

L’humain dans la boucle ralentit-il tout ?

Seulement pour les actions qui en ont besoin. Les agents lisent, cherchent et préparent à pleine vitesse ; la personne passe quelques secondes sur une décision bien préparée.

Peut-on fixer des seuils ?

Oui, c’est un schéma courant : les petites actions réversibles se font seules, les plus importantes attendent. Commencez strict et assouplissez avec l’expérience.

Une approbation dans Slack ou un chat suffit-elle ?

C’est mieux que rien, mais les approbations noyées dans la conversation sont vite validées et faciles à usurper. Une file dédiée, avec les éléments joints, fonctionne mieux.

Et si l’agent se trompe ?

C’est tout l’intérêt : l’erreur s’arrête à la proposition. Refusez-la, et l’historique aide à comprendre pourquoi.