Notion · Faire agir l’IA
Humain sur la boucle
Une organisation où le système agit et où une personne supervise, avec la possibilité d’intervenir. Elle demande de pouvoir détecter les écarts et interrompre le processus à temps.
Comment ça marche
Au début, un humain valide chaque résultat de l’automatisation : c’est l’humain dans la boucle. Avec le temps, les corrections deviennent rares sur les cas courants, et valider chaque résultat n’apporte plus rien : on clique sans lire. Passer sur la boucle, c’est changer de posture : l’automatisation agit seule, et l’humain surveille de l’extérieur, avec des indicateurs, des échantillons et un bouton d’arrêt.
Ce passage ne se fait pas en bloc. On trie les cas : les courants, bien maîtrisés, passent en surveillance ; les rares, les coûteux, les ambigus restent en validation. On définit ce qu’on surveille : volumes, taux d’erreur, cas renvoyés par l’automatisation elle-même, plaintes. Et on organise la surveillance : qui, quand, combien de temps, et ce qui déclenche un arrêt. L’humain n’a pas quitté la boucle ; il s’est placé là où son regard sert.
Un exemple concret
- Mois 1 et 2, dans la boucle : l’IA propose une catégorie et une priorité pour chaque ticket, un agent de support valide tout. Taux de correction : 18 %, puis 9 % après ajustement des consignes.
- Mois 3, tri : sur les catégories « question d’usage » et « demande de fonctionnalité », le taux de correction est sous 2 %. Elles passent en automatique. « Bug » et « facturation » restent en validation.
- Sur la boucle : la responsable support regarde chaque matin un tableau : volumes par catégorie, tickets que l’IA a marqués incertains, délais. Chaque vendredi, elle relit 30 tickets tirés au hasard.
- Mois 5, dérive : une nouvelle version du logiciel génère des questions que l’IA classe en « bug ». Le tableau montre un pic. Elle met en pause, ajoute trois exemples à la consigne, repasse une semaine en validation, puis rouvre.
Le temps de validation est passé de deux heures par jour à vingt minutes de surveillance. La qualité, mesurée sur les échantillons, est restée au niveau du mois 2.
Ce que ça change pour une équipe
- Le gain de l’automatisation se réalise. Tant qu’on valide tout, on a surtout déplacé le travail. Sur la boucle, on l’a vraiment réduit.
- La surveillance devient un métier. Lire des indicateurs, relire des échantillons, décider d’arrêter : une compétence qui s’apprend et se formalise.
- La confiance est documentée. Le passage sur la boucle s’appuie sur des chiffres et se justifie devant un client ou un auditeur.
- Les dérives se voient tôt. Avec de bons indicateurs, un changement d’environnement se remarque en jours, pas en mois.
Les limites et les erreurs fréquentes
- Passer sur la boucle par lassitude. Parce que valider est pénible, pas parce que les chiffres le permettent. C’est l’erreur la plus fréquente, et la plus coûteuse.
- Surveiller sans indicateurs. « Je jette un œil de temps en temps » n’est pas une surveillance. Il faut un tableau, un rythme, un responsable.
- Pas de bouton d’arrêt. Si arrêter l’automatisation demande un développeur et une demi-journée, personne n’arrête. L’arrêt doit être immédiat et réversible.
- Oublier les cas rares. Ils sont rares, donc peu visibles dans les échantillons, et souvent les plus coûteux. Ils restent en validation, ou ont des alertes dédiées.
Pour aller plus loin
Le Human-on-the-Loop repose sur l’observabilité, les alertes, les conditions d’arrêt et la capacité d’action de l’opérateur. Il convient de définir les actions réversibles et celles qui exigent une validation préalable.
Où ça se situe chez Opora
Programme 02 · AutomatiserAutomatiser les tâches répétitives
Faire passer une automatisation de la validation systématique à la surveillance, avec les indicateurs et les contrôles qui le permettent, c’est une étape du programme Automatiser.
Questions fréquentes
Quand peut-on passer sur la boucle ?
Quand les chiffres le justifient : après une période où un humain a tout validé, et où le taux de corrections est devenu faible et stable sur les cas courants. On garde la validation pour les cas rares ou coûteux, et on passe le reste en surveillance. C’est une décision mesurée, pas un acte de foi.
Surveiller, ça veut dire quoi concrètement ?
Regarder un tableau de bord quelques minutes par jour (volumes, taux d’erreur signalé, alertes), relire un échantillon chaque semaine, et pouvoir arrêter l’automatisation en un clic. La surveillance a un responsable nommé et un temps réservé ; sinon elle n’existe pas.
Que se passe-t-il en cas de dérive ?
L’automatisation est mise en pause, les cas récents sont revus, la cause est identifiée (un changement de format, un nouveau type de demande, une mise à jour du modèle) et corrigée. Puis on repasse, temporairement, en validation systématique le temps de vérifier. L’arrêt doit être simple et sans drame.