À mesure que les entreprises passent de l'expérimentation de l'IA à son intégration dans des workflows réels, les discussions autour de la supervision humaine doivent évoluer.
On entend beaucoup parler de garder un « humain dans la boucle ». Le plus souvent, cela signifie qu'une personne examine ce que produit l'IA avant qu'une décision ne soit prise ou qu'une action ne soit menée. Pour de nombreuses entreprises, c'est un bon point de départ. Lorsque la technologie, les données ou le processus sont encore en phase de test, le contrôle humain constitue un garde-fou essentiel.
Mais examiner manuellement chaque résultat d'IA n'est pas un modèle opérationnel évolutif.
L'opportunité consiste désormais à faire intervenir le jugement humain plus en amont dans le processus, là où le contexte métier, les règles et les garde-fous peuvent guider la manière dont un agent agit.
Intégrez l'expertise métier dans le workflow
Je qualifie cette transition de « supervision intégrée ».
Au lieu de compter sur des personnes pour détecter les problèmes après que l'IA a produit une réponse, nous pouvons intégrer les connaissances des experts du domaine dans le workflow avant même que l'IA n'agisse.
Après tout, les personnes les plus proches d'un processus métier comprennent généralement mieux ses nuances que quiconque.
Un analyste financier sait quels écarts justifient un examen approfondi. Un expert en sinistres comprend quelles combinaisons d'informations doivent déclencher un examen plus approfondi. Un professionnel de la fiscalité sait quelles règles s'appliquent à une juridiction particulière. Un responsable des opérations comprend quand une exception est significative et quand il s'agit simplement d'une variation normale.
Ces connaissances sont extrêmement précieuses pour l'IA.
L'objectif devrait être de le traduire en règles, workflows, seuils et garde-fous réutilisables que les systèmes alimentés par l'IA peuvent suivre de manière cohérente. Ce même principe se reflète dans notre cadre VURA pour une IA digne de confiance. Pour que l'IA fonctionne de manière fiable à grande échelle, les workflows et la logique métier sous-jacents doivent être visibles, compréhensibles, reproductibles et auditables.
La supervision intégrée permet de rendre ces principes opérationnels en intégrant l'expertise humaine au processus avant qu'un agent n'agisse.
À quoi ressemble la supervision intégrée en pratique
Voici deux exemples de ce à quoi cela ressemble, car je pense que l'idée ne prend tout son sens que lorsque vous la voyez dans un workflow réel.
Le premier provient d'une équipe financière effectuant le rapprochement du bilan de fin de mois. Le workflow extrait les écritures de journal, les PDF et les extraits du système ERP, puis cumule 30 jours de calculs quotidiens. La plupart du temps, il s'exécute en arrière-plan. Mais s'il détecte une anomalie, par exemple une variation importante et inexpliquée concernant un seul fournisseur sur cette période de 30 jours, il s'arrête et envoie une alerte, soit par e-mail, soit sous forme de pop-up au sein de la plateforme.
L'analyste peut approuver le chiffre, le rejeter, ou le corriger avant que le workflow ne se poursuive. Personne n'examine chaque ligne du rapprochement à la main. L'attention humaine se porte exactement là où elle est nécessaire, et nulle part ailleurs.
Le deuxième provient de l'un de nos partenaires du secteur des assurances. Leur IA gère les premiers échanges avec la personne qui déclare un accident de la route. La plupart du temps, cet échange est une simple routine. Mais lorsque quelque chose ne concorde pas, par exemple lorsqu'un demandeur évalue son véhicule à 1 million de £ alors que la plaque d'immatriculation correspond à une marque et un modèle bien moins chers, le workflow se met en pause et fait intervenir un gestionnaire de sinistres.
Le gestionnaire n'a pas à examiner chaque sinistre qui lui parvient. Ils interviennent précisément lorsque les chiffres cessent d'avoir du sens, examinent l'incohérence, et prennent la décision qu'une personne devrait de toute façon prendre.
Les deux exemples fonctionnent de la même manière en dessous. Quelqu'un a décidé à l'avance de ce que l'agent était autorisé à faire. Le workflow s'est exécuté dans ces limites et s'est arrêté dès qu'il en a atteint les bords. L'humain n'était pas un goulet d'étranglement à la fin du processus. Il s'agissait d'une décision prise en amont, avant même que le workflow ne s'exécute.
L'impact sur l'analyste
On me demande souvent quel sera l'impact de la supervision intégrée sur le métier d'analyste. Selon moi, les analystes deviendront des managers d'agents.
Ils lui fourniront la logique métier dont elle a besoin pour bien faire son travail, définiront les seuils qui lui indiquent quand s'arrêter et poser des questions plutôt que de deviner, et examineront la logique qui sous-tend ses décisions, en l'ajustant au fur et à mesure que l'entreprise elle-même évolue.
Ces responsabilités requièrent de nombreuses compétences qui font déjà la valeur des analystes chevronnés : contexte métier, data literacy, esprit critique, et compréhension du fonctionnement réel des processus.
La phase suivante de l'intervention humaine
À mesure que l'IA d'entreprise gagne en maturité, je ne pense pas que le succès sera mesuré à la façon dont nous retirons totalement les humains d'un processus, mais à l'efficacité avec laquelle nous pouvons appliquer l'expertise humaine.
Pour certaines décisions, cela signifiera toujours une approbation humaine explicite. Pour d'autres, cela signifiera surveiller l'IA et intervenir si nécessaire. Et de plus en plus, cela signifiera capturer le jugement humain dès le début du processus grâce à des données fiables, des règles métier, des workflows et des garde-fous.
C'est vers cela que tend l'approche avec un humain dans la boucle.
Lorsque nous déplaçons le jugement humain en amont, nous pouvons donner à l'IA une plus grande marge de manœuvre sans renoncer au contexte, au contrôle, et à la responsabilité dont les entreprises ont besoin pour faire confiance aux résultats.