A medida que las empresas pasan de experimentar con IA a incorporarla en flujos de trabajo reales, la conversación en torno a la supervisión humana debe evolucionar.
Se escucha mucho sobre mantener a un “humano en el circuito”. La mayoría de las veces, eso significa que una persona revisa lo que produce la IA antes de tomar una decisión o realizar una acción. Para muchas organizaciones, ese es un buen lugar para comenzar. Cuando la tecnología, los datos o el proceso aún están a prueba, la revisión humana ofrece una protección importante.
Sin embargo, revisar cada resultado de IA a mano no es un modelo operativo escalable.
Ahora, la oportunidad es trasladar el criterio humano a una etapa más temprana del proceso, donde el contexto de negocio, las reglas y las medidas de protección puedan guiar cómo actúa un agente.
Pon la experiencia empresarial en el flujo de trabajo
Me refiero a ese cambio como “supervisión integrada”.
En lugar de depender de las personas para detectar problemas después de que la IA haya producido una respuesta, podemos integrar el conocimiento de los expertos en el dominio en el flujo de trabajo antes de que la IA siquiera actúe.
Después de todo, las personas más cercanas a un proceso de negocio suelen entender sus matices mejor que nadie.
Un analista de finanzas sabe qué variaciones requieren investigación. Un experto en reclamos comprende qué combinaciones de información deberían activar un escrutinio adicional. Un profesional de impuestos sabe qué reglas se aplican a una jurisdicción en particular. Un líder de operaciones comprende cuándo una excepción es significativa y cuándo es simplemente una variación normal.
Ese conocimiento es increíblemente valioso para la IA.
El objetivo debería ser transformarlo en reglas, flujos de trabajo, umbrales y barreras de protección reutilizables que los sistemas basados en IA puedan seguir de manera coherente. Ese mismo principio se refleja en nuestro marco VERA para una IA confiable. Para que la IA funcione de manera confiable a medida, los flujos de trabajo y la lógica de negocio detrás de ella deben ser visibles, entendibles, repetibles y auditables.
La supervisión integrada ayuda a hacer operativos esos principios al incorporar la experiencia humana en el proceso antes de que un agente actúe.
Cómo se ve la supervisión integrada en la práctica
Déjame darte dos ejemplos de cómo se ve esto, porque creo que la idea solo cobra sentido cuando la ves en un flujo de trabajo real.
El primero es de un equipo de finanzas que realiza la conciliación del balance general de fin de mes. El flujo de trabajo extrae asientos de diario, archivos PDF y extractos del sistema ERP, y luego consolida 30 días de cálculos diarios. La mayor parte del tiempo se ejecuta en segundo plano. Pero si detecta algo inusual, como una variación grande e inexplicable en relación con un solo proveedor durante ese período de 30 días, se detiene y envía una alerta, ya sea por correo electrónico o como una ventana emergente dentro de la plataforma.
El analista puede aprobar el número, rechazarlo o corregirlo antes de que el flujo de trabajo continúe. Nadie está revisando cada línea de la conciliación a mano. La atención humana se dirige exactamente a donde se necesita y a ningún otro lugar.
El segundo proviene de uno de nuestros socios de seguros. Su IA se encarga de la interacción inicial con alguien que reporta un accidente automovilístico. La mayoría de las veces, esa conversación es de rutina. Pero cuando algo no coincide, por ejemplo, si un reclamante valora su vehículo en £1 millón frente a una matrícula que corresponde a una marca y un modelo mucho más económicos, el flujo de trabajo se pausa e incorpora a un gestor de reclamos.
El gestor no tiene que revisar cada reclamo que llega. Aparecen exactamente cuando los números dejan de tener sentido, analizan la discrepancia y toman la decisión que una persona debería tomar de todos modos.
Ambos ejemplos funcionan de la misma manera internamente. Alguien decidió de antemano qué se le permitía hacer al agente. El flujo de trabajo se ejecutó dentro de esos límites y se detuvo en el momento en que llegó al límite. La persona no era un cuello de botella al final del proceso. Era una decisión tomada al principio, antes de que el flujo de trabajo se ejecutara.
Cómo afecta esto al analista
A menudo me preguntan cómo la supervisión integrada impactará el trabajo del analista. Mi opinión es que los analistas se convertirán en administradores de agentes.
Le darán la lógica de negocios que necesita para hacer bien la tarea, establecerán los umbrales que le indiquen cuándo detenerse y preguntar en lugar de adivinar, y revisarán la lógica detrás de sus decisiones, ajustándola a medida que el propio negocio cambie.
Esas responsabilidades requieren muchas de las habilidades que ya hacen valiosos a los analistas destacados: contexto de negocio, alfabetización en datos, pensamiento crítico y comprensión de cómo funcionan realmente los procesos.
La siguiente fase de la intervención humana
A medida que la IA empresarial madura, no creo que el éxito se mida por qué tan completamente eliminamos a las personas de un proceso, sino por qué tan eficazmente podemos aplicar la experiencia humana.
Para algunas decisiones, eso seguirá significando una aprobación humana explícita. Para otras, significará monitorear la IA e intervenir cuando sea necesario. Y, cada vez más, significará capturar el criterio humano al principio del proceso a través de datos confiables, reglas empresariales, flujos de trabajo y barreras de seguridad.
Hacia allí se dirige la intervención humana.
Cuando trasladamos el criterio humano al inicio, podemos darle a la IA más margen para operar sin renunciar al contexto, el control y la rendición de cuentas que las empresas necesitan para confiar en los resultados.