À medida que as empresas passam da experimentação com IA para a aplicação em fluxos de trabalho reais, a conversa sobre supervisão humana precisa evoluir.
Ouvimos falar muito sobre manter uma “pessoa no processo”. Na maioria das vezes, isso significa que uma pessoa revisa o que a IA produz antes que uma decisão seja tomada ou uma ação seja realizada. Para muitas organizações, esse é um ponto de partida adequado. Quando a tecnologia, os dados ou o processo ainda estão sendo testados, a revisão humana oferece uma salvaguarda importante.
Mas revisar manualmente cada resultado de IA não é um modelo operacional escalável.
A oportunidade agora é trazer o julgamento humano para uma etapa anterior do processo, onde o contexto de negócios, as regras e as diretrizes podem orientar a forma como um agente atua.
Coloque a expertise de negócios no fluxo de trabalho
Eu me refiro a essa mudança como “supervisão incorporada”.
Em vez de depender das pessoas para identificar problemas depois que a IA produz uma resposta, podemos incorporar o conhecimento de especialistas do domínio ao fluxo de trabalho antes mesmo de a IA agir.
Afinal, as pessoas mais próximas de um processo de negócios costumam entender suas nuances melhor do que ninguém.
Um analista financeiro sabe quais variâncias justificam uma investigação. Um expert em sinistros entende quais combinações de informações devem acionar um escrutínio adicional. Um profissional tributário sabe quais regras se aplicam a uma jurisdição específica. Um líder de operações entende quando uma exceção é significativa e quando é simplesmente uma variação normal.
Esse conhecimento é incrivelmente valioso para a IA.
A meta deve ser traduzi-lo em regras, fluxos de trabalho, limites e proteções reutilizáveis que os sistemas baseados em IA possam seguir consistentemente. Esse mesmo princípio se reflete em nossa estrutura VCRA para IA confiável. Para que a IA opere com confiabilidade em escala, os fluxos de trabalho e a lógica de negócios por trás dela precisam ser visíveis, compreensíveis, repetíveis e auditáveis.
A supervisão incorporada ajuda a tornar esses princípios operacionais ao inserir a expertise humana no processo antes que um agente aja.
Como a supervisão integrada funciona na prática
Deixe-me dar dois exemplos de como isso funciona, porque acho que a ideia só faz sentido quando você a vê em um fluxo de trabalho real.
O primeiro é de uma equipe de finanças que faz a reconciliação do balanço patrimonial de fim de mês. O fluxo de trabalho extrai lançamentos contábeis, PDFs e extratos do sistema ERP e, em seguida, consolida 30 dias de cálculos diários. Na maioria das vezes, ele é executado em segundo plano. Mas, se detectar algo estranho, como uma variação grande e inexplicável referente a um único fornecedor durante essa janela de 30 dias, ele para e envia um alerta, seja por e-mail ou como um pop-up dentro da plataforma.
O analista pode aprovar o número, rejeitá-lo ou corrigi-lo antes que o fluxo de trabalho continue. Ninguém está revisando cada linha da reconciliação manualmente. A atenção humana vai exatamente para onde é necessária e para nenhum outro lugar.
A segunda vem de um de nossos parceiros do setor de seguros. A IA deles cuida da troca inicial de mensagens com alguém relatando um acidente de carro. Na maioria das vezes, essa conversa é rotineira. Mas quando algo não bate, como um requerente avaliando o próprio veículo em £ 1 milhão em contraste com uma placa que corresponde a uma marca e modelo muito mais baratos, o fluxo de trabalho pausa e aciona um analista de sinistros.
O responsável não precisa analisar cada solicitação que chega. Eles entram em cena exatamente quando os números deixam de fazer sentido, analisam a discrepância e tomam a decisão que uma pessoa deveria tomar de qualquer forma.
Ambos os exemplos funcionam da mesma maneira por trás. Alguém decidiu com antecedência o que o agente tinha permissão para fazer. O fluxo de trabalho foi executado dentro desses limites e parou no momento em que atingiu a aresta deles. O ser humano não era um gargalo no final do processo. Eles eram uma decisão tomada no início dele, antes mesmo de o fluxo de trabalho ser executado.
Como isso impacta o analista
Costumam me perguntar como a supervisão integrada vai impactar o trabalho do analista. Minha visão é que os analistas se tornarão gestores de agentes.
Eles fornecerão a lógica de negócios de que ela precisa para fazer um bom trabalho, definirão os limites que indicam quando parar e perguntar em vez de adivinhar, e revisarão a lógica por trás de suas decisões, fazendo ajustes à medida que o próprio negócio muda.
Essas responsabilidades exigem muitas das habilidades que já tornam os bons analistas valiosos: contexto de negócios, letramento em dados, pensamento crítico e a compreensão de como os processos realmente funcionam.
A próxima fase da intervenção humana
À medida que a IA corporativa amadurece, não acredito que o sucesso será medido pelo quanto conseguimos remover as pessoas de um processo, mas pela eficácia com que conseguimos aplicar a expertise humana.
Para algumas decisões, isso ainda significará aprovação humana explícita. Para outras, isso significará monitorar a IA e intervir quando necessário. E, cada vez mais, isso significará capturar o julgamento humano no início do processo por meio de dados confiáveis, regras de negócios, fluxos de trabalho e guardrails.
É para onde a intervenção humana está caminhando.
Quando transferimos o julgamento humano para a etapa inicial, podemos dar à IA mais espaço para operar sem abrir mão do contexto, controle e responsabilidade de que as empresas precisam para confiar nos resultados.