A Necessidade de Supervisão e Segurança em Agentes Autónomos de Inteligência Artificial

A delegação de tarefas mais longas e complexas a agentes autónomos de inteligência artificial por parte das empresas coloca em primeiro plano a questão de como supervisionar estes sistemas. Quando os agentes deixam de se limitar a gerar respostas e passam a executar ações sucessivas nos processos de negócio, a capacidade da supervisão humana pode ser posta à prova. Por esta razão, surgem abordagens de supervisão que recorrem à própria inteligência artificial para monitorizar e manter a IA sob controlo. Para as empresas, a questão fundamental reside em saber distinguir a delegação de tarefas da responsabilidade de controlo.

No centro do desafio da supervisão estão a velocidade, o volume de processamento e a duração das tarefas. Pode surgir uma disparidade evidente de capacidade entre as etapas que um ser humano consegue analisar individualmente e as ações que um agente consegue executar no mesmo período. À medida que a tarefa se prolonga, avaliar apenas o resultado final pode não ser suficiente. A deteção de erros nas etapas intermédias reveste-se de grande importância para assegurar a continuidade segura das operações subsequentes. Esta realidade demonstra que a supervisão não deve ser encarada unicamente como uma avaliação de resultados.

Os sistemas de supervisão suportados por inteligência artificial procuram dar resposta à necessidade de monitorizar e manter sob controlo os agentes que realizem operações erróneas ou que fujam aos parâmetros de comportamento esperados. A abordagem aqui adotada não se baseia na análise de todas as ações pelo ser humano com o mesmo nível de detalhe, mas sim no reforço da capacidade de supervisão através da tecnologia. Contudo, a utilização de uma inteligência artificial supervisora não significa que o problema do controlo fique automaticamente resolvido. Importa também definir com clareza quais os comportamentos que este sistema irá avaliar e em que momentos será necessária uma intervenção humana.

Para as empresas que recorrem a agentes autónomos nos seus processos de negócio, esta evolução exige que a gestão de riscos e a segurança dos sistemas sejam pensadas em conjunto. Tão importante quanto definir quais as operações a delegar a um agente é determinar como suspender o processo ou submetê-lo a análise perante uma operação incorreta. Por conseguinte, a abordagem de supervisão não é uma mera questão de monitorização técnica. A definição de responsabilidades operacionais e das condições de intervenção deve ser encarada como parte integrante da avaliação orientada para a preservação da continuidade do negócio.

Na utilização empresarial de agentes autónomos, o foco está a expandir-se: em vez de se limitar à automatização de um maior volume de tarefas, passa a abranger a forma como essas tarefas devem ser supervisionadas. A supervisão suportada por inteligência artificial destaca-se como uma abordagem ponderada para processos em que a análise humana é posta à prova em termos de velocidade e volume. Para as empresas, um enquadramento sólido implica estabelecer uma supervisão adequada à complexidade das tarefas e manter bem definido o papel da intervenção humana. Deste modo, o planeamento da automatização não é dissociado das exigências de segurança e de continuidade operacional.