Fluxos de trabalho empresariais mais rápidos com a transição de modelo no KobiGPT

Na X Mind Solutions, concluímos a transição do Gemini Flash 3.5 para o Gemini Flash 3.7 no KobiGPT com alguns dos nossos clientes-piloto. O KobiGPT utiliza agora o Gemini Flash 3.7. Os nossos registos em ambiente de utilização real indicam que a mudança de modelo não só acelerou a geração de texto, como também os fluxos de trabalho associados aos sistemas da empresa. Para nós, o verdadeiro valor desta evolução reside mais na redução do tempo de espera do utilizador para obter uma resposta do que num simples ganho de desempenho técnico.

Em pedidos que não utilizam ferramentas, a velocidade de produção, que se situava em cerca de 42 tokens/segundo com o Gemini Flash 3.5, subiu para aproximadamente 117 tokens/segundo com o Gemini Flash 3.7. Isto representa uma velocidade de geração de texto cerca de 2,8 vezes superior. No entanto, esta métrica por si só não traduz a totalidade da experiência do KobiGPT. Responder a uma questão empresarial exige frequentemente, além da geração de texto, aceder a registos relevantes, bem como filtrar e analisar dados.

Nos fluxos de trabalho reais que recorrem a ferramentas envolvendo ERP, CRM, RAG e outros sistemas empresariais, o tempo médio de resposta diminuiu de 39,8 segundos para 12,7 segundos. Verificámos assim uma redução de cerca de 68% no tempo total de espera. Estes valores não foram obtidos em testes de laboratório, mas sim a partir do tráfego de utilização real do KobiGPT. Avaliamos os resultados sob esta perspetiva: as médias registadas não constituem uma garantia de que todas as consultas terminem no mesmo intervalo, mas representam um indicador concreto da evolução observada nos fluxos.

Por exemplo, quando um utilizador pergunta quais foram os produtos menos vendidos no mês anterior, o KobiGPT não se limita a redigir uma resposta textual. Obtém os registos de vendas através da ligação ao ERP, filtra o intervalo de datas relevante e analisa os produtos juntamente com os volumes de vendas. Quando necessário, cruza estas informações com os dados de stock para listar os produtos com menor desempenho comercial. Em seguida, apresenta o resultado de forma clara. A aceleração que medimos em fluxos semelhantes com recurso a ferramentas reflete-se diretamente no tempo total de espera deste processo com múltiplas etapas.

O acesso ao KobiGPT não se limita à Web e aos dispositivos móveis; os utilizadores também podem colocar questões sobre os dados da empresa através do WhatsApp. Saber se existe alguma anomalia na produção, solicitar um resumo do relatório de produção da última semana ou listar clientes com pagamentos em atraso são alguns exemplos desta utilização. O KobiGPT liga-se aos sistemas da empresa de acordo com as permissões do utilizador, localiza e analisa os dados pertinentes e envia a resposta para o WhatsApp. Deste modo, não é necessário aceder a outra aplicação para colocar a questão.

Com a transição de modelo, alcançamos custos de modelo mais reduzidos, fluxos baseados em agentes mais céleres e interações mais rápidas com o ERP e o CRM. Sob a perspetiva do utilizador, o nosso foco consiste em fornecer respostas sustentadas em dados reais da empresa com um tempo de espera menor. Consideramos o acesso via Web, dispositivos móveis e WhatsApp parte integrante desta experiência. As empresas que pretendam analisar as ligações atuais de ERP e CRM do KobiGPT podem consultar os sistemas suportados na secção de Integrações do nosso website.