Des workflows d’entreprise plus rapides grâce au changement de modèle de KobiGPT

Chez X Mind Solutions, nous avons achevé la migration de Gemini Flash 3.5 vers Gemini Flash 3.7 dans KobiGPT avec quelques-uns de nos clients pilotes. KobiGPT utilise désormais Gemini Flash 3.7. Nos journaux d’utilisation en conditions réelles montrent que ce changement de modèle accélère non seulement la génération de texte, mais aussi les workflows connectés aux systèmes de l’entreprise. Pour nous, l’intérêt de cette évolution réside moins dans un gain de performance technique que dans la réduction du temps d’attente des utilisateurs pour obtenir une réponse à leurs questions.

Pour les appels sans utilisation d’outils, la vitesse de génération est passée d’environ 42 tokens par seconde avec Gemini Flash 3.5 à environ 117 tokens par seconde avec Gemini Flash 3.7. Cela représente une génération de texte environ 2,8 fois plus rapide. Toutefois, cette mesure ne reflète pas à elle seule l’ensemble de l’expérience KobiGPT. Répondre à une question métier nécessite souvent, au-delà de la génération de texte, d’accéder aux enregistrements pertinents, de filtrer les données et de les analyser.

Dans les workflows réels utilisant des outils et faisant intervenir les ERP, CRM, RAG et autres systèmes de l’entreprise, le temps de réponse moyen est passé de 39,8 à 12,7 secondes. Nous avons ainsi constaté une réduction du temps d’attente total d’environ 68 %. Ces chiffres proviennent du trafic réel d’utilisation de KobiGPT, et non de tests en laboratoire. C’est dans ce cadre que nous interprétons les résultats : les moyennes mesurées ne garantissent pas que chaque requête sera traitée dans le même délai, mais constituent un indicateur concret de l’évolution des workflows observés.

Par exemple, lorsqu’un utilisateur demande quels produits se sont le moins vendus le mois dernier, KobiGPT ne se contente pas de préparer une réponse textuelle. Il récupère les données de vente via la connexion ERP, filtre la période concernée et analyse les produits ainsi que les quantités vendues. Si nécessaire, il croise ces informations avec les données de stock pour classer les produits affichant de faibles performances commerciales. Il présente ensuite le résultat de manière claire. L’accélération mesurée dans des workflows similaires utilisant des outils se traduit par une réduction du temps d’attente global de ce processus en plusieurs étapes.

L’accès à KobiGPT ne se limite pas au web et au mobile : les utilisateurs peuvent également poser des questions sur les données de l’entreprise via WhatsApp. Ils peuvent par exemple vérifier l’existence d’un incident de production, demander un résumé du rapport de production de la semaine écoulée ou obtenir la liste des clients dont les paiements sont en retard. KobiGPT se connecte aux systèmes de l’entreprise en fonction des autorisations de l’utilisateur, trouve et analyse les données pertinentes, puis transmet la réponse sur WhatsApp. Il n’est donc pas nécessaire de passer à une autre application pour poser sa question.

Avec ce changement de modèle, nous obtenons des coûts de modèle plus faibles, des workflows basés sur des agents plus rapides et des interactions accélérées avec les ERP et CRM. Du point de vue de l’utilisateur, notre priorité est de fournir une réponse fondée sur les données réelles de l’entreprise avec moins d’attente. Nous considérons également l’accès par le web, le mobile et WhatsApp comme faisant partie de cette expérience. Les entreprises souhaitant découvrir les connexions ERP et CRM existantes de KobiGPT peuvent consulter les systèmes pris en charge dans la rubrique Intégrations de notre site web.