Observabilité de bout en bout : identifiants de trace, comptabilité des jetons/coûts, tableaux de bord et alertes par organisation pour comprendre l'utilisation, les pics de coûts et le retour sur investissement des fonctionnalités d'IA.
L'analyse est la manière dont vous comprenez ce que fait réellement votre agent IA, combien cela coûte et si cela apporte de la valeur. Cette fonctionnalité couvre l'ensemble de la pile d'observabilité : le suivi de chaque conversation et appel IA de bout en bout, le calcul du coût de chaque demande, la consolidation de l'utilisation par client et la présentation de tout cela dans des tableaux de bord sur lesquels votre équipe peut agir. C'est la base des décisions produit, de la gestion des coûts et de la facturation des clients.
Gérer un produit IA est fondamentalement différent de gérer un produit logiciel traditionnel — les appels IA coûtent de l'argent par demande. Sans une analyse d'utilisation détaillée, vous ne pouvez pas répondre à des questions basiques mais critiques : Quels clients utilisent le plus de ressources ? Une configuration d'agent particulière est-elle plus coûteuse que prévu ? Le coût global augmente-t-il plus vite que les revenus ?
Chaque conversation crée une chaîne d'événements que le système d'analyse suit :
L'identifiant de trace est un fil qui relie chaque donnée concernant une seule conversation. Si un client demande "pourquoi cette réponse est-elle incorrecte ?", votre équipe peut trouver l'identifiant de trace et voir l'ensemble du tableau : ce qui a été récupéré de la base de connaissances, ce qui a été envoyé à l'IA, ce que l'IA a renvoyé et quel post-traitement a eu lieu. Cela rend le débogage d'une réponse incorrecte spécifique possible en quelques minutes, et non en heures.
Pour votre équipe :
Vue par organisation (pour les clients) :
Les tarifs des fournisseurs IA changent périodiquement. Le système maintient une carte tarifaire qui peut être mise à jour lorsque les fournisseurs ajustent leurs tarifs, garantissant que les calculs de coûts restent précis. Si une demande particulière ne peut pas être mappée à un coût (par exemple, en raison d'une anomalie de rapport d'un fournisseur), elle est signalée comme "en attente" et recalculée une fois les données disponibles — vous ne perdez jamais silencieusement de données de coût.
L'équipe construit :
Une fois en ligne, vous aurez la visibilité pour comprendre exactement ce que coûte votre plateforme IA, qui entraîne ce coût et si vous obtenez le retour que vous attendez.