Observabilité de bout en bout : identifiants de trace, comptabilité des jetons/coûts, tableaux de bord et alertes par organisation pour comprendre l'utilisation, les pics de coûts et le retour sur investissement des fonctionnalités AI.
L'analyse est comment vous comprenez ce que votre agent AI fait réellement, combien cela coûte et s'il apporte de la valeur. Cette fonctionnalité couvre l'ensemble de la pile d'observabilité : suivi de chaque conversation et appel AI de bout en bout, calcul du coût de chaque demande, regroupement de l'utilisation par client, et mise en surface de tout cela dans des tableaux de bord sur lesquels votre équipe peut agir. C'est la base pour les décisions produit, la gestion des coûts et la facturation des clients.
Faire fonctionner un produit AI est fondamentalement différent de faire fonctionner un produit logiciel traditionnel — les appels AI coûtent de l'argent par demande. Sans analyses d'utilisation détaillées, vous ne pouvez pas répondre à des questions basiques mais critiques : Quels clients utilisent le plus de ressources ? Une configuration d'agent particulière est-elle plus coûteuse que prévu ? Le coût global augmente-t-il plus vite que les revenus ?
Chaque conversation crée une chaîne d'événements que le système d'analyse suit :
L'identifiant de trace est un fil qui relie chaque morceau de données concernant une seule conversation. Si un client demande "pourquoi cette réponse est-elle sortie incorrecte ?" votre équipe peut trouver l'identifiant de trace et voir l'ensemble du tableau : ce qui a été récupéré de la base de connaissances, ce qui a été envoyé à l'AI, ce que l'AI a renvoyé et quel post-traitement a eu lieu. Cela rend le débogage d'une mauvaise réponse spécifique possible en quelques minutes, pas en heures.
Pour votre équipe :
Vue par organisation (pour les clients) :
Les tarifs des fournisseurs AI changent périodiquement. Le système maintient une carte tarifaire qui peut être mise à jour lorsque les fournisseurs ajustent leurs tarifs, garantissant que les calculs de coûts restent précis. Si une demande particulière ne peut pas être mappée à un coût (par exemple, en raison d'une anomalie de rapport d'un fournisseur), elle est signalée comme "en attente" et recalculée une fois que les données sont disponibles — vous ne perdez jamais silencieusement des données de coût.
L'équipe construit :
Une fois en ligne, vous aurez la visibilité pour comprendre exactement ce que coûte votre plateforme AI, qui génère ce coût, et si vous obtenez le retour que vous attendez.