엔드 투 엔드 가시성: 추적 ID, 토큰/비용 회계, 조직별 대시보드 및 경고를 통해 사용량, 비용 급증 및 AI 기능의 ROI를 이해합니다.
분석은 귀하의 AI 에이전트가 실제로 무엇을 하고 있는지, 얼마나 비용이 드는지, 가치를 제공하는지를 이해하는 방법입니다. 이 기능은 전체 가시성 스택을 다룹니다: 모든 대화 및 AI 호출을 끝에서 끝까지 추적하고, 각 요청의 비용을 계산하고, 고객별로 사용량을 집계하며, 팀이 조치를 취할 수 있는 대시보드에 이를 표시합니다. 이는 제품 결정, 비용 관리 및 고객 청구의 기초입니다.
AI 제품을 운영하는 것은 전통적인 소프트웨어 제품을 운영하는 것과 근본적으로 다릅니다 — AI 호출은 요청당 비용이 발생합니다. 자세한 사용 분석 없이는 기본적이지만 중요한 질문에 답할 수 없습니다: 어떤 고객이 가장 많은 자원을 사용하고 있습니까? 특정 에이전트 구성이 예상보다 더 비쌉니까? 전체 비용이 수익보다 더 빠르게 증가하고 있습니까?
모든 대화는 분석 시스템이 추적하는 사건의 연쇄를 생성합니다:
추적 ID는 단일 대화에 대한 모든 데이터 조각을 연결하는 스레드입니다. 고객이 "왜 이 응답이 잘못 나왔나요?"라고 질문하면, 팀은 추적 ID를 찾아 전체 그림을 볼 수 있습니다: 지식 기반에서 무엇이 검색되었는지, AI에 무엇이 전송되었는지, AI가 반환한 것, 어떤 후처리가 발생했는지. 이는 특정 잘못된 응답을 몇 분 안에 디버깅할 수 있게 합니다.
귀하의 팀을 위해:
조직별 보기(고객용):
AI 제공자의 가격은 주기적으로 변경됩니다. 시스템은 제공자가 요금을 조정할 때 업데이트할 수 있는 가격 매핑을 유지하여 비용 계산이 정확하게 유지되도록 합니다. 특정 요청이 비용에 매핑될 수 없는 경우(예: 제공자가 보고한 이상으로 인해), "보류 중"으로 표시되고 데이터가 사용 가능해지면 재계산됩니다 — 비용 데이터가 조용히 손실되지 않습니다.
팀은 다음을 구축하고 있습니다:
라이브로 전환되면, 귀하는 AI 플랫폼의 정확한 비용, 누가 그 비용을 유도하는지, 기대하는 수익을 얻고 있는지를 이해할 수 있는 가시성을 갖게 됩니다.