Kötüye kullanıma karşı platformu koruyan, maliyetleri kontrol eden ve tüm müşteriler için hizmetin güvenilir kalmasını sağlayan katmanlı savunmalar — hız sınırlamaları, CSP ve devre kesiciler.
Bir AI ajanını ölçekli çalıştırmak, teorik olarak kötüye kullanılabilecek bir hizmet işletmek anlamına gelir — otomatik taleplerle doldurulmuş, zayıflıkları araştırılmış veya kötü niyetli girdilerle manipüle edilmiştir. Bu özellik, platformunuzu güvenli, maliyetlerinizi öngörülebilir ve müşterilerinizin deneyimlerini kesintisiz tutan katmanlı savunmaları kapsar: müşteri başına kullanım sınırları, içerik güvenlik politikaları ve sisteminizde bir şeyler ters gittiğinde koruma sağlayan otomatik devre kesiciler.
Güvenlik ve güvenilirlik, kurumsal satışlar için temel gerekliliklerdir. Müşteriler, verilerinin korunduğunu, kullanımının başkalarının kötüye kullanımı tarafından etkilenmeyeceğini ve platformun kendi adlarına beklenmedik maliyetler biriktirmeyeceğini bilmek ister.
Her API anahtarının bir kotası vardır — belirli bir zaman diliminde izin verilen maksimum istek sayısı. Her istek bu kotayı gerçek zamanlı olarak kontrol eder:
- Sınırın altında: istek normal şekilde geçer
- Sınırına yaklaşırken: yanıt, kalan kotanın ne kadar olduğunu gösteren başlıklar içerir, böylece çağıran sistem nazikçe yavaşlayabilir
- Sınırın üzerinde: istek, açık bir hata ile reddedilir, sessizce düşürülmez
Kotalar, müşteri başına, entegrasyon başına veya genel olarak ayarlanabilir. Kazara sınırlarına ulaşan meşru müşteriler, kendileri için bir artış talep edebilirler.
Platform tarafından sunulan her sayfa, tarayıcılara hangi betiklerin ve kaynakların yüklenmesine izin verildiği hakkında talimatlar içerir. Eğer bir tarayıcı bir ihlal algılarsa — örneğin, yetkisiz bir kaynaktan yüklenmeye çalışan bir enjekte edilmiş betik — bu ihlali platforma geri rapor eder. Bu raporlar toplanır ve bir ihlal kalıbı algılandığında uyarıları tetikleyebilir.
Eğer bir üst hizmet (AI sağlayıcısı gibi) hatalar döndürmeye veya yavaş yanıt vermeye başlarsa, devre kesici otomatik olarak o sağlayıcıya giden trafiği azaltır ve talepleri bir yedeğe yönlendirir. Sağlayıcı toparlandığında, trafik yavaşça geri yüklenir. Bu, son kullanıcılara görünmez — en kötü ihtimalle kısa bir yavaşlama yaşarlar, sert bir hata değil.
Ekip, şunları inşa ediyor:
Canlı olduğunda, platform kullanımını net bir şekilde kontrol etme ve görünürlük sağlama imkanına sahip olacaksınız, hem dış kötüye kullanıma hem de üst akış kesintilerine karşı otomatik koruma ile.