Warstwowe zabezpieczenia — ograniczenia wydajności, CSP i wyłączniki obwodowe — które chronią platformę przed nadużyciami, kontrolują koszty i utrzymują niezawodność usługi dla wszystkich klientów.
Uruchamianie agenta AI na dużą skalę oznacza, że obsługujesz usługę, która teoretycznie może być nadużywana — zalewana automatycznymi żądaniami, badana pod kątem słabości lub manipulowana za pomocą złośliwych danych wejściowych. Ta funkcja obejmuje warstwowe zabezpieczenia, które utrzymują Twoją platformę w bezpieczeństwie, Twoje koszty przewidywalne i doświadczenia Twoich klientów nieprzerwane: limity użytkowania na poziomie klienta, polityki bezpieczeństwa treści i automatyczne wyłączniki obwodowe, które chronią Twój system, gdy coś na górze idzie źle.
Bezpieczeństwo i niezawodność to podstawowe wymagania dla sprzedaży przedsiębiorstw. Klienci chcą wiedzieć, że ich dane są chronione, ich użytkowanie nie będzie wpływane przez nadużycia innych i że platforma nie wygeneruje nieoczekiwanych kosztów na ich rzecz.
Każdy klucz API ma limit — maksymalną liczbę żądań dozwolonych w danym oknie czasowym. Każde żądanie sprawdza ten limit w czasie rzeczywistym:
- Poniżej limitu: żądanie przechodzi normalnie
- Zbliżając się do limitu: odpowiedź zawiera nagłówki pokazujące, ile limitu pozostało, więc system wywołujący może zwolnić w sposób łagodny
- Powyżej limitu: żądanie jest odrzucane z jasnym błędem, a nie cicho porzucone
Limity mogą być ustawiane na poziomie klienta, integracji lub globalnie. Uczciwi klienci, którzy przypadkowo osiągną swój limit, mogą zażądać zwiększenia za pomocą samodzielnego procesu.
Każda strona serwowana przez platformę zawiera instrukcje dla przeglądarek dotyczące tego, jakie skrypty i zasoby mogą być ładowane. Jeśli przeglądarka wykryje naruszenie — powiedzmy, że wstrzyknięty skrypt próbuje załadować z nieautoryzowanego źródła — zgłasza to naruszenie z powrotem do platformy. Te raporty są agregowane i mogą wywoływać alerty, jeśli wykryty zostanie wzór naruszeń.
Jeśli usługa na górze (taka jak dostawca AI) zaczyna zwracać błędy lub odpowiadać wolno, wyłącznik obwodowy automatycznie zmniejsza ruch do tego dostawcy i kieruje żądania do zapasowego. Gdy dostawca się regeneruje, ruch jest stopniowo przywracany. To jest niewidoczne dla użytkowników końcowych — doświadczają oni najwyżej krótkiego spowolnienia, a nie twardej awarii.
Zespół buduje:
Po uruchomieniu będziesz miał wyraźne kontrole i widoczność nad użyciem platformy, z automatyczną ochroną przed nadużyciami zewnętrznymi i awariami na górze.