Gestaffelte Verteidigungen — Ratenlimits, CSP und Schaltkreisschutz — die die Plattform vor Missbrauch schützen, Kosten kontrollieren und den Service für alle Kunden zuverlässig halten.
Einen KI-Agenten im großen Maßstab zu betreiben bedeutet, dass Sie einen Dienst betreiben, der theoretisch missbraucht werden könnte — mit automatisierten Anfragen überflutet, auf Schwächen untersucht oder durch böswillige Eingaben manipuliert. Diese Funktion behandelt die gestaffelten Verteidigungen, die Ihre Plattform sicher halten, Ihre Kosten vorhersehbar machen und die Erfahrungen Ihrer Kunden ununterbrochen halten: pro Kunde Nutzungslimits, Inhalts-Sicherheitsrichtlinien und automatische Schaltkreisschutzmaßnahmen, die Ihr System schützen, wenn etwas upstream schiefgeht.
Sicherheit und Zuverlässigkeit sind Grundvoraussetzungen für Unternehmensverkäufe. Kunden möchten wissen, dass ihre Daten geschützt sind, ihre Nutzung nicht von dem Missbrauch anderer betroffen ist und dass die Plattform keine unerwarteten Kosten in ihrem Namen anhäuft.
Jeder API-Schlüssel hat ein Kontingent — eine maximale Anzahl von Anfragen, die innerhalb eines bestimmten Zeitfensters erlaubt sind. Jede Anfrage überprüft dieses Kontingent in Echtzeit:
- Unter dem Limit: Anfrage geht normal durch
- Nahe dem Limit: Die Antwort enthält Header, die zeigen, wie viel Kontingent verbleibt, sodass das aufrufende System sich elegant verlangsamen kann
- Über dem Limit: Die Anfrage wird mit einem klaren Fehler abgelehnt, nicht stillschweigend fallen gelassen
Kontingente können pro Kunde, pro Integration oder global festgelegt werden. Legitime Kunden, die ihr Limit versehentlich erreichen, können über einen Selbstbedienungsprozess eine Erhöhung beantragen.
Jede Seite, die von der Plattform bereitgestellt wird, enthält Anweisungen an Browser, welche Skripte und Ressourcen geladen werden dürfen. Wenn ein Browser einen Verstoß erkennt — sagen wir, ein injiziertes Skript, das versucht, von einer nicht autorisierten Quelle zu laden — meldet er diesen Verstoß an die Plattform zurück. Diese Berichte werden aggregiert und können Alarme auslösen, wenn ein Muster von Verstößen erkannt wird.
Wenn ein upstream-Dienst (wie ein KI-Anbieter) beginnt, Fehler zurückzugeben oder langsam zu antworten, reduziert der Schaltkreisschutz automatisch den Verkehr zu diesem Anbieter und leitet Anfragen an ein Backup weiter. Sobald der Anbieter sich erholt, wird der Verkehr schrittweise wiederhergestellt. Dies ist für Endbenutzer unsichtbar — sie erleben im schlimmsten Fall eine kurze Verlangsamung, keinen harten Ausfall.
Das Team arbeitet an:
Sobald es live ist, haben Sie klare Kontrollen und Sichtbarkeit über die Plattformnutzung, mit automatischem Schutz gegen externen Missbrauch und upstream-Ausfälle.