Schichtweise Verteidigungen – Ratenlimits, CSP und Schaltkreise – die die Plattform vor Missbrauch schützen, Kosten kontrollieren und den Service für alle Kunden zuverlässig halten.
Ein KI-Agent im großen Maßstab bedeutet, dass Sie einen Dienst betreiben, der theoretisch missbraucht werden könnte – überflutet mit automatisierten Anfragen, auf Schwächen getestet oder durch bösartige Eingaben manipuliert. Diese Funktion umfasst die mehrschichtigen Verteidigungen, die Ihre Plattform sicher halten, Ihre Kosten vorhersehbar machen und die Erfahrungen Ihrer Kunden ununterbrochen gestalten: nutzerspezifische Nutzungslimits, Richtlinien zur Inhaltssicherheit und automatische Schutzschalter, die Ihr System schützen, wenn etwas upstream schiefgeht.
Sicherheit und Zuverlässigkeit sind Grundvoraussetzungen für den Unternehmensverkauf. Kunden möchten wissen, dass ihre Daten geschützt sind, ihre Nutzung nicht durch den Missbrauch anderer beeinträchtigt wird und dass die Plattform keine unerwarteten Kosten in ihrem Namen anhäuft.
Jeder API-Schlüssel hat ein Kontingent – eine maximale Anzahl von Anfragen, die innerhalb eines bestimmten Zeitfensters erlaubt sind. Jede Anfrage überprüft dieses Kontingent in Echtzeit:
- Unter dem Limit: Anfrage wird normal bearbeitet
- Nahe dem Limit: Die Antwort enthält Header, die zeigen, wie viel Kontingent noch verbleibt, damit das anfragende System sanft verlangsamen kann
- Über dem Limit: Die Anfrage wird mit einem klaren Fehler abgelehnt, nicht stillschweigend verworfen
Kontingente können pro Kunde, pro Integration oder global festgelegt werden. Legitime Kunden, die ihr Limit versehentlich erreichen, können über einen Selbstbedienungsprozess eine Erhöhung beantragen.
Jede von der Plattform bereitgestellte Seite enthält Anweisungen für Browser, welche Skripte und Ressourcen geladen werden dürfen. Wenn ein Browser einen Verstoß erkennt – sagen wir, ein injiziertes Skript, das versucht, von einer nicht autorisierten Quelle zu laden – meldet er diesen Verstoß an die Plattform zurück. Diese Berichte werden aggregiert und können Warnungen auslösen, wenn ein Muster von Verstößen erkannt wird.
Wenn ein upstream-Dienst (wie ein KI-Anbieter) beginnt, Fehler zurückzugeben oder langsam zu reagieren, reduziert der Schutzschalter automatisch den Verkehr zu diesem Anbieter und leitet Anfragen an ein Backup weiter. Sobald der Anbieter sich erholt, wird der Verkehr schrittweise wiederhergestellt. Dies ist für Endbenutzer unsichtbar – sie erleben im schlimmsten Fall eine kurze Verlangsamung, keinen harten Ausfall.
Das Team arbeitet an:
Sobald es live ist, haben Sie klare Kontrollen und Einblicke in die Nutzung der Plattform, mit automatischem Schutz gegen externen Missbrauch und upstream-Ausfälle.