Grenzen setzt du selbst.
Jeder API-Schlüssel kann ein Monatslimit in Euro bekommen, dein Team ein gemeinsames. Ist eine Grenze erreicht, lehnt die API den Aufruf ab, bevor ein Anbieter gerufen wird.
So rechnet die Prüfung.
Vor jedem Aufruf reserviert FlowModels den möglichen Höchstbetrag. Der Aufruf läuft nur, wenn auch mit dieser Reservierung das Limit hält.
Sonst lehnt die API ab
429 spend_limit_exceeded
Drei Prüfungen, in dieser Reihenfolge.
Ein Aufruf muss alle drei bestehen. Die erste, die scheitert, entscheidet die Antwort.
| Prüfung | Gilt für | Antwort |
|---|---|---|
| Guthaben reicht für die Reservierung | dein Konto | 429 insufficient_quota |
| Monatslimit des Teams, falls gesetzt | alle Schlüssel des Teams | 429 spend_limit_exceeded |
| Monatslimit des Schlüssels, falls gesetzt | genau diesen Schlüssel | 429 spend_limit_exceeded |
Kein Budget je Endnutzer.
FlowModels kennt keine Grenze je Endnutzer. Die Limits gelten für Schlüssel und Team. Wie viel eine einzelne Person verbraucht, siehst du trotzdem: GET /v1/usage?group_by=end_user. Eine Obergrenze je Person baust du in deiner Anwendung.
Wo du was einstellst.
| Limit | Werte | Einstellung |
|---|---|---|
| Monatslimit je Schlüssel | Ganze Eurobeträge von 1 bis 100.000 €. Leer bedeutet kein Limit. | Schlüssel bearbeiten |
| Monatslimit des Teams | Eurobetrag mit bis zu zwei Nachkommastellen. 0 bedeutet keine Aufrufe, leer bedeutet kein Limit. | Guthaben, Ausgabenlimit pro Monat |
| Anfragen je Minute je Schlüssel | Eigene Obergrenze unterhalb der Stufe deines Teams. | Schlüssel bearbeiten |
Ein Monat ist ein Kalendermonat. Das Limit sagt nur, wie viel du ausgeben willst, es füllt kein Guthaben auf.
Warnschwellen, bevor es eng wird.
Im Dashboard legst du bis zu zehn Beträge je Liste fest. Wir melden uns per E-Mail, in der App und, wenn du ihn abonniert hast, per Webhook credit.threshold.
| Liste | Du wirst gewarnt | Wert in data.metric |
|---|---|---|
| Verfügbarer Betrag fällt unter | wenn das Guthaben abzüglich Reservierungen unter die Schwelle fällt, erneut nach dem nächsten Unterschreiten | balance_floor |
| Verbrauch im Monat erreicht | wenn abgerechnete Aufrufe den Betrag erreichen, einmal je Kalendermonat | spend_month |
Dein Schlüssel kennt sein Limit.
GET /v1/key nennt für den aufrufenden Schlüssel das Monatslimit in Mikro-Euro, das Limit je Minute und die gleichzeitigen Anfragen. Den Schlüssel selbst liefert die Antwort nie zurück.
{
"object": "api_key",
"uuid": "018f1234-5678-7abc-9def-0123456789ab",
"name": "support-assistant",
"status": "active",
"kind": "inference",
"limits": {
"spending": {
"currency": "EUR",
"monthly_limit_micro_eur": 50000000
},
"requests": {
"tier": 1,
"per_minute": 60
},
"concurrency": {
"max_concurrent_requests": 10
}
}
}