Konto erstellen
Nur für Unternehmen und Selbstständige

Menü

Grenzen setzt du selbst.

Jeder API-Schlüssel kann ein Monatslimit in Euro bekommen, dein Team ein gemeinsames. Ist eine Grenze erreicht, lehnt die API den Aufruf ab, bevor ein Anbieter gerufen wird.

So rechnet die Prüfung.

Vor jedem Aufruf reserviert FlowModels den möglichen Höchstbetrag. Der Aufruf läuft nur, wenn auch mit dieser Reservierung das Limit hält.

Sonst lehnt die API ab 429 spend_limit_exceeded

Drei Prüfungen, in dieser Reihenfolge.

Ein Aufruf muss alle drei bestehen. Die erste, die scheitert, entscheidet die Antwort.

PrüfungGilt fürAntwort
Guthaben reicht für die Reservierung dein Konto 429 insufficient_quota
Monatslimit des Teams, falls gesetzt alle Schlüssel des Teams 429 spend_limit_exceeded
Monatslimit des Schlüssels, falls gesetzt genau diesen Schlüssel 429 spend_limit_exceeded

Kein Budget je Endnutzer.

FlowModels kennt keine Grenze je Endnutzer. Die Limits gelten für Schlüssel und Team. Wie viel eine einzelne Person verbraucht, siehst du trotzdem: GET /v1/usage?group_by=end_user. Eine Obergrenze je Person baust du in deiner Anwendung.

Wo du was einstellst.

LimitWerteEinstellung
Monatslimit je Schlüssel Ganze Eurobeträge von 1 bis 100.000 €. Leer bedeutet kein Limit. Schlüssel bearbeiten
Monatslimit des Teams Eurobetrag mit bis zu zwei Nachkommastellen. 0 bedeutet keine Aufrufe, leer bedeutet kein Limit. Guthaben, Ausgabenlimit pro Monat
Anfragen je Minute je Schlüssel Eigene Obergrenze unterhalb der Stufe deines Teams. Schlüssel bearbeiten

Ein Monat ist ein Kalendermonat. Das Limit sagt nur, wie viel du ausgeben willst, es füllt kein Guthaben auf.

Warnschwellen, bevor es eng wird.

Im Dashboard legst du bis zu zehn Beträge je Liste fest. Wir melden uns per E-Mail, in der App und, wenn du ihn abonniert hast, per Webhook credit.threshold.

ListeDu wirst gewarntWert in data.metric
Verfügbarer Betrag fällt unter wenn das Guthaben abzüglich Reservierungen unter die Schwelle fällt, erneut nach dem nächsten Unterschreiten balance_floor
Verbrauch im Monat erreicht wenn abgerechnete Aufrufe den Betrag erreichen, einmal je Kalendermonat spend_month

Dein Schlüssel kennt sein Limit.

GET /v1/key nennt für den aufrufenden Schlüssel das Monatslimit in Mikro-Euro, das Limit je Minute und die gleichzeitigen Anfragen. Den Schlüssel selbst liefert die Antwort nie zurück.

Antwort von GET /v1/key, gekürzt
{
  "object": "api_key",
  "uuid": "018f1234-5678-7abc-9def-0123456789ab",
  "name": "support-assistant",
  "status": "active",
  "kind": "inference",
  "limits": {
    "spending": {
      "currency": "EUR",
      "monthly_limit_micro_eur": 50000000
    },
    "requests": {
      "tier": 1,
      "per_minute": 60
    },
    "concurrency": {
      "max_concurrent_requests": 10
    }
  }
}

Schlüssel erstellen, Modell nennen, loslegen.

FlowModels richtet sich ausschließlich an Unternehmen und Selbstständige.