Quem define os limites é você.
Cada chave de API pode ter um limite mensal em euros, e sua equipe um limite comum. Quando um limite é atingido, a API recusa a chamada antes de acionar um provedor.
Como a verificação faz a conta.
Antes de cada chamada, o FlowModels reserva o valor máximo possível. A chamada só roda se o limite continuar valendo mesmo com essa reserva.
Caso contrário, a API recusa
429 spend_limit_exceeded
Três verificações, nesta ordem.
Uma chamada precisa passar pelas três. A primeira que falhar define a resposta.
| Verificação | Vale para | Resposta |
|---|---|---|
| O saldo cobre a reserva | sua conta | 429 insufficient_quota |
| Limite mensal da equipe, se definido | todas as chaves da equipe | 429 spend_limit_exceeded |
| Limite mensal da chave, se definido | exatamente esta chave | 429 spend_limit_exceeded |
Sem orçamento por usuário final.
O FlowModels não tem limite por usuário final. Os limites valem para chaves e equipes. Mesmo assim, você consegue ver quanto cada pessoa consome: GET /v1/usage?group_by=end_user. Um teto por pessoa você implementa na sua aplicação.
Onde configurar cada coisa.
| Limite | Valores | Configuração |
|---|---|---|
| Limite mensal por chave | Valores inteiros em euros, de € 1 a € 100.000. Vazio significa sem limite. | Editar chave |
| Limite mensal da equipe | Valor em euros com até duas casas decimais. 0 significa nenhuma chamada, vazio significa sem limite. | Saldo, limite de gastos por mês |
| Requisições por minuto por chave | Teto próprio abaixo do nível da sua equipe. | Editar chave |
Um mês é um mês-calendário. O limite só diz quanto você quer gastar; ele não adiciona saldo.
Alertas antes que fique apertado.
No painel, você define até dez valores por lista. Avisamos por e-mail, no aplicativo e, se você tiver assinado, pelo webhook credit.threshold.
| Lista | Você é avisado | Valor em data.metric |
|---|---|---|
| Valor disponível cai abaixo de | quando o saldo menos as reservas cai abaixo do valor, de novo na próxima vez que cair | balance_floor |
| Consumo no mês atinge | quando as chamadas cobradas atingem o valor, uma vez por mês-calendário | spend_month |
Sua chave conhece o próprio limite.
GET /v1/key informa, para a chave que faz a chamada, o limite mensal em micro-euros, o limite por minuto e as requisições simultâneas. A resposta nunca devolve a chave em si.
{
"object": "api_key",
"uuid": "018f1234-5678-7abc-9def-0123456789ab",
"name": "support-assistant",
"status": "active",
"kind": "inference",
"limits": {
"spending": {
"currency": "EUR",
"monthly_limit_micro_eur": 50000000
},
"requests": {
"tier": 1,
"per_minute": 60
},
"concurrency": {
"max_concurrent_requests": 10
}
}
}