Aqui, roteamento significa que você decide.
Você indica o modelo como provider/model e o FlowModels leva a requisição exatamente para lá. Uma chave e uma fatura, não importa quantos provedores você use.
Sem failover automático.
O FlowModels nunca escolhe um modelo por você e nunca troca para outro provedor sem avisar. Se o provedor escolhido responder com 429 ou 503, repetimos a mesma chamada no mesmo provedor no máximo duas vezes, enquanto o prazo da requisição permitir. Depois disso, você recebe o erro com o respectivo código.
O caminho de uma requisição.
A ordem é a do código. Uma requisição para na primeira etapa que a recusar.
-
ID da requisição
Cada resposta traz um identificador próprio no cabeçalho
x-request-id. -
Chave somente no cabeçalho
A chave precisa estar em
Authorization: Bearer. Na URL ou no corpo, ela é recusada.401 invalid_token_source -
Verificar a chave
Chaves desconhecidas, bloqueadas ou expiradas não seguem adiante.
401 invalid_api_key -
Verificar a conta
Uma conta suspensa é recusada antes de qualquer limite ou saldo ser tocado.
403 account_suspended -
Permissão da chave
Só uma chave para chamadas de IA pode chamar um modelo.
403 insufficient_key_scope -
Limite por minuto
O orçamento por minuto do seu nível. Nas famílias de modelos da OpenAI vale também um teto comum a todas as contas, que não consome o seu orçamento. Os cabeçalhos
x-ratelimit-*mostram a situação.429 rate_limit_exceeded503 provider_overloaded -
Requisições simultâneas
Se já houver tantas requisições em andamento quanto seu nível permite, a próxima é recusada na hora.
429 concurrent_requests_exceeded -
Descontinuação
Um modelo em fim de vida avisa nos cabeçalhos
DeprecationeSunset. Depois da data-limite, ele é recusado.410 model_deprecated -
Idempotência
Com o cabeçalho
Idempotency-Key, a mesma requisição sem streaming recebe a mesma resposta, em vez de você pagar duas vezes. Respostas transmitidas por streaming não ficam guardadas: depois de um stream completo, a chave fica livre de novo e uma repetição roda do zero.409 idempotency_key_in_progress422 idempotency_key_reuse -
Verificar requisição e modelo
Os campos são verificados,
provider/modelé localizado no catálogo e o modelo precisa aceitar o campo.400 invalid_field_value404 model_not_found400 unsupported_for_model -
Reservar saldo
A requisição só continua se houver saldo suficiente e o preço estiver definido.
429 insufficient_quota503 pricing_unavailable -
Provedor
O FlowModels chama exatamente o modelo indicado, por streaming ou em JSON, e cobra o consumo real.
502 routing_execution_failed503 provider_overloaded
Parâmetros de POST /v1/chat/completions
O modelo escolhido também precisa aceitar o campo. Se não aceitar, a API responde com 400 unsupported_for_model.
| Campo | Efeito |
|---|---|
model |
Obrigatório: o modelo como provider/model |
messages |
Obrigatório: histórico com system, user, assistant e tool |
stream |
Resposta como Server-Sent Events |
stream_options.include_usage |
Consumo no último evento do stream |
temperature, top_p |
Variação da resposta |
max_tokens |
Teto da saída, também base da reserva |
frequency_penalty, presence_penalty, stop, seed |
Mais controle, na medida em que o modelo aceitar |
tools, tool_choice |
Suas ferramentas: o modelo as chama, você as executa |
response_format |
Objeto JSON ou schema JSON fixo |
reasoning_effort |
Esforço de processamento em modelos de raciocínio |
web_search |
Busca na web, se o modelo oferecer |
A API recusa
/v1/chat/completions responde a estes campos com 400 unsupported_field, em vez de ignorá-los em silêncio.
nlogprobstop_logprobsaudiostoreprevious_response_idbackgroundconversationwebhook_endpoint_idmetadata