Do Groq para o FlowModels.
Se você já usa o Groq pelo SDK da OpenAI, quase tudo continua igual. A partir daí, o nome do modelo passa a começar com groq/.
O que muda
A URL base, a chave e o nome do modelo. Todo o resto continua igual, desde que você não use campos da tabela abaixo.
| Item | Antes | No FlowModels |
|---|---|---|
| URL base | https://api.groq.com/openai/v1 |
https://api.flowmodels.one/v1 |
| Chave | GROQ_API_KEY |
FLOWMODELS_API_KEY |
| Nome do modelo | llama-3.1-8b-instant |
groq/llama-3.1-8b-instant |
O código antes e depois
client = OpenAI(
- base_url="https://api.groq.com/openai/v1",
- api_key=os.environ["GROQ_API_KEY"],
+ base_url="https://api.flowmodels.one/v1",
+ api_key=os.environ["FLOWMODELS_API_KEY"],
)
response = client.chat.completions.create(
- model="llama-3.1-8b-instant",
+ model="groq/llama-3.1-8b-instant",
messages=[{"role": "user", "content": "Olá!"}],
)
Campos que se comportam de outro jeito
O que vale é o que o modelo escolhido aceita. Os campos aceitos estão em GET /v1/models, sob supported_parameters.
| Campo | Comportamento no FlowModels |
|---|---|
IDs de modelos com barra |
O ID mantém as barras: qwen/qwen3.8-27b vira groq/qwen/qwen3.8-27b. |
response_format |
Se a palavra “json” faltar nas mensagens com json_object, o FlowModels acrescenta uma breve indicação para que o Groq aceite a chamada. |
reasoning_effort |
Só em modelos com raciocínio. Os níveis estão em capabilities.reasoning_levels; qualquer outro nível resulta em 400 unsupported_for_model. |
tools, tool_choice |
Somente o tipo function. O FlowModels não executa suas funções; o modelo informa tool_calls. |
O que verificar depois da migração
-
A nova chave está em
FLOWMODELS_API_KEY, eGET /v1/modelslista o seu modelo. -
Uma chamada sem streaming retorna
choices[0].message.contentcomo esperado. -
Com
stream: true, os eventos chegam; comstream_options.include_usage, o consumo vem no último evento. -
Chamadas de ferramentas e
response_formatfuncionam com exatamente o modelo que você usa. -
Seu tratamento de erros separa
429 insufficient_quota(saldo esgotado) de429 rate_limit_exceeded,429 concurrent_requests_exceedede503 provider_overloaded. - O registro de requisições do seu painel mostra o modelo, os tokens e o custo da chamada.
- Se você usa o SDK do Groq, passe para o SDK da OpenAI; os campos continuam os mesmos.