Criar conta
Somente para empresas e profissionais autônomos

Menu

Todos os guias

Do Groq para o FlowModels.

Se você já usa o Groq pelo SDK da OpenAI, quase tudo continua igual. A partir daí, o nome do modelo passa a começar com groq/.

O que muda

A URL base, a chave e o nome do modelo. Todo o resto continua igual, desde que você não use campos da tabela abaixo.

Item Antes No FlowModels
URL base https://api.groq.com/openai/v1 https://api.flowmodels.one/v1
Chave GROQ_API_KEY FLOWMODELS_API_KEY
Nome do modelo llama-3.1-8b-instant groq/llama-3.1-8b-instant

O código antes e depois

  client = OpenAI(
-     base_url="https://api.groq.com/openai/v1",
-     api_key=os.environ["GROQ_API_KEY"],
+     base_url="https://api.flowmodels.one/v1",
+     api_key=os.environ["FLOWMODELS_API_KEY"],
  )
  
  response = client.chat.completions.create(
-     model="llama-3.1-8b-instant",
+     model="groq/llama-3.1-8b-instant",
      messages=[{"role": "user", "content": "Olá!"}],
  )

Campos que se comportam de outro jeito

O que vale é o que o modelo escolhido aceita. Os campos aceitos estão em GET /v1/models, sob supported_parameters.

Campo Comportamento no FlowModels
IDs de modelos com barra O ID mantém as barras: qwen/qwen3.8-27b vira groq/qwen/qwen3.8-27b.
response_format Se a palavra “json” faltar nas mensagens com json_object, o FlowModels acrescenta uma breve indicação para que o Groq aceite a chamada.
reasoning_effort Só em modelos com raciocínio. Os níveis estão em capabilities.reasoning_levels; qualquer outro nível resulta em 400 unsupported_for_model.
tools, tool_choice Somente o tipo function. O FlowModels não executa suas funções; o modelo informa tool_calls.

O que verificar depois da migração

  • A nova chave está em FLOWMODELS_API_KEY, e GET /v1/models lista o seu modelo.
  • Uma chamada sem streaming retorna choices[0].message.content como esperado.
  • Com stream: true, os eventos chegam; com stream_options.include_usage, o consumo vem no último evento.
  • Chamadas de ferramentas e response_format funcionam com exatamente o modelo que você usa.
  • Seu tratamento de erros separa 429 insufficient_quota (saldo esgotado) de 429 rate_limit_exceeded, 429 concurrent_requests_exceeded e 503 provider_overloaded.
  • O registro de requisições do seu painel mostra o modelo, os tokens e o custo da chamada.
  • Se você usa o SDK do Groq, passe para o SDK da OpenAI; os campos continuam os mesmos.

Crie uma chave, escolha um modelo e comece.

O FlowModels é destinado exclusivamente a empresas e profissionais autônomos.