API
Gerador de código da API
Escolha uma linguagem e uma tarefa para obter código que segue a documentação da Reflection, incluindo os detalhes que diferem da OpenAI.
Beam-501B-A23B
Linguagem
reasoning_effort
Em branco significa usar o padrão da API. O raciocínio conta para esse limite.
Instalação e chave
bash
pip install openai
export REFLECTION_API_KEY="<your API key>"Código
main.py
import os
from openai import OpenAI
client = OpenAI(
base_url="https://api.reflection.ai/openai/v1",
api_key=os.environ["REFLECTION_API_KEY"],
)
messages = [
{"role": "user", "content": "Write a short poem about sparse experts."},
]
stream = client.chat.completions.create(
model="Beam-501B-A23B",
messages=messages,
reasoning_effort="medium",
stream=True,
stream_options={"include_usage": True},
)
for chunk in stream:
if not chunk.choices: # the last chunk carries only usage
print("\n", chunk.usage)
continue
delta = chunk.choices[0].delta
reasoning = getattr(delta, "reasoning_content", None)
if reasoning:
print(reasoning, end="", flush=True)
if delta.content:
print(delta.content, end="", flush=True)O raciocínio é transmitido primeiro em delta.reasoning_content, depois a resposta em delta.content. include_usage adiciona um chunk final com a contagem de tokens.
Suporte a parâmetros
Compatível
- model, messages com as roles system, developer, user, assistant e tool
- reasoning_effort: low, medium, high, xhigh, max
- stream e stream_options.include_usage
- tools, tool_choice, parallel_tool_calls
- response_format: json_object e json_schema, com strict
- temperature, top_p, frequency_penalty, presence_penalty, seed, max_completion_tokens
Não compatível
- Entradas de imagem, áudio e arquivos
- n diferente de 1, logprobs, logit_bias
- user, metadata, audio e prediction retornam um erro
- stop é aceito, mas não tem efeito
- APIs Responses, Embeddings, Images, Audio, Files, Batch e Assistants
Erros que vale a pena tratar
| Status e código | O que significa |
|---|---|
| 400 unsupported_value | Um valor de reasoning_effort não aceito pelo modelo, como none ou minimal. |
| 400 missing_required_parameter | Uma mensagem anterior do assistant foi enviada sem seu reasoning_content, ou json_schema está ausente. |
| 401 | A chave de API está ausente ou é inválida. |
| 429 rate_limit_exceeded | Um limite por minuto ou diário foi atingido. Aguarde Retry-After. |
| 503 inference_capacity_unavailable | A capacidade está temporariamente esgotada. Tente novamente após Retry-After. |
Fontes: openai-compatibility · reasoning · tool-calling · structured-outputs · errors