Glossário da LLM API

Large language model (grande modelo de linguagem): uma rede neural treinada com grandes volumes de texto que prevê o próximo token, o que permite responder, resumir, traduzir ou escrever código.

Um modelo cujos parâmetros treinados são publicados, para que outras pessoas possam executá-lo no próprio hardware. O que elas podem fazer com ele depende da licença.

Um modelo que só o próprio criador disponibiliza, como GPT, Claude, Gemini ou Grok. O acesso passa pelo criador ou por parceiros aprovados por ele.

Os termos sob os quais os pesos abertos são publicados: Apache 2.0 e MIT permitem uso comercial; a licença comunitária Llama adiciona condições como uma política de uso e o aviso “Built with Llama”.

Os números dentro de um modelo. “120b” significa cerca de 120 bilhões; mais parâmetros geralmente significa mais capacidade e maior custo de execução.

Um design em que apenas parte do modelo trabalha em cada token. Em “Qwen3 235B A22B”, existem 235 bilhões de parâmetros e cerca de 22 bilhões ficam ativos por token.

Um modelo treinado para resolver um problema passo a passo antes de responder, como o DeepSeek R1. Ele costuma gastar mais tokens de saída por resposta.

Armazenar os números de um modelo com menos bits para que ele rode com menos memória. Pode reduzir um pouco a qualidade; os provedores nem sempre informam qual precisão servem.

O número máximo de tokens que um modelo consegue receber de uma vez, somando prompt e resposta. As nossas vão de 128K a 1M de tokens.

Uma API que aceita o mesmo formato de requisição e resposta da OpenAI, então os SDKs dela e as ferramentas construídas sobre eles funcionam depois de trocar a base URL.

O endereço para o qual um SDK envia requisições. Para LLMwithCrypto é https://llmwithcrypto.com/api/v1.

O formato de requisição da OpenAI com uma lista de mensagens (system, user, assistant) e uma resposta do modelo. Nosso endpoint principal é https://llmwithcrypto.com/api/v1/chat/completions.

Uma string secreta que identifica sua conta em cada chamada, enviada como Bearer token. Guarde em uma variável de ambiente, nunca no código.

Receber a resposta token por token conforme ela é gerada, por server-sent events, em vez de esperar a resposta inteira.

Deixar o modelo pedir ao seu código para executar uma função, com argumentos em JSON, e então usar o resultado. Também chamado de function calling.

Pedir ao modelo que responda com JSON válido, definido por response_format nos modelos que suportam isso.

O número de requisições ou tokens que uma conta pode enviar por minuto. O nosso aparece no dashboard e pode ser aumentado sob solicitação.

A primeira mensagem de uma conversa que define o papel e as regras do modelo para o resto dela.

A unidade que os modelos leem e escrevem: uma palavra ou parte de uma palavra. Em inglês, 1.000 tokens equivalem a cerca de 750 palavras.

Tokens de entrada são o que você envia, tokens de saída o que o modelo escreve. A saída geralmente custa mais por token.

Como as APIs de modelos cotam preços: o custo de um milhão de tokens de entrada ou de saída. Uma chamada custa uma fração disso.

A regra que um modelo usa para cortar o texto em tokens. O mesmo texto conta um número diferente de tokens em modelos diferentes.

O valor do meio entre os preços que os provedores públicos listam para o mesmo modelo. Nossos preços são 5% abaixo disso.

Um desconto que alguns provedores dão quando o início de um prompt se repete. Ainda não oferecemos isso.

Crédito de API pré-pago comprado pelo valor nominal a partir do seu saldo; ele paga qualquer modelo e nunca expira.

Know your customer: verificações de documentos de identidade ou papéis da empresa antes de usar um serviço. O LLMwithCrypto não faz isso.

O padrão de token da rede Tron. USDT em TRC-20 costuma custar menos para enviar um valor baixo em dólar.

O padrão de token da Ethereum, usado para USDT e USDC lá. As taxas de rede podem ser altas para transferências pequenas.

O que a blockchain cobra para processar sua transferência, pago pelo remetente à rede, não a nós.

Um bloco adicionado após a sua transação. Creditamos uma recarga quando a rede dela tem as confirmações necessárias.

O menor valor que você pode adicionar ao seu saldo: US$ 25.

O valor em dólares na sua conta após uma recarga, com o qual você compra pacotes de créditos.