Glossario API LLM

Large language model: una rete neurale addestrata su grandi quantità di testo che predice il token successivo, il che le permette di rispondere, riassumere, tradurre o scrivere codice.

Un modello i cui parametri addestrati sono pubblicati, così altri possono eseguirlo sul proprio hardware. Ciò che possono farne dipende dalla sua licenza.

Un modello che solo il suo produttore serve, come GPT, Claude, Gemini o Grok. L'accesso passa dal produttore o dai partner che approva.

I termini con cui vengono pubblicati gli open weights: Apache 2.0 e MIT consentono il serving commerciale; la licenza community Llama aggiunge condizioni come una policy d'uso e l'avviso "Built with Llama".

I numeri dentro un modello. "120b" significa circa 120 miliardi; più parametri di solito significa più capacità e costi di esecuzione più alti.

Un'architettura in cui solo una parte del modello lavora su ogni token. In "Qwen3 235B A22B" esistono 235 miliardi di parametri e circa 22 miliardi sono attivi per token.

Un modello addestrato a ragionare su un problema passo dopo passo prima di rispondere, come DeepSeek R1. Spesso consuma più token di output per ogni risposta.

Rappresentare i numeri di un modello con meno bit, così gira con meno memoria. Può ridurre leggermente la qualità; i provider non dicono sempre quale precisione servono.

Il numero massimo di token che un modello può ricevere in una volta, prompt e risposta insieme. I nostri vanno da 128K a 1M di token.

Un'API che accetta lo stesso formato di richiesta e risposta di quella di OpenAI, così i suoi SDK e gli strumenti costruiti su di essi funzionano dopo aver cambiato la base URL.

L'indirizzo a cui un SDK invia le richieste. Per LLMwithCrypto è https://llmwithcrypto.com/api/v1.

Il formato di richiesta OpenAI con una lista di messaggi (system, user, assistant) e una risposta del modello. Il nostro endpoint principale è https://llmwithcrypto.com/api/v1/chat/completions.

Una stringa segreta che identifica il tuo account a ogni chiamata, inviata come Bearer token. Tienila in una variabile d'ambiente, mai nel codice.

Ricevere la risposta token per token mentre viene generata, tramite server-sent events, invece di aspettare la risposta completa.

Permettere al modello di chiedere al tuo codice di eseguire una funzione, con argomenti in JSON, e poi usarne il risultato. Si chiama anche function calling.

Chiedere al modello di rispondere con JSON valido, impostato tramite response_format sui modelli che lo supportano.

Il numero di richieste o token che un account può inviare al minuto. Il nostro è mostrato nella dashboard e può essere aumentato su richiesta.

Il primo messaggio di una conversazione che stabilisce il ruolo del modello e le regole per il resto della conversazione.

L'unità che i modelli leggono e scrivono: una parola o parte di una parola. In inglese, 1.000 token sono circa 750 parole.

I token di input sono quelli che invii, i token di output quelli che scrive il modello. Di solito l'output costa di più per token.

Come le API dei modelli indicano i prezzi: il costo di un milione di token di input o output. Una chiamata costa una frazione di questo.

La regola che un modello usa per dividere il testo in token. Lo stesso testo conta un numero diverso di token su modelli diversi.

Il valore centrale dei prezzi che i provider pubblici elencano per lo stesso modello. I nostri prezzi sono il 5% sotto.

Uno sconto che alcuni provider danno quando l'inizio di un prompt si ripete. Noi non lo offriamo ancora.

Crediti API prepagati acquistati al valore nominale dal tuo saldo; pagano qualsiasi modello e non scadono mai.

Know your customer: controlli su documenti d'identità o carte societarie prima di poter usare un servizio. LLMwithCrypto non li fa.

Lo standard dei token della rete Tron. USDT su TRC-20 spesso costa meno da inviare per un piccolo importo in dollari.

Lo standard dei token di Ethereum, usato lì per USDT e USDC. Le commissioni di rete possono essere alte per i piccoli trasferimenti.

Quello che la blockchain addebita per elaborare il tuo trasferimento, pagato dal mittente alla rete, non a noi.

Un blocco aggiunto dopo la tua transazione. Accreditiamo una ricarica quando la sua rete ha le conferme necessarie.

L'importo minimo che puoi aggiungere al tuo saldo: 25 USD.

L'importo in dollari sul tuo account dopo una ricarica, con cui acquisti i pacchetti di crediti.