Słownik LLM API

Duży model językowy: sieć neuronowa wytrenowana na dużych ilościach tekstu, która przewiduje następny token, co pozwala jej odpowiadać, streszczać, tłumaczyć lub pisać kod.

Model, którego wytrenowane parametry są publikowane, dzięki czemu inni mogą uruchamiać go na własnym sprzęcie. To, co mogą z nim zrobić, zależy od jego licencji.

Model udostępniany wyłącznie przez swojego twórcę, taki jak GPT, Claude, Gemini lub Grok. Dostęp odbywa się przez twórcę lub zatwierdzonych przez niego partnerów.

Warunki, na których publikowane są otwarte wagi: Apache 2.0 i MIT pozwalają na komercyjne udostępnianie; licencja społecznościowa Llama dodaje warunki, takie jak polityka użytkowania i oznaczenie „Built with Llama”.

Liczby wewnątrz modelu. „120b” oznacza około 120 miliardów; więcej parametrów zwykle oznacza większe możliwości i wyższy koszt uruchomienia.

Konstrukcja, w której nad każdym tokenem pracuje tylko część modelu. W „Qwen3 235B A22B” istnieje 235 miliardów parametrów, a około 22 miliardów jest aktywnych na token.

Model wytrenowany do rozwiązywania problemu krok po kroku przed udzieleniem odpowiedzi, taki jak DeepSeek R1. Często zużywa więcej tokenów wyjściowych na odpowiedź.

Zapisywanie liczb modelu przy użyciu mniejszej liczby bitów, dzięki czemu działa on przy mniejszym zużyciu pamięci. Może nieznacznie obniżyć jakość; hosty nie zawsze podają, którą precyzję udostępniają.

Maksymalna liczba tokenów, jaką model może przyjąć naraz, łącznie z promptem i odpowiedzią. Nasze mieszczą od 128K do 1M tokenów.

API, które przyjmuje ten sam format zapytania i odpowiedzi co API OpenAI, więc jego SDK i zbudowane na nich narzędzia działają po zmianie base URL.

Adres, na który SDK wysyła zapytania. Dla LLMwithCrypto to https://llmwithcrypto.com/api/v1.

Format zapytania OpenAI z listą wiadomości (system, user, assistant) i odpowiedzią modelu. Nasz główny endpoint to https://llmwithcrypto.com/api/v1/chat/completions.

Tajny ciąg znaków, który identyfikuje Twoje konto przy każdym wywołaniu, wysyłany jako Bearer token. Trzymaj go w zmiennej środowiskowej, nigdy w kodzie.

Odbieranie odpowiedzi token po tokenie w miarę jej generowania, przez server-sent events, zamiast czekania na całą odpowiedź.

Pozwalanie modelowi na to, by poprosił Twój kod o uruchomienie funkcji z argumentami w JSON, a następnie wykorzystał wynik. Nazywa się to też function calling.

Proszenie modelu o odpowiedź w poprawnym JSON, ustawiane przez response_format w modelach, które to obsługują.

Liczba zapytań lub tokenów, jakie konto może wysłać na minutę. Nasz jest pokazany w dashboardzie i można go zwiększyć na życzenie.

Pierwsza wiadomość rozmowy, która ustala rolę modelu i zasady dla całej reszty.

Jednostka, którą modele czytają i zapisują: słowo lub część słowa. W języku angielskim 1 000 tokenów to około 750 słów.

Tokeny wejściowe to to, co wysyłasz, a tokeny wyjściowe to to, co pisze model. Tokeny wyjściowe zwykle kosztują więcej za token.

Sposób, w jaki API modeli podają ceny: koszt miliona tokenów wejściowych lub wyjściowych. Wywołanie kosztuje ułamek tej kwoty.

Reguła, której model używa do dzielenia tekstu na tokeny. Ten sam tekst liczy się jako inna liczba tokenów w różnych modelach.

Środkowa wartość cen, które publiczni hosty podają dla tego samego modelu. Nasze ceny są o 5% niższe.

Rabat, którego niektórzy hosty udzielają, gdy początek promptu się powtarza. Jeszcze go nie oferujemy.

Przedpłacony kredyt API kupowany po wartości nominalnej z Twojego salda; płaci za dowolny model i nigdy nie wygasa.

Know your customer: sprawdzanie dokumentów tożsamości lub dokumentów firmy przed rozpoczęciem korzystania z usługi. LLMwithCrypto tego nie robi.

Standard tokena sieci Tron. USDT w TRC-20 często kosztuje najmniej przy wysyłaniu małej kwoty w dolarach.

Standard tokena Ethereum, używany tam dla USDT i USDC. Opłaty sieciowe mogą być wysokie przy małych przelewach.

To, co blockchain pobiera za przetworzenie Twojego przelewu, płacone przez nadawcę sieci, nie nam.

Blok dodany po Twojej transakcji. Doładowanie księgujemy, gdy jego sieć ma wymaganą liczbę potwierdzeń.

Najmniejsza kwota, którą możesz zasilić swoje saldo: 25 USD.

Kwota w dolarach na Twoim koncie po zasileniu, za którą kupujesz pakiety kredytów.