Krótka odpowiedź
Jak używać LLMwithCrypto w LangChain?
Zainstaluj langchain-openai i utwórz ChatOpenAI(model="deepseek-v4-pro", base_url="https://llmwithcrypto.com/api/v1", api_key=…). LLMwithCrypto mówi w formacie czatu OpenAI, więc invoke, streaming i bind_tools działają jak z OpenAI, na modelach obsługujących narzędzia. LlamaIndex używa OpenAILike z tym samym base URL. Udokumentowano 23 października 2026.
Której klasy użyć
| LangChain (Python) | ChatOpenAI z langchain-openai, z base_url |
|---|---|
| LangChain.js | ChatOpenAI z @langchain/openai, z configuration.baseURL |
| LlamaIndex | OpenAILike z llama-index-llms-openai-like, z api_base i is_chat_model=True |
| Id modeli | Na stronie modeli |
Jak skonfigurować ChatOpenAI?
Podaj bazowy URL i klucz przy tworzeniu modelu. Ustawienie max_tokens sprawia, że żaden krok łańcucha ani agenta nie zapisze więcej, niż chcesz zapłacić; usage_metadata w odpowiedzi pokazuje tokeny każdego wywołania.
import os
from langchain_openai import ChatOpenAI
llm = ChatOpenAI(
model="deepseek-v4-pro",
base_url="https://llmwithcrypto.com/api/v1",
api_key=os.environ["LLMWITHCRYPTO_API_KEY"],
max_tokens=300,
temperature=0.3,
)
reply = llm.invoke("Explain what a vector database is in two sentences.")
print(reply.content)
print(reply.usage_metadata)
Czy narzędzia i agenci działają?
Tak, na modelach obsługujących tool calling. Streaming działa na każdym modelu; tool calling i wyjście JSON zależą od tego, co obsługuje sam model. bind_tools wysyła Twoje narzędzia w formacie OpenAI; przetestuj swój schemat na wybranym modelu, zanim zaczniesz na nim polegać. Agenci LangGraph zbudowani na ChatOpenAI działają tak samo.
import os
from langchain_core.tools import tool
from langchain_openai import ChatOpenAI
@tool
def convert_currency(amount: float, rate: float) -> float:
"""Convert an amount with an exchange rate."""
return round(amount * rate, 2)
llm = ChatOpenAI(
model="gpt-oss-120b",
base_url="https://llmwithcrypto.com/api/v1",
api_key=os.environ["LLMWITHCRYPTO_API_KEY"],
)
llm_with_tools = llm.bind_tools([convert_currency])
msg = llm_with_tools.invoke("How much is 250 at a rate of 0.92?")
for call in msg.tool_calls:
print(call["name"], call["args"], "->", convert_currency.invoke(call["args"]))
A z poziomu JavaScript?
LangChain.js przyjmuje bazowy URL w configuration, który przekazuje do klienta OpenAI pod spodem.
import { ChatOpenAI } from '@langchain/openai';
const llm = new ChatOpenAI({
model: 'qwen3-235b-a22b-instruct-2507',
apiKey: process.env.LLMWITHCRYPTO_API_KEY,
configuration: { baseURL: 'https://llmwithcrypto.com/api/v1' },
maxTokens: 300,
});
const reply = await llm.invoke('Give me a three-step plan to learn SQL.');
console.log(reply.content);
Jak użyć tego w LlamaIndex?
Użyj OpenAILike, który nie sprawdza nazw modeli wobec listy OpenAI. Ustaw is_chat_model=True, żeby wysyłał wiadomości czatu, i podaj okno kontekstu modelu, żeby LlamaIndex mógł dobrać rozmiar promptów: DeepSeek V4.1 Flash czyta do 1M tokenów według stanu na 23 października 2026, a przykład celowo ustawia mniejsze okno, żeby prompty były krótkie.
import os
from llama_index.llms.openai_like import OpenAILike
llm = OpenAILike(
model="deepseek-v4.1-flash",
api_base="https://llmwithcrypto.com/api/v1",
api_key=os.environ["LLMWITHCRYPTO_API_KEY"],
is_chat_model=True,
context_window=131072,
max_tokens=300,
)
print(llm.complete("Name three uses of a knowledge graph."))
Jak utrzymać koszty agenta pod kontrolą?
Agent wywołuje model wiele razy na zadanie: raz do zaplanowania, raz na wynik narzędzia, raz do odpowiedzi. Każde wywołanie ponownie wysyła całą rozmowę, więc wejście rośnie z każdym krokiem.
- Ogranicz każde wywołanie przez
max_tokens, a cały przebieg przez maksymalną liczbę kroków. - Użyj małego modelu tam, gdzie wystarczy. Według stanu na 23 października 2026 gpt-oss-20b kosztuje $0.033 za milion tokenów wejściowych wobec $1.254 dla DeepSeek V4 Pro: kieruj proste kroki do małego modelu, a duży zachowaj na końcową odpowiedź.
- Skracaj historię w długich rozmowach albo podsumowuj starsze tury.
- Pilnuj kredytów przez
GET https://llmwithcrypto.com/api/v1/creditsprzed dużymi przebiegami.
Panel wyświetla każde wywołanie wraz z tokenami i kosztem, co szybko pokazuje, który krok łańcucha jest tym drogim.
Frameworki: najczęstsze pytania
Czy mogę mieszać modele w jednym łańcuchu?
Tak: utwórz jeden ChatOpenAI na model, na przykład tani do routingu i duży do końcowej odpowiedzi. Wszystkie zużywają ten sam kredyt.
Czy embeddingi działają?
Nie. API obsługuje tylko chat completions; używaj swojego istniejącego modelu embeddingów obok niego.
Za co płacę przy przebiegu agenta?
Za każde wywołanie modelu w przebiegu, według tokenów. Płacisz za token z salda: tokeny wejściowe i wyjściowe są liczone przez tokenizer danego modelu i rozliczane według ceny tego modelu za 1M tokenów. Wywołanie zakończone błędem nic nie kosztuje. Ceny za model są na stronie cennika.