KYC olmadan — kimlik yok, selfie yok, belge yok. Kripto ile ödeyin: BTC, USDT, USDC, ETH, SOL, LTC
Dil: Türkçe
API anahtarı alın

Docs · frameworks

Açık ağırlıklı modellerle LangChain ve LlamaIndex

LangChain ve LlamaIndex, özel bir base URL kabul eden bir OpenAI chat modeli sunar. Bunu API'mize yönlendirin, kurduğunuz her chain, agent ve retriever çalışmaya devam etsin, artık DeepSeek, Qwen, gpt-oss ve diğer açık ağırlıklı modeller üzerinde çalışsın.

Son güncelleme: · 3 dk okuma

Kısa yanıt

LLMwithCrypto LangChain'de nasıl kullanırım?

langchain-openai kurun ve ChatOpenAI(model="deepseek-v4-pro", base_url="https://llmwithcrypto.com/api/v1", api_key=…) oluşturun. LLMwithCrypto OpenAI chat formatını konuşur, bu yüzden invoke, streaming ve bind_tools, tool'ları destekleyen modellerde OpenAI'deki gibi çalışır. LlamaIndex aynı base URL ile OpenAILike kullanır. 23 Ekim 2026 tarihinde belgelendi.

Hangi sınıfı kullanmalıyım

LangChain (Python)base_url ile langchain-openai üzerinden ChatOpenAI
LangChain.jsconfiguration.baseURL ile @langchain/openai üzerinden ChatOpenAI
LlamaIndexapi_base ve is_chat_model=True ile llama-index-llms-openai-like üzerinden OpenAILike
Model kimliklerimodeller sayfasında

ChatOpenAI'ı nasıl kurarım?

Modeli oluştururken base URL'yi ve anahtarı geçin. max_tokens ayarını yapmak, bir chain veya agent'ın her adımının ödemek istediğinizden fazlasını yazmasını engeller; yanıtın usage_metadata alanı her çağrının token sayısını gösterir.

LangChain: DeepSeek V4 Pro üzerinde ChatOpenAI
import os

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="deepseek-v4-pro",
    base_url="https://llmwithcrypto.com/api/v1",
    api_key=os.environ["LLMWITHCRYPTO_API_KEY"],
    max_tokens=300,
    temperature=0.3,
)
reply = llm.invoke("Explain what a vector database is in two sentences.")
print(reply.content)
print(reply.usage_metadata)

Araçlar ve agent'lar çalışır mı?

Evet, tool calling destekleyen modellerde. Streaming her modelde çalışır; tool calling ve JSON çıktısı, her modelin kendi desteklediğiyle sınırlıdır. bind_tools araçlarınızı OpenAI formatında gönderir; buna güvenmeden önce şemanızı seçtiğiniz modelde test edin. ChatOpenAI üzerine kurulu LangGraph agent'ları da aynı şekilde çalışır.

LangChain: gpt-oss-120b'ye bağlanmış bir araç
import os

from langchain_core.tools import tool
from langchain_openai import ChatOpenAI


@tool
def convert_currency(amount: float, rate: float) -> float:
    """Convert an amount with an exchange rate."""
    return round(amount * rate, 2)


llm = ChatOpenAI(
    model="gpt-oss-120b",
    base_url="https://llmwithcrypto.com/api/v1",
    api_key=os.environ["LLMWITHCRYPTO_API_KEY"],
)
llm_with_tools = llm.bind_tools([convert_currency])
msg = llm_with_tools.invoke("How much is 250 at a rate of 0.92?")
for call in msg.tool_calls:
    print(call["name"], call["args"], "->", convert_currency.invoke(call["args"]))

Peki JavaScript ile nasıl?

LangChain.js base URL'yi configuration içinde alır ve alttaki OpenAI istemcisine iletir.

LangChain.js: baseURL ile ChatOpenAI
import { ChatOpenAI } from '@langchain/openai';

const llm = new ChatOpenAI({
  model: 'qwen3-235b-a22b-instruct-2507',
  apiKey: process.env.LLMWITHCRYPTO_API_KEY,
  configuration: { baseURL: 'https://llmwithcrypto.com/api/v1' },
  maxTokens: 300,
});
const reply = await llm.invoke('Give me a three-step plan to learn SQL.');
console.log(reply.content);

LlamaIndex'te nasıl kullanırım?

Model adlarını OpenAI'ın listesiyle karşılaştırmayan OpenAILike kullanın. Chat mesajları göndermesi için is_chat_model=True ayarlayın ve modele context window değerini verin ki LlamaIndex prompt'larının boyutunu ayarlayabilsin: DeepSeek V4.1 Flash, 23 Ekim 2026 itibarıyla 1M token'a kadar okuyor, örnekte prompt'ları kısa tutmak için bilerek daha küçük bir pencere ayarlanmış.

LlamaIndex: DeepSeek V4.1 Flash üzerinde OpenAILike
import os

from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="deepseek-v4.1-flash",
    api_base="https://llmwithcrypto.com/api/v1",
    api_key=os.environ["LLMWITHCRYPTO_API_KEY"],
    is_chat_model=True,
    context_window=131072,
    max_tokens=300,
)
print(llm.complete("Name three uses of a knowledge graph."))

Agent maliyetlerini nasıl kontrol altında tutarım?

Bir agent modeli görev başına birçok kez çağırır: bir kez planlamak için, her araç sonucu için bir kez, bir kez de yanıtlamak için. Her çağrı tüm konuşmayı yeniden gönderir, bu yüzden girdi her adımda büyür.

  • Her çağrıyı max_tokens ile, tüm çalışmayı da maksimum adım sayısıyla sınırlayın.
  • Yeterli olduğu yerde küçük bir model kullanın. 23 Ekim 2026 itibarıyla gpt-oss-20b, milyon girdi token'ı başına DeepSeek V4 Pro'nun $1.254 fiyatına karşılık $0.033 tutuyor: basit adımları küçük modele yönlendirin, büyük olanı final yanıt için saklayın.
  • Geçmişi budayın uzun konuşmalarda veya eski turları özetleyin.
  • Krediyi izleyin büyük çalışmalardan önce GET https://llmwithcrypto.com/api/v1/credits ile.

Dashboard her çağrıyı token'ları ve maliyetiyle listeler; bu da bir chain'in hangi adımının pahalı olduğunu hemen gösterir.

Framework'ler: sık sorulan sorular

Aynı chain içinde modelleri karıştırabilir miyim?

Evet: her model için bir ChatOpenAI oluşturun; örneğin yönlendirme için ucuz bir tane, final yanıt için büyük bir tane. Hepsi aynı krediyi harcar.

Embedding'ler çalışır mı?

Hayır. API yalnızca chat completions sunar; mevcut embedding modelinizi onunla birlikte kullanın.

Bir agent çalışması için ne öderim?

Çalışmanın her model çağrısı, token başına. Token başına bakiyenizden ödersiniz: girdi ve çıktı token'ları modelin kendi tokenizer'ı ile sayılır ve o modelin 1M token başına fiyatından ücretlendirilir. Hata ile sonuçlanan bir çağrı ücretsizdir. Model başına fiyatlar fiyatlandırma sayfasında.

DeepSeek V4 Pro 1M girdi token'ı başına $1.254'ten · KYC olmadan

API anahtarı alın