# open-weight 모델과 함께 쓰는 LangChain 및 LlamaIndex

> LangChain과 LlamaIndex에서 open-weight LLM 사용: base_url을 지정한 ChatOpenAI, 도구 바인딩, LangChain.js 및 OpenAILike. 토큰당 암호화폐로 지불하세요.

- URL: https://llmwithcrypto.com/ko/docs/langchain/
- 마지막 업데이트: 2026-10-23
- 발행자: LLMwithCrypto (https://llmwithcrypto.com)

LangChain과 LlamaIndex는 모두 사용자 지정 base URL을 받는 OpenAI 채팅 모델을 제공합니다. 이를 저희 API로 지정하면 구축한 모든 체인, 에이전트, 리트리버가 계속 작동하며, 이제 DeepSeek, Qwen, gpt-oss 및 기타 open-weight 모델에서 실행됩니다.

**빠른 답변 — LangChain에서 LLMwithCrypto을 어떻게 사용하나요?**

`langchain-openai`을 설치하고 `ChatOpenAI(model="deepseek-v4-pro", base_url="https://llmwithcrypto.com/api/v1", api_key=…)`을 만드세요. **LLMwithCrypto**은 OpenAI 채팅 형식을 사용하므로 도구를 지원하는 모델에서 `invoke`, 스트리밍 및 `bind_tools`이 OpenAI와 동일하게 작동합니다. LlamaIndex는 같은 base URL로 `OpenAILike`을 사용합니다. 2026년 10월 23일 문서화.

## 어떤 클래스를 사용해야 하나요

| 속성 | 값 |
| --- | --- |
| LangChain (Python) | `langchain-openai`에서 `base_url`(으)로, `ChatOpenAI` |
| LangChain.js | `@langchain/openai`에서 `configuration.baseURL`(으)로, `ChatOpenAI` |
| LlamaIndex | `llama-index-llms-openai-like`에서 `is_chat_model=True`과(와) 함께 `api_base`(으)로, `OpenAILike` |
| 모델 id | [모델 페이지](https://llmwithcrypto.com/ko/models/)에서 |

## ChatOpenAI는 어떻게 설정하나요?

모델을 생성할 때 base URL과 키를 전달합니다. `max_tokens`을 설정하면 체인이나 에이전트의 모든 단계가 지불하려는 양보다 많이 쓰지 않습니다. 응답의 `usage_metadata`은 각 호출의 토큰을 보여줍니다.

*LangChain: DeepSeek V4 Pro에서의 ChatOpenAI*

```python
import os

from langchain_openai import ChatOpenAI

llm = ChatOpenAI(
    model="deepseek-v4-pro",
    base_url="https://llmwithcrypto.com/api/v1",
    api_key=os.environ["LLMWITHCRYPTO_API_KEY"],
    max_tokens=300,
    temperature=0.3,
)
reply = llm.invoke("Explain what a vector database is in two sentences.")
print(reply.content)
print(reply.usage_metadata)

```

## 도구와 에이전트도 작동하나요?

네, 도구 호출(tool calling)을 지원하는 모델에서 작동합니다. 스트리밍은 모든 모델에서 동작하며, tool calling과 JSON 출력은 각 모델이 자체적으로 지원하는 범위를 따릅니다. `bind_tools`은 도구를 OpenAI 형식으로 전송합니다. 의존하기 전에 선택한 모델에서 스키마를 테스트하세요. `ChatOpenAI` 위에 구축한 LangGraph 에이전트도 같은 방식으로 작동합니다.

*LangChain: gpt-oss-120b에 바인딩된 도구*

```python
import os

from langchain_core.tools import tool
from langchain_openai import ChatOpenAI


@tool
def convert_currency(amount: float, rate: float) -> float:
    """Convert an amount with an exchange rate."""
    return round(amount * rate, 2)


llm = ChatOpenAI(
    model="gpt-oss-120b",
    base_url="https://llmwithcrypto.com/api/v1",
    api_key=os.environ["LLMWITHCRYPTO_API_KEY"],
)
llm_with_tools = llm.bind_tools([convert_currency])
msg = llm_with_tools.invoke("How much is 250 at a rate of 0.92?")
for call in msg.tool_calls:
    print(call["name"], call["args"], "->", convert_currency.invoke(call["args"]))

```

## JavaScript에서는요?

LangChain.js는 `configuration` 내부에서 base URL을 받으며, 이를 하위 OpenAI 클라이언트에 전달합니다.

*LangChain.js: baseURL을 사용한 ChatOpenAI*

```javascript
import { ChatOpenAI } from '@langchain/openai';

const llm = new ChatOpenAI({
  model: 'qwen3-235b-a22b-instruct-2507',
  apiKey: process.env.LLMWITHCRYPTO_API_KEY,
  configuration: { baseURL: 'https://llmwithcrypto.com/api/v1' },
  maxTokens: 300,
});
const reply = await llm.invoke('Give me a three-step plan to learn SQL.');
console.log(reply.content);

```

## LlamaIndex에서는 어떻게 사용하나요?

`OpenAILike`을 사용하세요. 이 클래스는 모델 이름을 OpenAI 목록과 대조하지 않습니다. `is_chat_model=True`을 설정해 채팅 메시지를 전송하고, 모델의 컨텍스트 윈도우를 지정해 LlamaIndex가 프롬프트 크기를 조정할 수 있게 하세요. 2026년 10월 23일 기준 DeepSeek V4.1 Flash는 최대 1M 토큰을 읽으며, 예제는 프롬프트를 짧게 유지하기 위해 의도적으로 더 작은 윈도우를 설정합니다.

*LlamaIndex: DeepSeek V4.1 Flash에서의 OpenAILike*

```python
import os

from llama_index.llms.openai_like import OpenAILike

llm = OpenAILike(
    model="deepseek-v4.1-flash",
    api_base="https://llmwithcrypto.com/api/v1",
    api_key=os.environ["LLMWITHCRYPTO_API_KEY"],
    is_chat_model=True,
    context_window=131072,
    max_tokens=300,
)
print(llm.complete("Name three uses of a knowledge graph."))

```

## 에이전트 비용은 어떻게 관리하나요?

에이전트는 작업마다 모델을 여러 번 호출합니다. 계획할 때 한 번, 도구 결과마다 한 번, 답변할 때 한 번입니다. 각 호출은 대화 전체를 다시 전송하므로 입력이 단계마다 늘어납니다.

- **각 호출을 `max_tokens`으로 제한**하고, 전체 실행은 최대 단계 수로 제한하세요.
- **충분한 곳에는 작은 모델을 사용하세요.** 2026년 10월 23일 기준 gpt-oss-20b는 입력 토큰 백만 개당 $0.033이며, DeepSeek V4 Pro는 $1.254입니다. 간단한 단계는 작은 모델로 라우팅하고 최종 답변에는 큰 모델을 사용하세요.
- **긴 대화에서는 기록을 줄이거나** 오래된 턴을 요약하세요.
- **큰 실행 전에 `GET https://llmwithcrypto.com/api/v1/credits`으로 크레딧을 확인**하세요.

대시보드는 모든 호출을 토큰과 비용과 함께 보여주므로, 체인의 어느 단계가 비싼지 빠르게 알 수 있습니다.

## 프레임워크: 자주 묻는 질문

### 하나의 체인에 여러 모델을 섞을 수 있나요?

네. 모델마다 `ChatOpenAI`을 하나씩 생성하세요. 예를 들어 라우팅에는 저렴한 모델을, 최종 답변에는 큰 모델을 사용합니다. 모두 동일한 크레딧을 사용합니다.

### 임베딩도 작동하나요?

아니요. API는 chat completions만 제공합니다. 기존 임베딩 모델을 함께 사용하세요.

### 에이전트 실행 비용은 어떻게 지불하나요?

실행의 모든 모델 호출에 대해 토큰 단위로 지불합니다. 잔액에서 토큰 단위로 결제합니다. 입력 및 출력 토큰은 모델 자체의 tokenizer로 계산되며, 해당 모델의 1M 토큰당 가격으로 청구됩니다. 오류로 끝난 호출은 비용이 들지 않습니다. 모델별 가격은 [가격 페이지](https://llmwithcrypto.com/ko/pricing/)에 있습니다.

---

LLMwithCrypto: LLMwithCrypto는 오픈 웨이트 모델을 위한 OpenAI 호환 LLM API입니다 — DeepSeek V4 Pro, DeepSeek V4.1 Flash, DeepSeek R1, Qwen3.5 397B A17B, Qwen3 235B A22B Instruct, gpt-oss-120b, gpt-oss-20b, GLM-4.7, Llama 3.3 70B Instruct, Gemma 4 31B, Mistral Large 3, Mistral Small 4 — 충전해 둔 암호화폐 잔액에서 토큰 단위로 결제하며, 공개 호스트 가격 중앙값보다 5% 저렴합니다. KYC 없이: 신분증도, 셀피도, 서류도 필요하지 않습니다. 프롬프트와 출력은 저장되지 않습니다.