LLM API 용어집

대규모 언어 모델: 대량의 텍스트로 학습한 신경망으로, 다음 토큰을 예측해 답변, 요약, 번역, 코드 작성을 수행합니다.

학습된 파라미터가 공개되어 다른 사람이 자신의 하드웨어에서 실행할 수 있는 모델입니다. 이를 어떻게 사용할 수 있는지는 라이선스에 따릅니다.

GPT, Claude, Gemini, Grok처럼 제작사만 제공하는 모델입니다. 제작사나 제작사가 승인한 파트너를 통해 접근합니다.

오픈 웨이트가 공개되는 조건입니다: Apache 2.0과 MIT는 상업적 제공을 허용하고, Llama 커뮤니티 라이선스는 사용 정책과 “Built with Llama” 표시 같은 조건을 추가합니다.

모델 내부의 숫자입니다. “120b”는 약 1,200억을 뜻하며, 파라미터가 많을수록 보통 더 뛰어나고 실행 비용이 더 듭니다.

각 토큰마다 모델의 일부만 작동하는 구조입니다. “Qwen3 235B A22B”에서는 2,350억 개의 파라미터가 존재하고 토큰당 약 220억 개가 활성화됩니다.

문제를 단계별로 따져본 뒤 답하는 식으로 훈련된 모델입니다(예: DeepSeek R1). 답변당 출력 토큰을 더 많이 쓰는 경우가 많습니다.

모델의 숫자를 더 적은 비트로 저장해 메모리를 덜 쓰고 돌리는 방식입니다. 품질이 조금 떨어질 수 있고, 호스트가 어떤 정밀도로 서비스하는지 항상 밝히지는 않습니다.

모델이 한 번에 받을 수 있는 최대 토큰 수로, 프롬프트와 답변을 합친 값입니다. 저희는 128K에서 1M 토큰까지 제공합니다.

OpenAI와 같은 요청 및 응답 형식을 받는 API로, base URL만 바꾸면 OpenAI의 SDK와 그 위에 만들어진 도구들이 그대로 작동합니다.

SDK가 요청을 보내는 주소입니다. LLMwithCrypto의 경우 https://llmwithcrypto.com/api/v1입니다.

메시지 목록(system, user, assistant)으로 구성된 OpenAI 요청 형식과 모델의 답변입니다. 저희의 주요 endpoint는 https://llmwithcrypto.com/api/v1/chat/completions입니다.

호출할 때마다 계정을 식별하는 비밀 문자열로, Bearer token으로 보냅니다. 코드가 아니라 환경 변수에 보관하세요.

전체 답변을 기다리지 않고, 서버 전송 이벤트(server-sent events)를 통해 생성되는 대로 토큰 단위로 답변을 받는 방식입니다.

모델이 JSON 형식의 인자와 함께 여러분의 코드에 함수 실행을 요청하고, 그 결과를 사용하게 하는 기능입니다. 함수 호출(function calling)이라고도 합니다.

지원하는 모델에서 response_format으로 설정해, 모델이 유효한 JSON으로 답하도록 요청하는 것입니다.

한 계정이 분당 보낼 수 있는 요청 또는 토큰 수입니다. 저희 값은 대시보드에 표시되며, 요청하면 올릴 수 있습니다.

대화의 첫 메시지로, 이후 대화 전체에서 모델의 역할과 규칙을 정합니다.

모델이 읽고 쓰는 단위로, 단어 하나 또는 단어의 일부입니다. 영어 기준 1,000 토큰은 약 750 단어입니다.

입력 토큰은 보내는 내용, 출력 토큰은 모델이 쓰는 내용입니다. 보통 출력이 토큰당 더 비쌉니다.

모델 API가 가격을 표시하는 방식으로, 입력 또는 출력 100만 토큰의 비용입니다. 호출 한 번에는 그 일부만 청구됩니다.

모델이 텍스트를 토큰으로 나누는 규칙입니다. 같은 텍스트라도 모델마다 토큰 수가 다르게 계산됩니다.

같은 모델에 대해 공개 호스트들이 표시한 가격의 중간값입니다. 저희 가격은 그보다 5% 낮습니다.

일부 호스트가 프롬프트 시작 부분이 반복될 때 제공하는 할인입니다. 저희는 아직 제공하지 않습니다.

잔액에서 정가로 구매하는 선불 API 크레딧으로, 어떤 모델에든 쓸 수 있고 만료되지 않습니다.

고객 확인(KYC): 서비스를 이용하기 전에 신분증이나 회사 서류를 확인하는 절차입니다. LLMwithCrypto는 이를 하지 않습니다.

Tron 네트워크의 토큰 표준입니다. TRC-20의 USDT는 소액 달러 금액을 보낼 때 전송 비용이 가장 적은 경우가 많습니다.

Ethereum의 토큰 표준으로, 이곳의 USDT와 USDC에 사용됩니다. 소액 전송 시 네트워크 수수료가 높을 수 있습니다.

블록체인이 전송을 처리하기 위해 부과하는 비용으로, 저희가 아니라 네트워크에 보내는 사람이 지불합니다.

여러분의 트랜잭션 뒤에 추가된 블록입니다. 저희는 네트워크가 필요한 컨펌 수를 확보하면 충전 금액을 잔액에 반영합니다.

잔액에 충전할 수 있는 최소 금액: US$25.

충전 후 계정에 남는 달러 금액으로, 이 금액으로 크레딧 팩을 구매합니다.