Thuật ngữ LLM API

Large language model: một mạng nơ-ron được huấn luyện trên lượng lớn văn bản để dự đoán token tiếp theo, nhờ đó nó có thể trả lời, tóm tắt, dịch hoặc viết code.

Một model mà các tham số đã huấn luyện được công bố, để người khác có thể chạy nó trên phần cứng của riêng họ. Họ được phép làm gì với nó phụ thuộc vào giấy phép của nó.

Một model chỉ nhà sản xuất của nó cung cấp, như GPT, Claude, Gemini hay Grok. Truy cập đi qua nhà sản xuất hoặc các đối tác mà họ chấp thuận.

Các điều khoản mà theo đó open weights được công bố: Apache 2.0 và MIT cho phép cung cấp dịch vụ thương mại; giấy phép cộng đồng Llama thêm các điều kiện như chính sách sử dụng và thông báo “Built with Llama”.

Các con số bên trong một model. “120b” nghĩa là khoảng 120 tỷ; nhiều tham số hơn thường nghĩa là mạnh hơn và tốn kém hơn để chạy.

Một thiết kế trong đó chỉ một phần của model xử lý mỗi token. Trong “Qwen3 235B A22B”, có 235 tỷ tham số và khoảng 22 tỷ tham số hoạt động cho mỗi token.

Một mô hình được huấn luyện để xử lý vấn đề từng bước trước khi trả lời, chẳng hạn như DeepSeek R1. Mô hình thường tốn nhiều token đầu ra hơn cho mỗi câu trả lời.

Lưu trữ các con số của mô hình với ít bit hơn để mô hình chạy với ít bộ nhớ hơn. Cách này có thể làm giảm chất lượng một chút; các nhà cung cấp không phải lúc nào cũng cho biết họ phục vụ với độ chính xác nào.

Số token tối đa mà một mô hình có thể nhận vào cùng lúc, gồm cả prompt và câu trả lời. Các mô hình của chúng tôi có cửa sổ từ 128K đến 1M token.

Một API chấp nhận cùng định dạng yêu cầu và phản hồi như của OpenAI, nên các SDK và công cụ được xây dựng trên đó vẫn hoạt động sau khi đổi base URL.

Địa chỉ mà một SDK gửi yêu cầu đến. Với LLMwithCrypto, đó là https://llmwithcrypto.com/api/v1.

Định dạng yêu cầu của OpenAI với một danh sách các message (system, user, assistant) và câu trả lời từ mô hình. Endpoint chính của chúng tôi là https://llmwithcrypto.com/api/v1/chat/completions.

Một chuỗi bí mật xác định tài khoản của bạn trong mỗi lần gọi, được gửi dưới dạng Bearer token. Hãy giữ nó trong một biến môi trường, không bao giờ để trong code.

Nhận câu trả lời theo từng token ngay khi được tạo ra, thông qua server-sent events, thay vì chờ toàn bộ phản hồi.

Cho phép mô hình yêu cầu code của bạn chạy một function, với các đối số ở định dạng JSON, rồi dùng kết quả đó. Còn được gọi là function calling.

Yêu cầu mô hình trả lời bằng JSON hợp lệ, được thiết lập qua response_format trên các mô hình hỗ trợ.

Số yêu cầu hoặc token mà một tài khoản có thể gửi mỗi phút. Giới hạn của chúng tôi được hiển thị trong dashboard và có thể tăng theo yêu cầu.

Message đầu tiên của một cuộc hội thoại, thiết lập vai trò và quy tắc của mô hình cho phần còn lại của cuộc hội thoại.

Đơn vị mà mô hình đọc và viết: một từ hoặc một phần của từ. Trong tiếng Anh, 1.000 token tương đương khoảng 750 từ.

Token đầu vào là những gì bạn gửi, token đầu ra là những gì mô hình viết. Token đầu ra thường có giá cao hơn mỗi token.

Cách các API mô hình báo giá: chi phí của một triệu token đầu vào hoặc đầu ra. Một lần gọi chỉ tốn một phần nhỏ của mức đó.

Quy tắc mà một mô hình dùng để cắt văn bản thành các token. Cùng một đoạn văn bản được tính ra số token khác nhau trên các mô hình khác nhau.

Giá trị giữa của các mức giá mà các nhà cung cấp công khai niêm yết cho cùng một mô hình. Giá của chúng tôi thấp hơn mức đó 5%.

Một khoản giảm giá mà một số nhà cung cấp áp dụng khi phần đầu của prompt được lặp lại. Chúng tôi chưa cung cấp khoản này.

Credit API trả trước được mua theo mệnh giá từ số dư của bạn; credit dùng được cho bất kỳ mô hình nào và không bao giờ hết hạn.

Know your customer: các bước kiểm tra giấy tờ tùy thân hoặc giấy tờ công ty trước khi có thể sử dụng một dịch vụ. LLMwithCrypto không thực hiện các bước này.

Tiêu chuẩn token của mạng Tron. USDT trên TRC-20 thường có chi phí gửi thấp nhất với một khoản tiền nhỏ.

Tiêu chuẩn token của Ethereum, được dùng cho USDT và USDC trên mạng này. Phí mạng có thể cao với các giao dịch nhỏ.

Khoản phí mà blockchain thu để xử lý giao dịch của bạn, do người gửi trả cho mạng, không phải cho chúng tôi.

Một block được thêm vào sau giao dịch của bạn. Chúng tôi cộng tiền nạp khi mạng của giao dịch đó đã có đủ số xác nhận cần thiết.

Số tiền nhỏ nhất bạn có thể nạp vào số dư: 25 US$.

Số tiền đô-la trong tài khoản của bạn sau khi nạp, dùng để mua các gói credit.