LLM API 术语表

大语言模型：一种在大量文本上训练的神经网络，用于预测下一个 token，因此能够回答问题、总结、翻译或编写代码。

训练好的参数被公开发布的模型，其他人可以在自己的硬件上运行。他们能用它做什么取决于其许可证。

仅由其开发者提供的模型，例如 GPT、Claude、Gemini 或 Grok。访问需通过开发者或其认可的合作伙伴。

开放权重发布所依据的条款：Apache 2.0 和 MIT 允许商业性提供服务；Llama 社区许可证附加了使用政策和“Built with Llama”声明等条件。

模型内部的数值。“120b”表示约 1200 亿；参数越多通常能力越强，运行成本也越高。

一种设计，每个 token 只由模型的一部分处理。在“Qwen3 235B A22B”中，共有 2350 亿参数，每个 token 约激活 220 亿。

一种经过训练、在回答前会逐步推理问题的模型，例如 DeepSeek R1。它的每个回答往往消耗更多输出 token。

用量化精度更低的位数存储模型数值，使其能在更少内存上运行。它可能略微降低质量；主机并不总会说明其提供的是哪种精度。

模型一次能接收的最大 token 数，包含 prompt 和回答。我们的范围从 128K 到 1M token。

一种接受与 OpenAI 相同请求和响应格式的 API，因此只需更改 base URL，其 SDK 以及基于它们构建的工具即可使用。

SDK 发送请求的地址。对于 LLMwithCrypto，它是 https://llmwithcrypto.com/api/v1。

OpenAI 的请求格式：包含一组 messages（system、user、assistant）以及模型返回的回答。我们的主 endpoint 是 https://llmwithcrypto.com/api/v1/chat/completions。

一个密钥字符串，用于在每次调用时识别你的账户，以 Bearer token 形式发送。请将其保存在环境变量中，切勿写在代码里。

通过 server-sent events 在答案生成时逐 token 接收，而不是等待完整回答。

让模型请求你的代码执行某个函数，参数以 JSON 传入，然后使用返回结果。也称为 function calling。

要求模型以合法 JSON 作答，在支持的模型上通过 response_format 设置。

账户每分钟可发送的请求数或 token 数。我们的额度显示在 dashboard 中，可按需提高。

对话中的第一条 message，用来设定模型在后续对话中的角色和规则。

模型读写的基本单位：一个词或词的一部分。在英文中，1,000 token 大致相当于 750 个词。

输入 token 是你发送的内容，输出 token 是模型写出的内容。输出通常每个 token 更贵。

模型 API 的报价方式：一百万输入或输出 token 的费用。一次调用只花费其中一小部分。

模型将文本切分为 token 的规则。同一段文本在不同模型上会计算为不同数量的 token。

公开主机对同一模型所列价格的中位值。我们的价格比它低 5%。

部分主机在 prompt 开头重复时提供的折扣。我们目前尚未提供。

按面值从你的余额购买预付 API 积分；可用于任何模型，且永不过期。

Know your customer：使用服务前对身份证件或公司文件进行的核查。LLMwithCrypto 不进行此类核查。

Tron 网络的 token 标准。对于小额美元金额，TRC-20 上的 USDT 通常发送成本最低。

Ethereum 的 token 标准，用于该网络上的 USDT 和 USDC。小额转账的网络费用可能较高。

区块链为处理你的转账而收取的费用，由发送方支付给网络，而非支付给我们。

你的交易之后新增的区块。当充值所在的网络达到所需确认数后，我们会将其入账。

可以充值到余额的最小金额：US$25。

充值后账户中的美元金额，用于购买积分包。