LLM API用語集

大規模言語モデル：大量のテキストで学習したニューラルネットワークで、次のトークンを予測することで、回答、要約、翻訳、コード作成などができます。

学習済みのパラメータが公開されているモデルで、他者が自分のハードウェアで実行できます。何ができるかはライセンスによって異なります。

GPT、Claude、Gemini、Grokなど、提供元だけがサービスを提供するモデルです。アクセスは提供元または承認されたパートナー経由になります。

オープンウェイトが公開される条件です。Apache 2.0とMITは商用での提供を認めています。Llamaコミュニティライセンスは、利用ポリシーや「Built with Llama」の表示などの条件を追加しています。

モデル内部の数値です。「120b」は約1200億を意味し、パラメータが多いほど一般に高性能で、実行コストも高くなります。

各トークンについてモデルの一部だけが動作する設計です。「Qwen3 235B A22B」では2350億のパラメータが存在し、トークンあたり約220億が有効になります。

問題を段階的に考えてから回答するように訓練されたモデル（DeepSeek R1など）。回答ごとにより多くの出力トークンを消費することがよくあります。

モデルの数値をより少ないビット数で保存し、少ないメモリで動作させることです。品質がわずかに低下する場合があり、ホストがどの精度で提供しているかを常に明示するとは限りません。

モデルが一度に受け取れるトークンの最大数で、プロンプトと回答を合わせたものです。当社では128Kから1Mトークンの範囲です。

OpenAIと同じリクエスト・レスポンス形式を受け付けるAPIで、base URLを変更するだけでそのSDKやそれを使ったツールが動作します。

SDKがリクエストを送信する先のアドレスです。LLMwithCryptoの場合はhttps://llmwithcrypto.com/api/v1です。

メッセージのリスト（system、user、assistant）とモデルからの返信を伴うOpenAIのリクエスト形式です。当社のメインendpointはhttps://llmwithcrypto.com/api/v1/chat/completionsです。

各呼び出しでアカウントを識別する秘密の文字列で、Bearerトークンとして送信します。環境変数に保存し、コードには決して書かないでください。

回答全体を待つのではなく、server-sent eventsを通じて生成されると同時にトークンごとに回答を受け取ることです。

モデルがJSONの引数を使ってあなたのコードに関数の実行を依頼し、その結果を利用できるようにすることです。function callingとも呼ばれます。

対応しているモデルでresponse_formatを設定し、モデルに有効なJSONで回答するよう求めることです。

アカウントが1分あたりに送信できるリクエスト数またはトークン数です。当社の値はダッシュボードに表示され、リクエストに応じて引き上げ可能です。

会話の最初のメッセージで、その後の会話におけるモデルの役割とルールを設定するものです。

モデルが読み書きする単位で、単語または単語の一部です。英語では1,000トークンはおよそ750語に相当します。

入力トークンは送信するもの、出力トークンはモデルが書き出すものです。通常、出力のほうが1トークンあたりのコストが高くなります。

モデルAPIが価格を提示する方法で、100万入力トークンまたは出力トークンあたりのコストです。1回の呼び出しはそのごく一部のコストです。

モデルがテキストをトークンに分割する際に使うルールです。同じテキストでもモデルによってトークン数が異なります。

公開ホストが同じモデルに対して提示する価格の中央値です。当社の価格はその5%下です。

一部のホストがプロンプトの冒頭が繰り返される場合に提供する割引です。当社ではまだ提供していません。

残高から額面で購入するプリペイドのAPIクレジットで、どのモデルにも使え、有効期限はありません。

Know your customer：サービスを利用する前に本人確認書類や会社書類を確認することです。LLMwithCryptoでは行いません。

Tronネットワークのトークン標準です。少額のドル金額の場合、TRC-20上のUSDTは送金コストが最も安いことがよくあります。

Ethereumのトークン標準で、そこでのUSDTやUSDCに使われます。少額の送金ではネットワーク手数料が高くなることがあります。

ブロックチェーンが送金を処理するために課す手数料で、送金者がネットワークに支払うものであり、当社には支払われません。

トランザクションの後に追加されるブロックです。チャージは、そのネットワークが必要な確認数を満たした時点で残高に反映されます。

残高に追加できる最小金額は$25です。

トップアップ後のアカウント残高（ドル建て）で、ここからクレジットパックを購入します。