Glosarium LLM API

Large language model: jaringan neural yang dilatih pada teks dalam jumlah besar yang memprediksi token berikutnya, sehingga dapat menjawab, merangkum, menerjemahkan, atau menulis kode.

Model yang parameter terlatihnya dipublikasikan, sehingga orang lain dapat menjalankannya di perangkat keras mereka sendiri. Apa yang boleh mereka lakukan dengannya bergantung pada lisensinya.

Model yang hanya disediakan oleh pembuatnya, seperti GPT, Claude, Gemini, atau Grok. Aksesnya melalui pembuat atau mitra yang disetujuinya.

Ketentuan di mana open weights dipublikasikan: Apache 2.0 dan MIT mengizinkan penyajian komersial; lisensi komunitas Llama menambahkan persyaratan seperti kebijakan penggunaan dan pemberitahuan “Built with Llama”.

Angka-angka di dalam model. “120b” berarti sekitar 120 miliar; semakin banyak parameter biasanya semakin mumpuni dan semakin mahal untuk dijalankan.

Desain di mana hanya sebagian model yang bekerja pada setiap token. Dalam “Qwen3 235B A22B”, ada 235 miliar parameter dan sekitar 22 miliar yang aktif per token.

Model yang dilatih untuk mengerjakan masalah langkah demi langkah sebelum menjawab, seperti DeepSeek R1. Model ini sering menghabiskan lebih banyak token output per jawaban.

Menyimpan angka-angka model dengan bit yang lebih sedikit agar berjalan dengan memori lebih kecil. Ini bisa sedikit menurunkan kualitas; host tidak selalu menyebutkan presisi mana yang mereka sajikan.

Jumlah maksimum token yang dapat diterima model sekaligus, prompt dan jawaban digabung. Milik kami berkisar dari 128K hingga 1M token.

API yang menerima format permintaan dan respons yang sama dengan OpenAI, sehingga SDK dan alat yang dibangun di atasnya tetap berfungsi setelah Anda mengubah base URL.

Alamat tujuan SDK mengirim permintaan. Untuk LLMwithCrypto alamatnya https://llmwithcrypto.com/api/v1.

Format permintaan OpenAI dengan daftar pesan (system, user, assistant) dan balasan dari model. Endpoint utama kami adalah https://llmwithcrypto.com/api/v1/chat/completions.

String rahasia yang mengidentifikasi akun Anda pada setiap panggilan, dikirim sebagai Bearer token. Simpan di environment variable, jangan pernah di dalam kode.

Menerima jawaban token demi token saat dihasilkan, melalui server-sent events, alih-alih menunggu seluruh balasan.

Membiarkan model meminta kode Anda menjalankan sebuah fungsi, dengan argumen dalam JSON, lalu memakai hasilnya. Juga disebut function calling.

Meminta model menjawab dengan JSON yang valid, diatur melalui response_format pada model yang mendukungnya.

Jumlah permintaan atau token yang boleh dikirim sebuah akun per menit. Milik kami ditampilkan di dashboard dan dapat dinaikkan atas permintaan.

Pesan pertama dalam sebuah percakapan yang menetapkan peran dan aturan model untuk sisa percakapan itu.

Satuan yang dibaca dan ditulis model: satu kata atau bagian dari kata. Dalam bahasa Inggris, 1.000 token kira-kira 750 kata.

Token input adalah yang Anda kirim, token output adalah yang ditulis model. Output biasanya lebih mahal per token.

Cara API model mencantumkan harga: biaya satu juta token input atau output. Satu panggilan hanya memakan sebagian kecilnya.

Aturan yang dipakai model untuk memotong teks menjadi token. Teks yang sama terhitung jumlah token berbeda pada model yang berbeda.

Nilai tengah dari harga yang dicantumkan host publik untuk model yang sama. Harga kami 5% di bawahnya.

Diskon yang diberikan sebagian host saat awal prompt berulang. Kami belum menawarkannya.

Kredit API prabayar yang dibeli sebesar nilai nominalnya dari saldo Anda; dapat dipakai untuk model apa pun dan tidak pernah kedaluwarsa.

Know your customer: pemeriksaan dokumen identitas atau dokumen perusahaan sebelum sebuah layanan dapat digunakan. LLMwithCrypto tidak melakukannya.

Standar token jaringan Tron. USDT di TRC-20 sering kali paling murah dikirim untuk jumlah dolar yang kecil.

Standar token Ethereum, dipakai untuk USDT dan USDC di sana. Biaya jaringan bisa tinggi untuk transfer kecil.

Yang dibebankan blockchain untuk memproses transfer Anda, dibayar pengirim ke jaringan, bukan ke kami.

Blok yang ditambahkan setelah transaksi Anda. Kami mengkreditkan top-up setelah jaringannya memiliki konfirmasi yang dibutuhkan.

Jumlah terkecil yang dapat Anda tambahkan ke saldo: US$25.

Jumlah dolar di akun Anda setelah top-up, yang darinya Anda membeli paket kredit.