อภิธานศัพท์ LLM API

โมเดลภาษาขนาดใหญ่: โครงข่ายประสาทเทียมที่ฝึกด้วยข้อความปริมาณมากเพื่อทำนาย token ถัดไป ทำให้ตอบคำถาม สรุป แปล หรือเขียนโค้ดได้

โมเดลที่เผยแพร่พารามิเตอร์ที่ผ่านการฝึกแล้ว ผู้อื่นจึงรันบนฮาร์ดแวร์ของตนเองได้ สิ่งที่ทำได้กับโมเดลขึ้นอยู่กับใบอนุญาต

โมเดลที่ผู้สร้างเท่านั้นให้บริการ เช่น GPT, Claude, Gemini หรือ Grok เข้าถึงผ่านผู้สร้างหรือพาร์ตเนอร์ที่ได้รับอนุมัติ

ข้อกำหนดในการเผยแพร่ open weights: Apache 2.0 และ MIT อนุญาตให้ให้บริการเชิงพาณิชย์ได้ ส่วนใบอนุญาต Llama community เพิ่มเงื่อนไขเช่นนโยบายการใช้งานและข้อความ “Built with Llama”

ตัวเลขภายในโมเดล “120b” หมายถึงประมาณ 120 พันล้าน พารามิเตอร์มากขึ้นมักหมายถึงความสามารถมากขึ้นและต้นทุนการรันสูงขึ้น

การออกแบบที่โมเดลเพียงบางส่วนทำงานกับแต่ละ token ใน “Qwen3 235B A22B” มีพารามิเตอร์ 235 พันล้าน และมีประมาณ 22 พันล้านที่ทำงานต่อ token

โมเดลที่ถูกฝึกให้คิดแก้ปัญหาทีละขั้นก่อนตอบ เช่น DeepSeek R1 ซึ่งมักใช้ output tokens ต่อคำตอบมากกว่า

การเก็บตัวเลขของโมเดลด้วยจำนวนบิตที่น้อยลงเพื่อให้ทำงานได้ด้วยหน่วยความจำที่น้อยลง อาจลดคุณภาพลงเล็กน้อย และโฮสต์ไม่ได้ระบุเสมอว่าให้บริการด้วยความแม่นยำระดับใด

จำนวน tokens สูงสุดที่โมเดลรับได้ในครั้งเดียว ทั้ง prompt และคำตอบรวมกัน ของเราอยู่ในช่วง 128K ถึง 1M tokens

API ที่รับรูปแบบ request และ response แบบเดียวกับของ OpenAI ทำให้ SDK และเครื่องมือที่สร้างบนนั้นใช้งานได้หลังเปลี่ยน base URL

ที่อยู่ที่ SDK ส่ง request ไป สำหรับ LLMwithCrypto คือ https://llmwithcrypto.com/api/v1

รูปแบบ request ของ OpenAI ที่มีรายการ messages (system, user, assistant) และคำตอบจากโมเดล endpoint หลักของเราคือ https://llmwithcrypto.com/api/v1/chat/completions

สตริงลับที่ระบุบัญชีของคุณในทุกการเรียก ส่งเป็น Bearer token เก็บไว้ใน environment variable เสมอ ห้ามใส่ในโค้ด

การรับคำตอบทีละ token ขณะที่ถูกสร้าง ผ่าน server-sent events แทนการรอคำตอบทั้งหมด

การให้โมเดลขอให้โค้ดของคุณรันฟังก์ชันพร้อมอาร์กิวเมนต์ในรูปแบบ JSON แล้วนำผลลัพธ์ไปใช้ เรียกอีกชื่อว่า function calling

การขอให้โมเดลตอบเป็น JSON ที่ถูกต้อง ตั้งค่าผ่าน response_format บนโมเดลที่รองรับ

จำนวน request หรือ tokens ที่บัญชีหนึ่งส่งได้ต่อนาที ของเราจะแสดงใน dashboard และสามารถเพิ่มได้เมื่อร้องขอ

ข้อความแรกของบทสนทนาที่กำหนดบทบาทและกฎของโมเดลสำหรับบทสนทนาที่เหลือ

หน่วยที่โมเดลอ่านและเขียน: คำหรือส่วนหนึ่งของคำ ในภาษาอังกฤษ 1,000 tokens ประมาณ 750 คำ

Input tokens คือสิ่งที่คุณส่งไป ส่วน output tokens คือสิ่งที่โมเดลเขียน โดยปกติ output มีค่าใช้จ่ายต่อ token สูงกว่า

วิธีที่ API ของโมเดล quoted ราคา: ต้นทุนของหนึ่งล้าน input หรือ output tokens การเรียกหนึ่งครั้งมีค่าใช้จ่ายเพียงเศษส่วนของจำนวนนั้น

กฎที่โมเดลใช้แบ่งข้อความเป็น tokens ข้อความเดียวกันนับเป็นจำนวน tokens ต่างกันในแต่ละโมเดล

ค่ากลางของราคาที่โฮสต์สาธารณะประกาศไว้สำหรับโมเดลเดียวกัน ราคาของเราต่ำกว่านั้น 5%

ส่วนลดที่บางโฮสต์ให้เมื่อส่วนต้นของ prompt ซ้ำกัน เรายังไม่มีให้

เครดิต API แบบเติมล่วงหน้าที่ซื้อในราคาหน้าบัตรจากยอดคงเหลือของคุณ ใช้ได้กับทุกโมเดลและไม่มีวันหมดอายุ

Know your customer: การตรวจสอบเอกสารระบุตัวตนหรือเอกสารบริษัทก่อนใช้บริการ LLMwithCrypto ไม่ดำเนินการดังกล่าว

มาตรฐาน token ของเครือข่าย Tron โดย USDT บน TRC-20 มักมีค่าใช้จ่ายในการส่งต่ำที่สุดสำหรับจำนวนเงินดอลลาร์ที่น้อย

มาตรฐาน token ของ Ethereum ที่ใช้สำหรับ USDT และ USDC บนเครือข่ายนั้น ค่าธรรมเนียมเครือข่ายอาจสูงสำหรับการโอนจำนวนน้อย

ค่าธรรมเนียมที่บล็อกเชนเรียกเก็บเพื่อประมวลผลการโอนของคุณ ผู้ส่งจ่ายให้เครือข่าย ไม่ใช่ให้เรา

บล็อกที่ถูกเพิ่มหลังจากธุรกรรมของคุณ เราจะเติมเครดิตการเติมเงินเมื่อเครือข่ายมีการยืนยันครบตามที่ต้องการแล้ว

จำนวนเงินขั้นต่ำที่คุณสามารถเพิ่มเข้าสู่ยอดคงเหลือของคุณ: US$25

จำนวนเงินดอลลาร์ในบัญชีของคุณหลังการเติมเงิน ซึ่งคุณใช้ซื้อแพ็กเครดิต