เอกสาร API: Chat Completions สำหรับ Text Pipelines

Base URL & การตรวจสอบสิทธิ์

เริ่มต้นโดยชี้ไคลเอนต์ของคุณไปที่ Base URL https://api.speechtotextapis.com/v1 เอนด์พอยต์นี้เข้ากันได้กับ OpenAI อย่างสมบูรณ์ หมายความว่าคุณสามารถใช้ SDK openai มาตรฐานใดๆ ได้โดยการปรับค่าพารามิเตอร์ base_url คุณไม่จำเป็นต้องเขียนตรรกะคำขอใหม่ เพียงเปลี่ยน URL และใส่คีย์ API ของคุณ คีย์ของคุณจะถูกสร้างทันทีเมื่อสมัครสมาชิกในหน้าคีย์ มันผูกกับบัญชีของคุณ และคุณสามารถสร้างคีย์ใหม่ได้ตลอดเวลา ซึ่งจะทำให้คีย์เก่ายกเลิกทันที ไม่ต้องใช้เบอร์โทรศัพท์ และเครดิตทดลองใช้จะเปิดใช้งานโดยไม่ต้องใส่บัตร การตั้งค่านี้ทำให้สายงานของคุณเรียบง่ายในขณะที่คุณเข้าถึงโมเดลแบบไม่เซ็นเซอร์ที่จัดการเนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมายได้โดยไม่เปลี่ยนผลลัพธ์

คำขอแรก

ส่งคำขอ POST มาตรฐานไปยัง /v1/chat/completions ชื่อระบุโมเดลคือ uncensored เสมอ โมเดลนี้เป็นรูปแบบ open-weight ที่ปรับแต่งมาเพื่อลดการปฏิเสธในหัวข้อที่ถูกต้องตามกฎหมาย โมเดลนี้ทำงานบนเซิร์ฟเวอร์ GPU เฉพาะของเรา คุณไม่ได้ใช้ GPT หรือ Claude แต่ได้ประสบการณ์จากโมเดลเดียวที่เสถียร เนื้อหาของคำขอประกอบด้วยแฟล็ก model, messages และ stream ด้านล่างคือตัวอย่าง cURL เบื้องต้นเพื่อตรวจสอบการเชื่อมต่อและรับข้อความตอบกลับ

Copycurl https://api.speechtotextapis.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

คำขอนี้จะส่งคืนวัตถุ JSON ที่มีข้อความที่สร้างขึ้น หากคีย์ไม่ถูกต้อง คุณจะรับข้อผิดพลาด 401 หากเครดิตแบบเติมเงินล่วงหน้าของคุณหมดลง คุณจะรับข้อผิดพลาด 402 เหล่านี้คือสิ่งกีดขวางหลักที่ต้องตรวจสอบก่อนการดีบักลอจิก

การผสานรวม Python SDK

สำหรับนักพัฒนา Python ไลบรารี openai ทางการใช้งานได้ทันที เริ่มต้นไคลเอนต์ด้วยคีย์และ Base URL แบบกำหนดเอง ส่ง ID โมเดล uncensored ในการเรียก chat completion ของคุณ วิธีนี้เหมาะสำหรับการประมวลผลข้อความหลัง ASR ทำความสะอาดเสียงรบกวนจากการถอดเสียง หรือดึงข้อมูลที่มีโครงสร้างจากข้อความดิบ ธรรมชาติแบบไม่เซ็นเซอร์รับประกันว่าหากข้อความถอดเสียงของคุณมีบทสนทนาสำหรับผู้ใหญ่หรือคำศัพท์ที่ถกเถียงกัน LLM จะประมวลผลโดยไม่บล็อกหรือเขียนใหม่เพื่อความสุภาพ สิ่งนี้สำคัญมากสำหรับสายงานสร้างสรรค์ที่ความถูกต้องของเสียงต้นฉบับเป็นสิ่งสำคัญ SDK จัดการการแบ่งโทเคนและตรรกะการลองใหม่โดยอัตโนมัติ

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.speechtotextapis.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

โปรดจำไว้ว่า ID โมเดลคือ uncensored เท่านั้น อย่าแทนที่ด้วย gpt-4 หรือตัวระบุทั่วไปอื่นๆ เนื่องจากอาจไม่จัดเส้นทางไปยังน้ำหนักแบบไม่เซ็นเซอร์เฉพาะของเรา

การผสานรวม Node SDK

นักพัฒนา Node.js สามารถใช้แพ็คเกจ npm openai ได้เช่นกัน ตั้งค่า apiKey และ baseURL ในคอนสตรัคเตอร์ไคลเอนต์ จากนั้นเรียก chat.completions.create ด้วยโมเดล uncensored สิ่งนี้มีประโยชน์สำหรับสคริปต์คำบรรยายแบบเรียลไทม์หรืองานสร้างข้อความฝั่งเซิร์ฟเวอร์ API รองรับโหลด JSON มาตรฐาน คุณสามารถรวมข้อความระบบเพื่อกำหนดโทนหรือบทบาทของผู้ช่วย โมเดลแบบไม่เซ็นเซอร์ตอบสนองต่อพรอมต์เหล่านี้โดยตรงโดยไม่มีการป้องกันความปลอดภัยเพิ่มเติมที่อาจเปลี่ยนผลลัพธ์เชิงสร้างสรรค์ โปรดจัดการสตรีมการตอบกลับหากคุณกำลังประมวลผลเอกสารขนาดใหญ่ SDK ของ Node.js ลับรายละเอียด HTTP ทำให้คุณสามารถมุ่งเน้นไปที่ตรรกะสายงานข้อความได้

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.speechtotextapis.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

ขีดจำกัดอัตราใช้ต่อคีย์ หากเกิน 300 คำขอต่อนาที API จะส่งข้อผิดพลาด 429 ให้ใช้การเพิ่มเวลาแบบเอกซ์โพเนนเชียลในตรรกะการลองใหม่ของคุณเพื่อจัดการกับเรื่องนี้ได้อย่างราบรื่น

การตอบสนองแบบสตรีม (SSE)

สำหรับแอปพลิเคชันที่มีความหน่วงต่ำ ให้เปิดใช้งานสตรีมมิงโดยตั้งค่า stream: true ในคำขอของคุณ API ส่งคืนชิ้นส่วน Server-Sent Events (SSE) แต่ละชิ้นมีค่าข้อความย่อยบางส่วน สิ่งนี้จำเป็นสำหรับคำบรรยายสดหรืออินเทอร์เฟซแชทแบบโต้ตอบ โมเดลแบบไม่เซ็นเซอร์รองรับสตรีมมิงแบบเนทีฟ คุณไม่จำเป็นต้องรอให้เสร็จสมบูรณ์เพื่อเริ่มแสดงข้อความ สิ่งนี้ลดความหน่วงที่รับรู้ได้อย่างมาก กำหนดค่า SDK ของคุณเพื่อจัดการเหตุการณ์สตรีม ใน Python ให้วนซ้ำผ่านวัตถุสตรีม ใน Node ให้ใช้ตัววนซ้ำแบบอะซิงโครนัส สตรีมจะสิ้นสุดด้วยชิ้นสุดท้ายที่มีเหตุผลการสิ้นสุด วิธีนี้มีประสิทธิภาพสำหรับแบนด์วิดท์และประสบการณ์ผู้ใช้

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

สตรีมมิงไม่เปลี่ยนการเรียกเก็บเงินโทเคน คุณจะถูกเรียกเก็บสำหรับโทเคนอินพุตและเอาต์พุตทั้งหมดไม่ว่าคุณจะสตรีมหรือขอการตอบสนองเต็มรูปแบบ

ขีดจำกัดและข้อจำกัด

บัญชีของคุณมีขีดจำกัดสูงสุด 300 คำขอต่อนาทีต่อคีย์ API ร่างคำขอไม่สามารถเกิน 8 MB ได้ หน้าต่างบริบทคือ 100,000 โทเคน ซึ่งครอบคลุมทั้งพรอมต์และการสร้างข้อความ สิ่งนี้เพียงพอสำหรับการประมวลผลเอกสารส่วนใหญ่และงานถอดเสียงบริบทยาว หากคุณส่งพรอมต์ที่เกินหน้าต่าง API จะส่งข้อผิดพลาด โมเดลแบบไม่เซ็นเซอร์บล็อกเฉพาะขีดจำกัดแข็งหนึ่งข้อ: เนื้อหาทางเพศที่เกี่ยวข้องกับเด็ก เนื้อหาผู้ใหญ่ที่ถูกต้องตามกฎหมายอื่นๆ ทั้งหมดได้รับอนุญาต สิ่งนี้ทำให้เหมาะสำหรับสายงานสื่อที่คาดหวังความหลากหลายของเนื้อหา ไม่มีสมาชิก; คุณจ่ายตามการใช้งาน เครดิตแบบเติมเงินล่วงหน้าไม่หมดอายุ ใช้เอนด์พอยต์ GET /v1/models เพื่อตรวจสอบความพร้อมหากจำเป็น แม้ว่า ID โมเดลจะเป็น uncensored เสมอ