क्विकस्टार्ट: अनसेंसर्ड LLM API

आवश्यकताएँ: SDK और API कुंजी सेटअप

हमारे होस्टेड सेवा के लिए बेस यूआरएल है https://api.priceclaude.com/v1. में पास की गई एक मान्य API कुंजी की आवश्यकता होती है Authorization हेडर। आप Google या ईमेल से साइनअप करने के तुरंत बाद इस कुंजी को जनरेट करते हैं API कुंजी प्राप्त करें पेज। साइनअप के लिए फोन नंबर की आवश्यकता नहीं है।

हमारा API OpenAI-संगत है। आप किसी भी SDK का उपयोग कर सकते है जो मानक का समर्थन करता है openai पैकेज संरचना। अपनी कुंजी के रूप में पास करें api_key पैरामीटर। base_url हमारे एंडपॉइंट के लिए इंगित करें। यह आपको बिना अपनी इंटीग्रेशन लॉजिक को फिर से लिखे, हमारे अनसेंसर्ड मॉडल को स्विप करने की अनुमति देता है।

अपना पहला चैट कंप्लीशन अनुरोध बनाना

एक POST अनुरोध भेजें /v1/chat/completions अपने सिस्टम और उपयोगकर्ता संदेशों के साथ। मॉडल पहचानकर्क कठोरता से uncensored. यह किसी अन्य वेंडर का मॉडल नहीं है। यह एक ओपन-वेट मॉडल है जो कानूनी वयस्क उपयोग के लिए बिना कंटेंट रिफ्यूजल के सीधे जवाब देने के लिए ट्यून्ड किया गया है। आप पैरामीटर सेट कर सकते हैं जैसे temperature और top_p रचनात्मकता को नियंत्रित करने के लिए।

इनपुट टोकन की लागत प्रति मिलियन $0.15 है। आउटपुट टोकन की लागत प्रति मिलियन $0.50 है। त्रुटियां और अस्वीकृतियां क्रेडिट खपत नहीं करतीं। आप अपने अनुरोध को काम करते हुए देख सकते हैं एक सरल टेस्ट संदेश भेजकर। प्रतिक्रिया में जनरेटेड टेक्स्ट शामिल होगा content फ़ील्ड।

स्ट्रीमिंग रिस्पॉन्सेस (SSE) हैंडल करना

सेट करें stream अपने अनुरोध में true पर सेट करें सर्वर-सेंट इवेंट्स प्राप्त करने के लिए। यह आपको टोकन को जनरेट होते हुए प्रोसेस करने की अनुमति देता है। स्ट्रीमिंग बड़े प्रतिक्रियाओं के लिए अनुपस्थित विलंबता को कम करती है। अंतिम चंक में कुल टोकन उपयोग सांख्यिकी होती है। यह आपको वास्तविक समय में लागत ट्रैक करने में मदद करता है।

आने वाले चंक को बफर करें और उन्हें कॉन्कैटिनेट करें। सुनिश्चित करें कि आप स्ट्रीम के अंत की घटना को सही तरीके से हैंडल करें। यह दृष्टिकोण चैट इंटरफेस के लिए आवश्यक है। यह पूरे रिस्पॉन्स का इंतजार करने की तुलना में एक स्मूथ यूजर एक्सपीरियंस प्रदान करता है।

टूल्स और JSON मोड का उपयोग करें

अनुरोध पेलोड में फ़ंक्शन स्कीमा परिभाषित करें tools पैरामीटर। मॉडल इन फ़ंक्शंस को निर्देश दिए जाने पर कॉल कर सकता है। उपयोग करें tool_choice एक विशिष्ट फंक्शन को बल देने के लिए। यह जटिल वर्कफ्लो को सक्षम बनाता है। JSON मोड उपलब्ध है response_format: {type: "json_object"}. विश्वसनीय पार्सिंग के लिए संरचित आउटपुट सुनिश्चित करता है। डेटा एक्सट्रैक्शन कार्यों के लिए इसका उपयोग करें।

टोकन उपयोग और सीमाओं को समझना

संदर्भ विंडो 100,000 टोकन एकत्रित है। इसमें प्रॉम्प्ट और कंप्लीशन दोनों शामिल हैं। प्रति अनुरोध अधिकतम आउटपुट 16,000 टोकन है। यदि आप सेट नहीं करते max_tokens, यह डिफ़ॉल्ट रूप से 2,048 पर सेट होता है। अनुरोध बॉडी का आकार 8 MB तक सीमित है। आप प्रति मिनट 300 अनुरोध कर सकते हैं। समवर्तता प्रति कुंजी 8 एक साथ अनुरोधों तक सीमित है। इन सीमाओं से अधिक जाने पर 429 त्रुटि लौटाई जाती है।

त्रुटि हैंडलिंग और रीट्राई लॉजिक

अपने API कुंजी की जांच करके HTTP 401 हैंडल करें। एक 402 त्रुटि का अर्थ है कि आपका पूर्व-भुगतान क्रेडिट समाप्त हो गया है। जारी रखने के लिए क्रिप्टो के माध्यम से टॉप अप करें। 429 दर सीमा त्रुटियों के लिए एक्सपोनेंशियल बैकऑफ का उपयोग करें। पुनः प्रयास तर्क को Retry-After यदि मौजूद हो तो हेडर। त्रुटियों से क्रेडिट चार्ज नहीं होता है। यह नेटवर्क समस्याओं के दौरान आपकी बैलेंस की रक्षा करता है।

cURL

Copycurl https://api.priceclaude.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the quarterly report by Friday at noon"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.priceclaude.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.priceclaude.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

स्ट्रीमिंग

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)