Rychlý start: API pro LLM bez omezení

Požadavky: Nastavení SDK a klíče API

Základní URL pro náš hostovaný servis je https://api.priceclaude.com/v1. Ověřování vyžaduje platný API klíč předaný v Authorization hlavička. Tento klíč vygenerujete ihned po registraci přes Google nebo e-mail na Získat API klíč stránku. K registraci není vyžadováno telefonní číslo.

Naše API je kompatibilní s OpenAI. Můžete použít jakékoli SDK, které podporuje standardní openai struktura balíčku. Předáte svůj klíč jako api_key parametr. Změňte base_url aby ukazoval na náš endpoint. To vám umožní nahradit náš model bez omezení bez přepisování logiky integrace.

Vytvoření prvního požadavku na chat completion

Odeslat požadavek POST na /v1/chat/completions vašimi systémovými a uživatelskými zprávami. Identifikátor modelu je striktně uncensored. Není to model jiného dodavatele. Je to model s otevřenými váhami laděný pro přímé odpovědi bez odmítání obsahu pro legální použití pro dospělé. Parametry jako temperature a top_p ovlivnit kreativitu.

Vstupní tokeny stojí $0,15 za milion. Výstupní tokeny stojí $0,50 za milion. Chyby a odmítnutí nespotřebují kredit. Svou žádost si můžete ověřit odesláním jednoduché zkušební zprávy. Odpověď bude obsahovat vygenerovaný text v content pole.

Zvládání streamovaných odpovědí (SSE)

Nastavit stream na true ve vašem požadavku pro přijetí Server-Sent Events. To vám umožňuje zpracovávat tokeny, jak jsou generovány. Streamování snižuje vnímanou latenci pro velké odpovědi. Poslední chunk obsahuje celkové statistiky využití tokenů. To vám pomáhá sledovat náklady v reálném čase.

Načtěte příchozí bloky a spojte je. Ujistěte se, že správně zpracujete událost konce streamu. Tento přístup je zásadní pro chatová rozhraní. Poskytuje plynulejší uživatelský zážitek ve srovnání s čekáním na celou odpověď.

Použití nástrojů a režimu JSON

Definujte schémata funkcí v tools parametr. Model může volat tyto funkce, pokud je k tomu vyzván. Použijte tool_choice abyste vynutili konkrétní funkci. To umožňuje komplexní pracovní postupy. Režim JSON je k dispozici přes response_format: {type: "json_object"}. To zajišťuje strukturovaný výstup pro spolehlivé parsování. Použijte to pro úkoly extrakce dat.

Pochopení využití a limitů tokenů

Okno kontextu má celkem 100,000 tokenů. To zahrnuje jak prompt, tak i výstup. Maximální výstup na požadavek je 16,000 tokenů. Pokud nezadáte max_tokens, výchozí hodnota je 2 048. Velikost těla požadavku je omezena na 8 MB. Můžete provést 300 požadavků za minutu. Souběžnost je omezena na 8 souběžných požadavků na klíč. Překročení těchto limitů vrátí chybu 429.

Zpracování chyb a logika opakování

Zvládněte HTTP 401 ověřením vašeho API klíče. Chyba 402 znamená, že je vyčerpán váš předplacený kredit. Dobijte přes kryptoměny, abyste pokračovali. Použijte exponenciální zpomalování pro chyby 429. Logika opakování by měla respektovat Retry-After hlavička, pokud je přítomna. Chyby nezúčtují kredit. To chrání váš zůstatek během problémů se sítí.

cURL

Copycurl https://api.priceclaude.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the quarterly report by Friday at noon"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.priceclaude.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.priceclaude.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Streamování

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)