Pika-aloitus: rajoittamaton LLM-API

Edellytykset: SDK ja API-avaimen määritys

Palvelumme isännöidyn palvelun perusosoite on https://api.priceclaude.com/v1. Todennus vaatii kelvollisen API-avaimen, joka välitetään Authorization header. Luot tämän avaimen välittömästi rekisteröitymisen jälkeen Googlen tai sähköpostin kautta Hanki API-avain sivu. Puhelinnumeroa ei vaadita rekisteröitymiseen.

API-meinemme on OpenAI-yhteensopiva. Voit käyttää mitä tahansa SDK:ta, joka tukee standardia openai pakkan rakenne. Välitä avaimesi api_key parametri. Muuta base_url osoittamaan päätepisteeseemme. Tämä mahdollistaa epäsuodatetun mallimme käyttöönoton ilman integraatiologikan uudelleenkirjoittamista.

Ensimmäisen chat-päättelypyynnön tekeminen

Lähetä POST-pyyntö osoitteeseen /v1/chat/completions järjestelmä- ja käyttäjäviestilläsi. Mallin tunnus on tiukasti uncensored. Se ei ole toisen toimittajan malli. Se on avoimen painotuksen malli, joka on hienosäädetty suoraviivaisiin vastauksiin ilman sisältökieltoja lailliseen aikuisisisältöön. Voit asettaa parametreja kuten temperature ja top_p hallita luovuutta.

Syötetokenit maksavat $0.15 miljoonaa kohti. Tulostetokenit maksavat $0.50 miljoonaa kohti. Virheet ja hylkäykset eivät kuluta krediittia. Voit varmistaa pyyntösi toimivan lähettämällä yksinkertaisen testiviestin. Vastaus sisältää tuotetun tekstin content kenttä.

Striimitettyjen vastausten käsittely (SSE)

Aseta stream arvoon true pyynnössäsi vastaanottaaksesi palvelimen lähettämiä tapahtumia. Tämä mahdollistaa tokenien käsittelyn niiden generoitumisen aikana. Striimaus vähentää koettua viivettä suurissa vastauksissa. Viimeinen lohko sisältää kokonaiskäytön tokenitilastot. Tämä auttaa sinua seuraamaan kustannuksia reaaliajassa.

Puskuroi saapuvat palaset ja yhdistä ne. Varmista, että käsittelet virtuan lopputapahtuman oikein. Tämä lähestymistapa on välttämätön chat-liittymille. Se tarjoaa sujuvan käyttäjäkokemuksen verrattuna koko vastauksen odottamiseen.

Työkalujen ja JSON-tilan käyttö

Määritä funktioskeemat tools parametri. Malli voi kutsua näitä toimintoja, jos sitä ohjeistetaan. Käytä tool_choice pakottaa tietyn funktion. Tämä mahdollistaa monimutkaiset työnkulut. JSON-tila on saatavilla kautta response_format: {type: "json_object"}. Tämä varmistaa rakenteisen ulostulon luotettavaa jäsentämistä varten. Käytä tätä datankeruutehtäviin.

Ymmärrä token-käyttöä ja rajoja

Konteksti-ikkuna on 100,000 tokenia yhteensä. Tämä sisältää sekä syötteen että tuotoksen. Maksimituotos pyyntöä kohden on 16,000 tokenia. Jos et aseta max_tokens, se oletusarvoisesti 2 048. Pyynnön rungon koko on rajoitettu 8 MB:iin. Voit tehdä 300 pyyntöä minuutissa. Samanaikaisuus on rajoitettu 8 samanaikaiseen pyyntöön avainta kohden. Näiden rajojen ylitys palauttaa 429-virheen.

Virheenkäsittely ja uudelleenyrittölogiikka

Käsittele HTTP 401 vahvistamalla API-avaimesi. 402-virhe tarkoittaa, että esimaksusaltoni on loppu. Täytä saldo kryptorahalla jatkaaksesi. Käytä eksponentiaalista viiveen kasvattamista 429 nopeusrajoitusvirheisiin. Uudelleenyrityslogiikan tulee noudattaa Retry-After header jos läsnä. Virheet eivät veloita luottoa. Tämä suojaa saldoasi verkkovikojen aikana.

cURL

Copycurl https://api.priceclaude.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Summit the quarterly report by Friday at noon"}]
  }'

Python

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.priceclaude.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Node.js

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.priceclaude.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Virtaus

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)