Dokumentace API: dokončení chatu bez omezení obsahu

Nastavení základní URL a ověření

Začněte tím, že nasměrujete svého klienta na náš endpoint. Použijte https://api.tokencostclaude.com/v1 základní URL pro všechny požadavky. Autentizujte se přes Authorization hlavička s vaším tokenem Bearer.

Copycurl https://api.tokencostclaude.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the 2024 monthly costs for ten million tokens"}]
  }'

"Chraňte svůj klíč. Každý účet má najednou aktivní jeden klíč. Starý klíč nahradíte vygenerováním nového na ovládacím panelu."

Průvodce endpointem POST /v1/chat/completions

Pošlete zprávy pro generování textu. Pošlete JSON tělo na /v1/chat/completions path. ID modelu je uncensored.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokencostclaude.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Vstupní tokeny stojí $0,15 za milion. Výstupní tokeny stojí $0,50 za milion. Chyby a odmítnutí nejsou zpoplatněny. Váš předplacený kredit klesá pouze při úspěšné generaci obsahu.

Streamování odpovědí a využití tokenů v SSE

Povolte streamování nastavením stream: true. Server odesílá Server-Sent Events. Každý chunk obsahuje částečný text a metadata.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokencostclaude.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Data o použití tokenů se objeví ve finálním chunku. To umožňuje přesné sledování nákladů na požadavek. Parsovat usage pole k monitorování vašich výdajů v reálném čase.

Podpora volání funkcí (nástroje) a režimu JSON

Definujte nástroje v tools pole. Model reaguje strukturovanými voláními nástrojů. Pomocí response_format nastaveno na {"type": "json_object"}.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

To funguje se standardními klienty kompatibilními s OpenAI. Nakonfigurujte výběr nástrojů k řízení toho, kdy model rozhodne zavolat funkci versus generování prostého textu.

Parametry: Teplota, top_p, stop, seed a penalizace

Upravte chování modelu pomocí standardních parametrů. Nastavte temperature pro náhodnost. Použijte top_p pro nucleus sampling. Definujte stop sekvenční pro předčasné zastavení generování.

Nastavit seed pro reprodukovatelné výstupy. Aplikujte presence_penalty a frequency_penalty pro ovládání opakování. Tato pole přesně odpovídají specifikaci API OpenAI.

Použití endpointu GET /v1/models a ID modelu

Vyhledejte dostupné modely pomocí GET /v1/models endpoint. Ověřte uncensored model je uveden. Odpověď potvrzuje, že vaše připojení je platné.

Vždy použijte uncensored jako ID modelu ve vašich požadavcích. To zajišťuje, že zasáhnete náš velký jazykový model bez omezení. Zkontrolujte tento endpoint pro ladění problémů s připojením před odesláním velkých payloadů.