API-dokumentaatio: sensuroimattomat keskustelujen täydennykset

Perus-URL:n todennusmääritys

Aloita osoittamalla asiakasohjelma päätepisteeseesi. Käytä https://api.tokencostclaude.com/v1 pohja-URL:ksi kaikille pyynnöille. Todenna kentän Authorization header Bearer-tokenillasi.

Copycurl https://api.tokencostclaude.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the 2024 monthly costs for ten million tokens"}]
  }'

Pidä avaimesi turvassa. Jokaisessa tilissä on yksi aktiivinen avain. Korvaa vanha avain luomalla uusi hallintapaneelista.

POST /v1/chat/completions -päätepisteen opas

Lähetä viestejä generoimaan tekstiä. Lähetä JSON-runko osoitteeseen /v1/chat/completions path. Mallin tunnus on uncensored.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokencostclaude.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Syötetokenit maksavat $0.15 miljoonaa kohti. Tulostetokenit maksavat $0.50 miljoonaa kohti. Virheet ja hylkäykset eivät aiheuta kustannuksia. Esimaksukrediittisi pienenee vain onnistuneen sisällön tuotannon yhteydessä.

Virtaavat vastaukset ja tokenien käyttö SSE:ssä

Ota streamaus käyttöön asettamalla stream: true. Palvelin lähettää Server-Sent Events -tapahtumia. Jokainen lohko sisältää osittaista tekstiä ja metatietoja.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokencostclaude.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Token-käyttötiedot näkyvät viimeisessä palassa. Tämä mahdollistaa tarkat kustannusten seurannan pyyntöä kohden. Jäsennä usage kenttä seurataksesi kuluasi reaaliajassa.

Funktikutsu (työkalut) ja JSON-tilan tuki

Määritä työkalut tools taulukkoa. Malli vastaa rakenteellisilla työkalukutsuilla. Voit pakottaa tiukan JSON-tulosteen käyttämällä response_format asetettuna {"type": "json_object"}.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Tämä toimii vakioilla OpenAI-yhteensopivilla asiakkailla. Määritä työkaluvalinnat ohjataksesi sitä, milloin mallin päättää kutsua toimintoa sen sijaan, että se tuottaa pelkkää tekstiä.

Parametrit: lämpötila, top_p, pysäytys, siemenluku ja rangaistukset

Säädä mallin käyttäytymistä standardiparametreilla. Aseta temperature satunnaisuudelle. Käytä top_p ytimenäytteistykseen. Määritä stop sekvenssit keskeyttämään generaatio ennenaikaisesti.

Aseta seed toistuvien tulosten saamiseksi. Sovella presence_penalty ja frequency_penalty hallitsemaan toistoa. Nämä kentät vastaavat täsmälleen OpenAI-API-määritystä.

GET /v1/models-päätepisteen ja mallitunnuksen käyttö

Kysy saatavilla olevia malleja kautta GET /v1/models päätepiste. Varmista uncensored malli on lueteltu. Vastaus vahvistaa, että yhteytesi on kelvollinen.

Käytä aina uncensored mallin tunnuksena pyynnöissäsi. Tämä varmistaa, että osut rajoittamattomaan suureen kielimalliimme. Tarkista tämä päätepiste yhdistettävyysongelmien debuggingiin ennen raskaiden kuormien lähettämistä.