Документація API: завершення несексуального чату

Налаштування аутентифікації базової URL-адреси

Почніть з того, щоб вказати клієнту на нашу кінцеву точку. Використовуйте https://api.tokencostclaude.com/v1 базова URL-адреса для всіх запитів. Аутентифікація через Authorization header з вашим маркером Bearer.

Copycurl https://api.tokencostclaude.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "List the 2024 monthly costs for ten million tokens"}]
  }'

Зберігайте ваш ключ у безпеці. Кожен обліковий запис має один активний ключ. Замініть старий ключ, згенерувавши новий на панелі керування.

Посібник з ендпоінту POST /v1/chat/completions

Надсилайте повідомлення для генерації тексту. Надішліть JSON-тіло на /v1/chat/completions path. Ідентифікатор моделі uncensored.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.tokencostclaude.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Вхідні токени коштують $0.15 за мільйон. Вихідні токени коштують $0.50 за мільйон. Помилки та відмови не нараховують плату. Ваш попередньо оплачений кредит зменшується лише за успішну генерацію контенту.

Потокова передача відповідей та використання токенів у SSE

Увімкніть потокову передачу, встановивши stream: true. Сервер повертає події, надіслані сервером (SSE). Кожен частковий фрагмент містить частковий текст та метадані.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.tokencostclaude.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Дані про використання токенів з’являються у фінальному чанку. Це дозволяє точно відстежувати витрати на кожен запит. Розпарсіть usage field, щоб моніторити витрати в реальному часі.

Виклик функцій (інструменти) та режим JSON підтримуються

Визначте інструменти в tools масив. Модель відповідає структурованими викликами інструментів. Ви можете примусово виводити суворий JSON, використовуючи response_format встановлено на {"type": "json_object"}.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Це працює зі стандартними клієнтами, сумісними з OpenAI. Налаштуйте вибір інструментів, щоб контролювати, коли модель вирішує викликати функцію, а коли генерувати звичайний текст.

Параметри: temperature, top_p, стоп, seed та штрази

Налаштуйте поведінку моделі за допомогою стандартних параметрів. Встановіть temperature для випадковості. Використовуйте top_p для вибірки за ядром (nucleus sampling). Визначте stop послідовності для дострокової зупинки генерації.

Встановити seed для відтворюваних результатів. Застосуйте presence_penalty та frequency_penalty для контролю повторень. Ці поля точно відображають специфікацію API OpenAI.

Використання кінцевої точки GET /v1/models та ідентифікатора моделі

Виконайте запит до доступних моделей через GET /v1/models endpoint. Перевірте uncensored модель перелічено. Відповідь підтверджує, що ваше з'єднання є дійсним.

Завжди використовуйте uncensored як ідентифікатор моделі у ваших запитах. Це гарантує, що ви звертаєтесь до нашої моделі великої мови без цензури. Перевірте цей ендпоінт, щоб налагодити проблеми підключення перед надсиланням важких завантажень.