Як to Integrate the DeepSeek API

Передумови: Налаштування середовища

Почніть із переконання, що у вашому середовищі розробки встановлено необхідний SDK. Вам потрібен час виконання мови, такий як Python або Node.js, та спосіб безпечного зберігання облікових даних API. Це налаштування ідентичне використанню будь-якого іншого OpenAI-сумісного сервісу.

Вам не потрібно встановлювати драйвери конкретного постачальника. Проксі обробляє всі інференсні процеси моделей, тому вашому комп’ютеру потрібно лише надсилати HTTP-запити та парсити відповіді JSON. Це зменшує накладні витрати на залежності та робить ваш проект легким.

Встановлення офіційного SDK

Встановіть офіційний SDK для бажаної мови для обробки автентифікації та серіалізації. Для Python використовуйте pip install openai. Для Node.js виконайте npm install openai. Ця бібліотека керує базовими HTTP-з'єднаннями.

SDK абстрагує складність створення JSON-запитів. Ви можете зосередитися на визначенні промпта та обробці повернутих токенів. Ця стандартизація означає, що ви зможете змінити постачальника пізніше, змінивши лише базовий URL.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.deepseekpago.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Налаштування базового URL та ключа

Направте клієнт SDK на URL-адресу проксі та вставте свій API-ключ. Цей крок конфігурації спрямовує трафік подалі від стандартних серверів OpenAI. Ви повинні встановити base_url до https://api.deepseekpago.com/v1.

Передавайте свій ключ через api_key параметр. Цей ключ генерується під час реєстрації на сайті. Він автентифікує ваші запити та відстежує використання вашого передоплаченого кредиту. Без цієї конфігурації ваші запити завершаться помилкою 404 або 401.

Зроблення першого запиту

Надішліть просте текстове завершення, щоб перевірити з’єднання та поведінку моделі. Використовуйте ідентифікатор моделі uncensored для доступу до конкретної моделі, що працює на проксі. Ця модель налаштована відповідати без відмов у контенті для законного дорослого використання.

Тіло запиту включає messages масив та model ідентифікатор. Відповідь містить згенерований текст у content поле. Це підтверджує, що ваша інтеграція правильно працює з uncensored моделлю.

Copycurl https://api.deepseekpago.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of top five open source llms"}]
  }'

Увімкнення потокових відповідей

Увімкніть потокову передачу, встановивши stream: true у вашому запиті. Це повертає події, надіслані сервером (SSE), замість одного об'єкта JSON. Ви отримуєте токени по мірі їх генерації, що покращує сприйняту затримку для кінцевих користувачів.

Обробіть потік, ітеруючи по фрагментах. Останній фрагмент містить загальне використання токенів. Це дозволяє відстежувати витрати в реальному часі, не чекаючи завершення всієї відповіді.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Використання Tools та Function Calling

Визначте інструменти в тілі запиту, щоб дозволити моделі генерувати структуровані виводи. Передайте список визначень функцій в tools параметр. Модель повертатиме виклик функції замість звичайного тексту, коли це доречно.

Ця функція працює точно так само, як API виклику функцій OpenAI. Ви можете інтегрувати її в логіку своєї програми для виконання коду або оновлення баз даних. Проксі підтримує цей стандартний протокол без змін.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.deepseekpago.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Примусовий формат виводу JSON

Змушуйте модель повертати валідний JSON, встановивши response_format до {"type": "json_object"}. Це корисно для парсингу даних у ваш додаток. Це зменшує потребу в постобробці за допомогою регулярних виразів.

Модель суворо дотримується цього обмеження. Якщо вивід не є дійсним JSON, запит може не виконатися. Це забезпечує стійкість вашого конвеєра при інтеграції з автоматизованими системами. Ви також можете встановити temperature та top_p, щоб контролювати креативність.

Вирішення помилок та обмежень швидкості

API обмежує 300 запитів на хвилину на ключ. Якщо ви перевищите цей ліміт, отримаєте помилку 429. Ви також можете мати до 8 одночасних запитів на ключ. Дотримуйтесь цих лімітів, щоб уникнути переривання служби.

Помилки повертаються у вигляді стандартних об'єктів JSON з кодом помилки та повідомленням. Обробляйте їх коректно у своєму коді. Рекомендується логіка повторних спроб з експоненційним сповільненням для тимчасових помилок, таких як відповіді 429 або 503.

Моніторинг використання токенів

Відстежуйте використання передоплаченого кредиту, моніторячи кількість токенів. Останній фрагмент у потоковій відповіді містить usage об'єкт. Це показує підрахунки вхідних та вихідних токенів.

Ціни становлять $0.15 за 1M вхідних токенів та $0.50 за 1M вихідних токенів. Помилки безкоштовні. Ви можете розрахувати витрати локально, помноживши кількість токенів на ці ставки. Це допоможе вам точно спланувати бюджет для поповнення крипто-коштів.