Jak to Integrate the DeepSeek API

Wymagania wstępne: Konfiguracja środowiska

Zacznij od upewnienia się, że Twoje środowisko programistyczne ma zainstalowane niezbędne SDK. Potrzebujesz środowiska wykonawczego języka, takiego jak Python lub Node.js, oraz sposobu na bezpieczne przechowywanie poświadczeń API. Ta konfiguracja jest identyczna jak w przypadku korzystania z dowolnej innej usługi zgodnej z OpenAI.

Nie musisz instalować sterowników specyficznych dla dostawcy. Proxy obsługuje wszystkie wnioskowania modelowe, więc Twój komputer potrzebuje tylko wysyłać żądania HTTP i parsować odpowiedzi JSON. Zmniejsza to narzut zależności i utrzymuje projekt lekkim.

Instalacja oficjalnego SDK

Zainstaluj oficjalne SDK dla preferowanego języka, aby obsługiwać uwierzytelnianie i serializację. Dla Pythona użyj pip install openai. Dla Node.js uruchom npm install openai. Ta biblioteka zarządza połączeniami HTTP w tle.

SDK abstrahuje złożoność budowania ładunków JSON. Możesz skupić się na definiowaniu promptu i obsłudze zwracanych tokenów. Ta standaryzacja oznacza, że możesz zmienić dostawcę później, zmieniając tylko adres bazowy.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.deepseekpago.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfigurowanie bazowego adresu URL i klucza

Wskaż klienta SDK na adres bazowy proxy i wstrzyknij swój klucz API. Ten krok konfiguracji kieruje ruch z dala od standardowych serwerów OpenAI. Musisz ustawić base_url do https://api.deepseekpago.com/v1.

Przekazaj swój klucz poprzez api_key parametr. Ten klucz jest generowany podczas rejestracji na stronie. Uwierzytelnia Twoje żądania i śledzi zużycie kredytów prepaid. Bez tej konfiguracji Twoje żądania zakończą się błędem 404 lub 401.

Wykonywanie pierwszego żądania

Wyślij proste uzupełnienie tekstu, aby zweryfikować łączność i zachowanie modelu. Użyj identyfikatora modelu uncensored do dostępu do konkretnego modelu działającego na proxy. Model jest dostosowany do odpowiadania bez odrzucania treści dla legalnego użytku dla dorosłych.

Treść żądania zawiera messages tablica i model identifier. The response contains the generated text in the content pole. Potwierdza to, że Twoja integracja działa poprawnie z modelem uncensored.

Copycurl https://api.deepseekpago.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of top five open source llms"}]
  }'

Włączanie Odpowiedzi Strumieniowych

Włącz strumieniowanie, ustawiając stream: true w Twoim żądaniu. Zwraca to zdarzenia wysyłane przez serwer (SSE) zamiast pojedynczego obiektu JSON. Otrzymujesz tokeny w miarę ich generowania, co poprawia postrzeganą opóźnienie dla użytkowników końcowych.

Obsłuż strumień, iterując przez fragmenty. Ostatni fragment zawiera całkowite zużycie tokenów. Pozwala to monitorować koszty w czasie rzeczywistym bez oczekiwania na ukończenie pełnej odpowiedzi.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Wykorzystywanie Narzędzi i Wywoływania Funkcji

Zdefiniuj narzędzia w ciele żądania, aby pozwolić modelowi generować dane strukturalne. Przekaż listę definicji funkcji w tools parametr. Model zwróci wywołanie funkcji zamiast zwykłego tekstu, gdy będzie to odpowiednie.

Ta funkcja działa dokładnie tak samo jak API wywoływania funkcji OpenAI. Możesz zintegrować ją z logiką swojej aplikacji w celu wykonywania kodu lub aktualizacji baz danych. Proxy obsługuje ten standardowy protokół bez modyfikacji.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.deepseekpago.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Wymuszanie formatu wyjściowego JSON

Wymuszaj na modelu zwracanie poprawnych danych JSON, ustawiając response_format do {"type": "json_object"}. Jest to przydatne przy parsowaniu danych do Twojej aplikacji. Zmniejsza potrzebę stosowania wzorców regex do przetwarzania po fakcie.

Model podporządkowuje się temu ograniczeniu ściśle. Jeśli wyjście nie jest poprawnym JSON-em, żądanie może się nie powieść. Zapewnia to, że Twój pipeline pozostaje stabilny podczas integracji z systemami automatycznymi. Możesz również ustawić temperaturę i top_p, aby kontrolować kreatywność.

Obsługa błędów i limitów szybkości

API narzuca limit 300 żądań na minutę na klucz. Jeśli go przekroczysz, otrzymasz błąd 429. Możesz również mieć do 8 równoległych żądań na klucz. Szanuj te limity, aby uniknąć przerw w usłudze.

Błędy są zwracane jako standardowe obiekty JSON z kodem błędu i komunikatem. Obsłuż je poprawnie w swoim kodzie. Zalecana jest logika ponawiania z wykładniczym opóźnieniem dla przejściowych błędów, takich jak odpowiedzi 429 lub 503.

Monitorowanie użycia tokenów

Śledź zużycie konta z góry opłaconego, monitorując liczbę tokenów. Ostatni fragment w odpowiedzi strumieniowej zawiera usage obiekt. Pokazuje to liczby tokenów wejściowych i wyjściowych.

Ceny wynoszą $0.15 za 1M tokenów wejściowych i $0.50 za 1M tokenów wyjściowych. Błędy są darmowe. Możesz obliczyć koszty lokalnie, mnożąc liczbę tokenów przez te stawki. Pomaga to dokładnie zaplanować budżet doładowań kryptowalutą.