Hvordan til at integrere DeepSeek API

Forudsætninger: Miljøopsætning

Start med at sikre, at dit udviklingsmiljø har det nødvendige SDK installeret. Du har brug for et sprogkørselsmiljø som Python eller Node.js og en måde at gemme dine API-oplysninger sikkert på. Denne opsætning er identisk med brug af enhver anden OpenAI-kompatibel service.

Du behøver ikke at installere leverandørspecifikke drivere. Proxyen håndterer al model-inference, så din maskine kun skal sende HTTP-anmodninger og analysere JSON-svar. Dette reducerer afhængighedsomkostninger og holder dit projekt let.

Installation af den Officielle SDK

Installer den officielle SDK til dit foretrukne sprog for at håndtere autentificering og serialisering automatisk. Til Python, brug pip install openai. Til Node.js, kør npm install openai. Dette bibliotek håndterer de underliggende HTTP-forbindelser.

SDK'en abstraherer kompleksiteten ved opbygning af JSON-payloads. Du kan fokusere på at definere din prompt og håndtere de returnerede tokens. Denne standardisering betyder, at du kan skifte udbyder senere ved blot at ændre base URL'en.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.deepseekpago.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Konfigurerer Base URL og Nøgle

Peg din SDK-klient på proxy-base URL'en, og indsprøjt din API-nøgle. Dette konfigurationstrin dirigerer trafikken væk fra standard OpenAI-serverne. Du skal indstille base_url til https://api.deepseekpago.com/v1.

Indtast din nøgle via api_key parameter. Denne nøgle genereres, når du tilmelder dig på siden. Den autentificerer dine anmodninger og sporer forbrug af din forudbetalede kredit. Uden denne konfiguration vil dine anmodninger fejle med en 404- eller 401-fejl.

Lav din første anmodning

Send en simpel text completion for at verificere forbindelsen og modeladfærd. Brug model-ID uncensored til at få adgang til den specifikke model, der kører på proxyen. Denne model er indstillet til at svare uden indholdsnægtelser til lovlig voksenbrug.

Forespørgselskroppen indeholder messages array og model identifier. Svaret indeholder den genererede tekst i content felt. Dette bekræfter, at din integration fungerer korrekt med uncensored-modellen.

Copycurl https://api.deepseekpago.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of top five open source llms"}]
  }'

Aktivering af Streaming-svar

Aktivér streaming ved at indstille stream: true i din anmodning. Dette returnerer Server-Sent Events (SSE) i stedet for et enkelt JSON-objekt. Du modtager tokens, når de genereres, hvilket forbedrer den opfattede latens for slutbrugere.

Håndter strømmen ved at iterere gennem chunks. Den sidste chunk indeholder den samlede tokenforbrug. Dette giver dig mulighed for at overvåge omkostninger i realtid uden at vente på, at hele svaret er færdigt.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Brug af Tools og Function Calling

Definer værktøjer i request body for at lade modellen generere strukturerede output. Send en liste over funktionsdefinitioner i tools parameter. Modellen vil returnere et funktionskald i stedet for ren tekst, når det er passende.

Denne funktion fungerer præcis som OpenAI's function calling API. Du kan integrere dette i din applikationslogik til at eksekvere kode eller opdatere databaser. Proxyen understøtter denne standardprotokol uden ændringer.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.deepseekpago.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Tvinger JSON-outputformat

Tving modellen til at returnere gyldig JSON ved at indstille response_format til {"type": "json_object"}. Dette er nyttigt til at parse data ind i din applikation. Det reducerer behovet for efterbehandling med regex-mønstre.

Modellen overholder denne begrænsning strengt. Hvis outputtet ikke er gyldig JSON, kan forespørgslen mislykkes. Dette sikrer, at dit pipeline forbliver robust, når det integreres med automatiserede systemer. Du kan også indstille temperature og top_p for at kontrollere kreativiteten.

Håndtering af fejl og ratebegrænsninger

API'en håndhæver en grænse på 300 anmodninger i minuttet per nøgle. Hvis du overskrider dette, modtager du en 429-fejl. Du kan også have op til 8 samtidige anmodninger per nøgle. Respekter disse grænser for at undgå tjenesteforstyrrelser.

Fejl returneres som standard JSON-objekter med en kode og en fejlmeddelelse. Håndter disse hensynsfuldt i din kode. Retry-logik med eksponentiel backoff anbefales til midlertidige fejl som 429- eller 503-respons.

Overvågning af token-forbrug

Spor dit forudbetalte kreditforbrug ved at overvåge tokenantal. Den sidste chunk i et streaming-respons indeholder usage object. Dette viser input- og output-tokenantal.

Priserne er $0.15 per 1M input tokens og $0.50 per 1M output tokens. Fejl er gratis. Du kan beregne omkostninger lokalt ved at multiplicere tokenantal med disse satser. Dette hjælper dig med at budgettere dine crypto-topups nøjagtigt.