Hogyan a DeepSeek API integrálásához

Előfeltételek: Környezetbeállítás

Kezdje azzal, hogy biztosítja, hogy fejlesztői környezete rendelkezik a szükséges SDK-val. Szüksége van egy nyelvi futtató környezetre, például Pythonra vagy Node.js-re, és egy módra az API-hitelesítő adatok biztonságos tárolására. Ez a beállítás azonos bármely más OpenAI-kompatibilis szolgáltatás használatával.

Nem kell gyártóspecifikus illesztőprogramokat telepítened. A proxy kezeli az összes modell inferenciát, így a gépednek csak HTTP kéréseket kell küldenie és JSON válaszokat kell értelmeznie. Ez csökkanni a függőségek feladatát és könnyen tarthatja a projektet.

A hivatalos SDK telepítése

Telepítse a hivatalos SDK-t a választott nyelvhez a hitelesítés és a szerializálás kezeléséhez. Python esetén használja a pip install openai. Node.js esetén futtasd a npm install openai. Ez a könyvtár kezeli az alapvető HTTP-kapcsolatokat.

Az SDK elrejti a JSON payloadok összeállításának komplexitását. A prompt definiálására és a visszaadott tokenek kezelésére koncentrálhatsz. Ez a szabványosítás azt jelenti, hogy később csak a base URL megváltoztatásával válthatsz szolgáltatót.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.deepseekpago.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Az alap URL-cím és a kulcs konfigurálása

Irányítsd SDK-kliensedet a proxy bázis URL-re, és injektáld az API-kulcsot. Ez a konfigurációs lépés a forgalmat az alapértelmezett OpenAI szerverektől elvezeti. A base_url a https://api.deepseekpago.com/v1.

Adja át kulcsát a api_key paraméter. Ez a kulcsot a regisztráció során kapja meg a weboldalon. Hitelesíti a kéréseket, és nyomon követi az előre fizetett hitel felhasználását. Enélkül a kérések 404 vagy 401 hibával meghiúsulnak.

Az első kérés végrehajtása

Küldjön egy egyszerű szöveg-kiegészítést a kapcsolódás és a modell viselkedésének ellenőrzéséhez. Használja a modell azonosítót uncensored specifikus modellhez, amely a proxy-n fut. Ez a modell arra van hangolva, hogy tartalom-elutasítások nélkül válaszoljon a törvényes felnőtt felhasználás érdekében.

A kérés törzse tartalmazza a messages tömb és a model azonosító. A válasz tartalmazza a generált szöveget a content mező. Ez megerősíti, hogy az integrációja helyesen működik az uncensored modellel.

Copycurl https://api.deepseekpago.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of top five open source llms"}]
  }'

A streamelő válaszok engedélyezése

Engedélyezze a streamelést úgy, hogy stream: true a kérésben. Ez Server-Sent Events (SSE) formátumban adja vissza az adatokat, egyetlen JSON objektum helyett. A tokeneket azonnal kapod, ahogy generálódnak, ami csökkenti a végfelhasználók számára észlelt késleltetést.

Kezelje a streamet a darabok végigiterálásával. Az utolsó darab tartalmazza a teljes tokenfelhasználást. Ez lehetővé teszi a költségek valós idejű figyelését anélkül, hogy várnia kellene a teljes válasz befejeződésére.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Eszközök és funkcióhívás használata

Határozzon meg eszközöket a kérés törzsében, hogy lehetővé tegye a modell számára a strukturált kimenetek generálását. Adjon át egy függvénydefiníciók listáját a tools paraméter. A modell megfelelő esetben függvényhívást ad vissza a sima szöveg helyett.

Ez a funkció pontosan úgy működik, mint az OpenAI függvényhívási API-ja. Integrálhatja alkalmazáslogikájába a kód végrehajtásához vagy adatbázisok frissítéséhez. A proxy támogatja ezt a szabványos protokollt módosítás nélkül.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.deepseekpago.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

JSON kimeneti formátum érvényesítése

Kényszerítse a modellt a érvényes JSON visszaadására a response_format a {"type": "json_object"}. Ez hasznos az adatok alkalmazásba való feldolgozásához. Csökkenti az utólagos feldolgozási regex minták szükségességét.

A modell szigorúan betartja ezt a korlátot. Ha a kimenet nem érvényes JSON, a kérés sikertelen lehet. Ez biztosítja, hogy a rendszered robusztus maradjon az automatizált rendszerekkel való integráció során. A kreativitás szabályozásához beállíthatod a hőmérsékletet és a top_p értéket.

Hibák és sávszélesség-korlátok kezelése

Az API percenként 300 kérésre és kulcsonként 8 párhuzamos kérésre szabja a limitet. Ha ezt túllépi, 429-es hibát kap. Kulcsonként akár 8 párhuzamos kérést is indíthat. Tartsa be ezeket a limiteket a szolgáltatás megszakításainak elkerülése érdekében.

A hibák szabványos JSON objektumokként térnek vissza hibakóddal és üzenettel. Kezelje őket gracefully a kódjában. Exponenciális backoff-alapú retry logika ajánlott az átmeneti hibákhoz, mint például a 429 vagy 503 válaszok.

Tokenfelhasználás monitorozása

Kövesse nyomon az előlegesen megvásárolt hitel felhasználását a tokenmennyiségek figyelésével. A streamelő válasz végleges darabja tartalmazza a usage object. Ez mutatja a bemeneti és kimeneti token számokat.

Az árak 0,15 $ per 1M bemeneti token és 0,50 $ per 1M kimeneti token. A hibák ingyenesek. A költségeket helyileg is kiszámolhatod, ha megszorozod a token számokat ezekkel az árakkal. Ez segít pontosan tervezni a kriptó feltöltéseket.