Bagaimana to Integrate the DeepSeek API

Prasyarat: Persediaan Persekitaran

Mula dengan memastikan persekitaran pembangunan anda mempunyai SDK yang diperlukan dipasang. Anda memerlukan masa jalan bahasa seperti Python atau Node.js dan cara untuk menyimpan kelayakan API anda dengan selamat. Persediaan ini adalah sama seperti menggunakan mana-mana perkhidmatan serasi OpenAI lain.

Anda tidak perlu memasang pemacu khusus vendor. Proksi mengendalikan semua inferens model, jadi mesin anda hanya perlu menghantar permintaan HTTP dan menguraikan respons JSON. Ini mengurangkan beban kebergantungan dan mengekalkan projek anda ringan.

Memasang SDK Rasmi

Pasang SDK rasmi untuk bahasa pilihan anda untuk mengendalikan pengesahan dan serialisasi permintaan. Untuk Python, gunakan pip install openai. Untuk Node.js, jalankan npm install openai. Pustaka ini menguruskan sambungan HTTP di bawahnya.

SDK ini meringkaskan kompleksiti dalam membina payload JSON. Anda boleh fokus pada menentukan prompt anda dan mengendalikan token yang dikembalikan. Penstandardan ini bermakna anda boleh menukar penyedia kemudian hanya dengan mengubah URL asas.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.deepseekpago.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Mengkonfigurasi URL Asas dan Kunci

Arahkan klien SDK ke URL asas proksi dan suntik kunci API anda. Langkah konfigurasi ini mengarahkan trafik menjauhi pelayan OpenAI standard. Anda mesti menetapkan base_url ke https://api.deepseekpago.com/v1.

Masukkan mesej anda melalui api_key parameter. Kunci ini dijana apabila anda mendaftar di laman web. Ia mengesahkan permintaan anda dan menjejak penggunaan kredit pra-dibayar anda. Tanpa konfigurasi ini, permintaan anda akan gagal dengan ralat 404 atau 401.

Membuat Permintaan Pertama Anda

Hantar penyelesaian teks mudah untuk mengesahkan sambungan dan kelakuan model. Gunakan ID model uncensored untuk mengakses model khusus yang berjalan pada proksi. Model ini disesuaikan untuk menjawab tanpa penolakan kandungan untuk penggunaan dewasa yang sah.

Badan permintaan termasuk messages array and the model pengenal pasti. Respons mengandungi teks yang dijana dalam content bidang. Ini mengesahkan bahawa integrasi anda berfungsi dengan betul dengan model uncensored.

Copycurl https://api.deepseekpago.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Generate a list of top five open source llms"}]
  }'

Membolehkan Respons Penstriman

Aktifkan aliran dengan menetapkan stream: true dalam permintaan anda. Ini memulangkan Acara yang Dihantar Pelayan (SSE) sebagai ganti objek JSON tunggal. Anda menerima token sejajar dengan penjanaan, yang meningkatkan latensi yang dirasakan oleh pengguna akhir.

Kendalikan aliran dengan mengulangi melalui bahagian-bahagian. Bahagian akhir mengandungi jumlah penggunaan token. Ini membolehkan anda memantau kos secara masa nyata tanpa menunggu respons penuh selesai.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

Menggunakan Alat dan Function Calling

Takrifkan alat dalam badan permintaan untuk membolehkan model menjana output terstruktur. Hantar senarai takrifan fungsi dalam tools parameter. Model akan memulangkan panggilan fungsi bukan teks biasa apabila sesuai.

Ciri ini berfungsi tepat seperti API pemanggilan fungsi OpenAI. Anda boleh mengintegrasikannya ke dalam logik aplikasi anda untuk melaksanakan kod atau mengemas kini pangkalan data. Proksi menyokong protokol piawai ini tanpa pengubahsuaian.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.deepseekpago.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Memaksakan Format Output JSON

Paksa model untuk mengembalikan JSON sah dengan menetapkan response_format ke {"type": "json_object"}. Ini berguna untuk menguraikan data ke dalam aplikasi anda. Ia mengurangkan keperluan untuk corak regex pasca-pemprosesan.

Model mematuhi kekangan ini dengan ketat. Jika output bukan JSON yang sah, permintaan mungkin gagal. Ini memastikan aliran kerja anda kekal kukuh apabila berintegrasi dengan sistem automatik. Anda juga boleh menetapkan suhu dan top_p untuk mengawal kreativiti.

Menangani Ralat dan Had Kadar

API mengenakan had 300 permintaan setiap minit per kunci. Jika anda melebihi ini, anda menerima ralat 429. Anda juga boleh mempunyai sehingga 8 permintaan serentak per kunci. Hormati had ini untuk mengelakkan gangguan perkhidmatan.

Ralat dikembalikan sebagai objek JSON piawai dengan kod ralat dan mesej. Tangani ini dengan baik dalam kod anda. Logik percubaan semula dengan penangguhan eksponen disyorkan untuk ralent sementara seperti respons 429 atau 503.

Pemantauan Penggunaan Token

Pantau penggunaan kredit prabayar anda dengan memantau kiraan token. Bahagian akhir dalam respons aliran termasuk usage object. Ini menunjukkan kiraan token input dan output.

Harga ialah $0.15 bagi setiap 1M token input dan $0.50 bagi setiap 1M token output. Kesilapan adalah percuma. Anda boleh mengira kos secara tempatan dengan mendarabkan jumlah token dengan kadar ini. Ini membantu anda membuat bajet untuk baki kripto anda dengan tepat.