Fehler und Wiederholung

Die Fehlerursache klären, bevor eine weitere Anfrage ausgelöst wird.

Antwort untersuchen

Validierungs-, Anmelde-, Rechte- und Ausgabenlimitfehler zuerst korrigieren. Zur Ursache auswerten:

  • den HTTP-Status,
  • error.metadata.type,
  • gesammelte issues mit Feldpfaden,
  • den vorhandenen remedy_hint.

x-request-id dient dem Support. Keys, Prompts und generierte Inhalte nicht protokollieren. Der Fehlerkatalog beschreibt das aktuelle Format.

Wiederholungen begrenzen

Bei vorübergehenden Verbindungsproblemen, 429 oder wiederholbaren Serverfehlern begrenzte Versuche mit exponentieller Pause und Zufallsanteil verwenden.

  • Einen vorhandenen Retry-After beachten.
  • Vorher prüfen, ob das SDK bereits wiederholt. Verschachtelte Schleifen vervielfachen Anfragen.
  • Eine verlorene Antwort beweist nicht, dass Verarbeitung oder Abrechnung ausgeblieben sind.

Für die exakte Wiederherstellung ohne erneuten Provider-Aufruf oder weitere Gebühr einen Idempotency-Key pro logischem Vorgang setzen und bei jeder Wiederholung beibehalten. Der Idempotency-Leitfaden erklärt Konflikte, Streams und die Aufbewahrungsfrist. Ohne diesen Header gilt das gewöhnliche Inferenzverhalten.

curl

curl --request POST \
  --url 'https://api.tokenlane.de/v1/chat/completions' \
  --header 'Authorization: Bearer YOUR_API_KEY' \
  --header 'Content-Type: application/json' \
  --data '{
  "model": "deepseek/deepseek-v4-flash-0731",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "max_tokens": 400
}'

node

import OpenAI from 'openai';

const client = new OpenAI({ baseURL: "https://api.tokenlane.de/v1", apiKey: process.env.TOKENLANE_API_KEY });
const response = await client.chat.completions.create({
  "model": "deepseek/deepseek-v4-flash-0731",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "max_tokens": 400
}, {});
console.log(response);

python

import os
import json
from openai import OpenAI

client = OpenAI(base_url="https://api.tokenlane.de/v1", api_key=os.environ["TOKENLANE_API_KEY"])
body = json.loads(r'''{
  "model": "deepseek/deepseek-v4-flash-0731",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "max_tokens": 400
}''')
response = client.chat.completions.create(
    model=body["model"],
    messages=body["messages"],
    max_tokens=body["max_tokens"]
)
print(response)

vercel

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText } from 'ai';

const tokenlane = createOpenAICompatible({ name: 'tokenlane', baseURL: "https://api.tokenlane.de/v1", apiKey: process.env.TOKENLANE_API_KEY, includeUsage: true });
const result = await generateText({
  model: tokenlane("deepseek/deepseek-v4-flash-0731"),
  messages: [
  {
    "role": "user",
    "content": "Hello"
  }
],
  maxOutputTokens: 400,
});
console.log(result.text);

Fehler im Stream unterscheiden

Nach Beginn der Ausgabe SSE-Fehlerereignisse auch bei HTTP 200 als Fehler behandeln. Keine zweite Anfrage still an den Teiltext anhängen. Die Unterbrechung sichtbar machen und eine Wiederholung ausdrücklich auslösen. Provider-Fallback im Gateway ist nur vor dem ersten Stream-Byte möglich.