Fehler und Wiederholung
Die Fehlerursache klären, bevor eine weitere Anfrage ausgelöst wird.
Antwort untersuchen
Validierungs-, Anmelde-, Rechte- und Ausgabenlimitfehler zuerst korrigieren. Zur Ursache auswerten:
- den HTTP-Status,
error.metadata.type,- gesammelte
issuesmit Feldpfaden, - den vorhandenen
remedy_hint.
x-request-id dient dem Support. Keys, Prompts und generierte Inhalte nicht protokollieren. Der Fehlerkatalog beschreibt das aktuelle Format.
Wiederholungen begrenzen
Bei vorübergehenden Verbindungsproblemen, 429 oder wiederholbaren Serverfehlern begrenzte Versuche mit exponentieller Pause und Zufallsanteil verwenden.
- Einen vorhandenen
Retry-Afterbeachten. - Vorher prüfen, ob das SDK bereits wiederholt. Verschachtelte Schleifen vervielfachen Anfragen.
- Eine verlorene Antwort beweist nicht, dass Verarbeitung oder Abrechnung ausgeblieben sind.
Für die exakte Wiederherstellung ohne erneuten Provider-Aufruf oder weitere Gebühr einen Idempotency-Key pro logischem Vorgang setzen und bei jeder Wiederholung beibehalten. Der Idempotency-Leitfaden erklärt Konflikte, Streams und die Aufbewahrungsfrist. Ohne diesen Header gilt das gewöhnliche Inferenzverhalten.
curl
curl --request POST \
--url 'https://api.tokenlane.de/v1/chat/completions' \
--header 'Authorization: Bearer YOUR_API_KEY' \
--header 'Content-Type: application/json' \
--data '{
"model": "deepseek/deepseek-v4-flash-0731",
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"max_tokens": 400
}'
node
import OpenAI from 'openai';
const client = new OpenAI({ baseURL: "https://api.tokenlane.de/v1", apiKey: process.env.TOKENLANE_API_KEY });
const response = await client.chat.completions.create({
"model": "deepseek/deepseek-v4-flash-0731",
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"max_tokens": 400
}, {});
console.log(response);
python
import os
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.tokenlane.de/v1", api_key=os.environ["TOKENLANE_API_KEY"])
body = json.loads(r'''{
"model": "deepseek/deepseek-v4-flash-0731",
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"max_tokens": 400
}''')
response = client.chat.completions.create(
model=body["model"],
messages=body["messages"],
max_tokens=body["max_tokens"]
)
print(response)
vercel
import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText } from 'ai';
const tokenlane = createOpenAICompatible({ name: 'tokenlane', baseURL: "https://api.tokenlane.de/v1", apiKey: process.env.TOKENLANE_API_KEY, includeUsage: true });
const result = await generateText({
model: tokenlane("deepseek/deepseek-v4-flash-0731"),
messages: [
{
"role": "user",
"content": "Hello"
}
],
maxOutputTokens: 400,
});
console.log(result.text);
Fehler im Stream unterscheiden
Nach Beginn der Ausgabe SSE-Fehlerereignisse auch bei HTTP 200 als Fehler behandeln. Keine zweite Anfrage still an den Teiltext anhängen. Die Unterbrechung sichtbar machen und eine Wiederholung ausdrücklich auslösen. Provider-Fallback im Gateway ist nur vor dem ersten Stream-Byte möglich.