Reasoning
Steuere mit denselben Optionen bei jedem Anbieter, wie viel ein Modell nachdenkt.
Ein Reasoning-Modell wählen
Modelle mit Reasoning führen reasoning in supported_parameters. Das Objekt reasoning im Katalog zeigt die angebotenen Stufen (supported_efforts, höchste zuerst), den Standard (default_effort, default_enabled) und ob sich Reasoning abschalten lässt (mandatory).
Die Stufe festlegen
reasoning.effort und die Kurzform reasoning_effort akzeptieren none, minimal, low, medium, high, xhigh und max. Kuratierte Routen ordnen diese Auswahl ihren nativen Steuerwerten zu. Fehlt eine gewünschte Stufe, verwendet das Gateway die nächste angebotene Stufe; bei gleichem Abstand die höhere. Routen mit exakt passender Stufe werden zuerst versucht. provider.require_parameters: true macht aus diskreten Stufen weder exakte Tokenbudgets noch eine Pflicht zur exakt passenden Nichtnullstufe. Ohne Auswahl gilt der kuratierte Modellstandard. GET /v1/generation meldet die zugeordnete Stufe, soweit verfügbar, als reasoning_effort.
Budget oder harte Grenze?
Auf Routen mit kuratierter Stufenzuordnung ist reasoning.max_tokens eine ungefähre Stufenauswahl, keine harte Grenze für Reasoning-Tokens. Die Auswahl vergleicht das Budget mit Anteilen der wirksamen Gesamtausgabegrenze: xhigh 95 %, high 80 %, medium 50 %, low 20 %, minimal 10 %. Sie wählt den höchsten passenden Anteil und danach die nächste angebotene Stufe. Schon ein kleines positives Budget kann die niedrigste Nichtnullstufe wählen. Sind max_tokens und max_completion_tokens beide gültig, zählt die kleinere Grenze; sonst die deklarierte Ausgabegrenze der Route. Fehlen beide, gilt der Nichtnullstandard oder die niedrigste Stufe. Ein Budget von null ohne Stufe fordert Aus an.
Beispiel: Bei 1000 Tokens Gesamtausgabe und einem Budget von 800 wählt eine Route mit nur low und high die Stufe high. Das verspricht weder höchstens 800 Reasoning-Tokens noch 200 verbleibende Tokens für sichtbaren Text. Eine gesetzte, nicht-null Stufe hat Vorrang vor dem Budget.
Ältere numerische Zuordnungen können ein Budget direkt weitergeben. Die Weitergabe allein belegt keine harte Reasoning-Tokenobergrenze beim Anbieter. Numerische Weitergabe braucht eine deklarierte Ausgabe- oder Kontextgrenze der Route; ein größeres numerisches Budget wird abgewiesen. Diese Zulassungsgrenzen sind kein zusätzlicher Reasoning-Spielraum. Maßgeblich ist der dokumentierte Routenvertrag, nicht allein eine erfolgreiche Anfrage.
curl
curl --request POST \
--url 'https://api.tokenlane.de/v1/chat/completions' \
--header 'Authorization: Bearer YOUR_API_KEY' \
--header 'Content-Type: application/json' \
--data '{
"model": "deepseek/deepseek-v4-flash-0731",
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"max_tokens": 400,
"reasoning": {
"effort": "low"
},
"provider": {
"require_parameters": true
}
}'
node
import OpenAI from 'openai';
const client = new OpenAI({ baseURL: "https://api.tokenlane.de/v1", apiKey: process.env.TOKENLANE_API_KEY });
const response = await client.chat.completions.create({
"model": "deepseek/deepseek-v4-flash-0731",
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"max_tokens": 400,
"reasoning": {
"effort": "low"
},
"provider": {
"require_parameters": true
}
}, {});
console.log(response);
python
import os
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.tokenlane.de/v1", api_key=os.environ["TOKENLANE_API_KEY"])
body = json.loads(r'''{
"model": "deepseek/deepseek-v4-flash-0731",
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"max_tokens": 400,
"reasoning": {
"effort": "low"
},
"provider": {
"require_parameters": true
}
}''')
response = client.chat.completions.create(
model=body["model"],
messages=body["messages"],
max_tokens=body["max_tokens"],
extra_body=json.loads(r'''{
"reasoning": {
"effort": "low"
},
"provider": {
"require_parameters": true
}
}''')
)
print(response)
vercel
import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText } from 'ai';
const tokenlane = createOpenAICompatible({ name: 'tokenlane', baseURL: "https://api.tokenlane.de/v1", apiKey: process.env.TOKENLANE_API_KEY, includeUsage: true });
const result = await generateText({
model: tokenlane("deepseek/deepseek-v4-flash-0731"),
messages: [
{
"role": "user",
"content": "Hello"
}
],
maxOutputTokens: 400,
providerOptions: { tokenlane: {
"reasoning": {
"effort": "low"
},
"provider": {
"require_parameters": true
}
} },
});
console.log(result.text);
Reasoning abschalten
reasoning.effort: "none" oder reasoning.enabled: false fordert das Abschalten der Reasoning-Berechnung an. Soll die Abschaltung verbindlich sein statt nur bestmöglich, zusätzlich provider.require_parameters: true setzen:
{
"reasoning": { "enabled": false },
"provider": { "require_parameters": true }
}
Das Gateway schließt dann Routen ohne kuratierte Abschaltzuordnung oder ohne Erhalt dieser Zuordnung in den wirksamen Adapterparametern vor dem Anbieteraufruf aus. Eine andere passende Route bleibt möglich; Organisations-, Workspace-, Key-, Datenschutz- und Preisvorgaben gelten unverändert. Passt keine Route, folgt 404 no_endpoint ohne Upstream-Aufruf. Die Stufen im Modellkatalog fassen mehrere Routen zusammen und belegen keine Abschaltung beim gepinnten Anbieter. Bloße Weitergabe von enabled: false ist keine Abschaltzusage.
Ohne strikte Parameteranforderung bleibt das bisherige bestmögliche Verhalten: Routen mit verpflichtendem Reasoning verwenden ihre niedrigste Stufe und blenden Reasoning aus der Antwort aus. x-ignored-params nennt den nicht erfüllten Abschaltwunsch. Ausgeblendetes Reasoning kann weiterhin berechnet und abgerechnet werden, auch wenn reasoning_tokens fehlt. Das ist nicht mit einer strikten Abschaltanforderung gleichzusetzen.
Soll nur die Antwort ausgeblendet werden, während die Berechnung erlaubt bleibt, reasoning.exclude: true verwenden (oder die ältere Form include_reasoning: false). Das ist auch bei strikten Parameteranforderungen eine reine Antwortoption. Sie verhindert keine Reasoning-Kosten. Bestätigte Nutzung und Abrechnung werden durch das Ausblenden nicht reduziert.
Widersprüche (enabled: false mit einer anderen Stufe als none, enabled: true mit none oder unterschiedliche Stufenkurzformen) werden mit 400 und dem Feldpfad abgewiesen.
Stufen je Modell
| Modell | Angebotene Stufen | Standard | Abschaltbar |
|---|---|---|---|
deepseek/deepseek-v4-pro-0813 | max, xhigh (Lyceum), high, medium, low | low | ja, bei Lyceum; TensorX denkt immer |
deepseek/deepseek-v4.1-flash-1017 | max, high, medium (Lyceum), low | low | ja, bei Lyceum; TensorX denkt immer |
minimax/minimax-m3 | nur an oder aus | an | ja |
mistralai/mistral-large-4-0 | vorerst nur aus | aus | immer aus |
moonshotai/kimi-k2.7-code | immer an, ohne Stufen | an | nein |
openai/gpt-oss-120b | high, medium, low | low | nein |
qwen/qwen3.5-397b-a17b, qwen/qwen3.5-9b | nur an oder aus | aus | ja |
qwen/qwen3.8-27b, qwen/qwen3.8-flash-next | xhigh, medium, low | low | ja |
z-ai/glm-5.3, z-ai/glm-5.3-flash | max (Grunden), high, low | low | nein |
Nur vorhandene Felder lesen
Anbieter können Reasoning getrennt vom Endergebnis liefern, es weglassen oder nur seine Tokens melden. reasoning.exclude entfernt Reasoning aus der Antwort; es beendet weder Berechnung noch Abrechnung. Sichtbares Reasoning ist keine vollständige Darstellung interner Modellprozesse.
Antworten ohne Inhalt vermeiden
Reasoning zählt zu max_tokens. Verbraucht es die ganze Grenze, endet die Antwort mit finish_reason: length ohne Inhalt. Eine passende Gesamtausgabegrenze und eine niedrigere Stufe wählen oder striktes Aus auf einer passenden Route verwenden. Eine ungefähre Zuordnung von reasoning.max_tokens garantiert keinen Platz für die Antwort. Eine fehlende Grenze ist kein Ausgabenlimit.