Reasoning

Steuere mit denselben Optionen bei jedem Anbieter, wie viel ein Modell nachdenkt.

Ein Reasoning-Modell wählen

Modelle mit Reasoning führen reasoning in supported_parameters. Das Objekt reasoning im Katalog zeigt die angebotenen Stufen (supported_efforts, höchste zuerst), den Standard (default_effort, default_enabled) und ob sich Reasoning abschalten lässt (mandatory).

Die Stufe festlegen

reasoning.effort und die Kurzform reasoning_effort akzeptieren none, minimal, low, medium, high, xhigh und max. Kuratierte Routen ordnen diese Auswahl ihren nativen Steuerwerten zu. Fehlt eine gewünschte Stufe, verwendet das Gateway die nächste angebotene Stufe; bei gleichem Abstand die höhere. Routen mit exakt passender Stufe werden zuerst versucht. provider.require_parameters: true macht aus diskreten Stufen weder exakte Tokenbudgets noch eine Pflicht zur exakt passenden Nichtnullstufe. Ohne Auswahl gilt der kuratierte Modellstandard. GET /v1/generation meldet die zugeordnete Stufe, soweit verfügbar, als reasoning_effort.

Budget oder harte Grenze?

Auf Routen mit kuratierter Stufenzuordnung ist reasoning.max_tokens eine ungefähre Stufenauswahl, keine harte Grenze für Reasoning-Tokens. Die Auswahl vergleicht das Budget mit Anteilen der wirksamen Gesamtausgabegrenze: xhigh 95 %, high 80 %, medium 50 %, low 20 %, minimal 10 %. Sie wählt den höchsten passenden Anteil und danach die nächste angebotene Stufe. Schon ein kleines positives Budget kann die niedrigste Nichtnullstufe wählen. Sind max_tokens und max_completion_tokens beide gültig, zählt die kleinere Grenze; sonst die deklarierte Ausgabegrenze der Route. Fehlen beide, gilt der Nichtnullstandard oder die niedrigste Stufe. Ein Budget von null ohne Stufe fordert Aus an.

Beispiel: Bei 1000 Tokens Gesamtausgabe und einem Budget von 800 wählt eine Route mit nur low und high die Stufe high. Das verspricht weder höchstens 800 Reasoning-Tokens noch 200 verbleibende Tokens für sichtbaren Text. Eine gesetzte, nicht-null Stufe hat Vorrang vor dem Budget.

Ältere numerische Zuordnungen können ein Budget direkt weitergeben. Die Weitergabe allein belegt keine harte Reasoning-Tokenobergrenze beim Anbieter. Numerische Weitergabe braucht eine deklarierte Ausgabe- oder Kontextgrenze der Route; ein größeres numerisches Budget wird abgewiesen. Diese Zulassungsgrenzen sind kein zusätzlicher Reasoning-Spielraum. Maßgeblich ist der dokumentierte Routenvertrag, nicht allein eine erfolgreiche Anfrage.

curl

curl --request POST \
  --url 'https://api.tokenlane.de/v1/chat/completions' \
  --header 'Authorization: Bearer YOUR_API_KEY' \
  --header 'Content-Type: application/json' \
  --data '{
  "model": "deepseek/deepseek-v4-flash-0731",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "max_tokens": 400,
  "reasoning": {
    "effort": "low"
  },
  "provider": {
    "require_parameters": true
  }
}'

node

import OpenAI from 'openai';

const client = new OpenAI({ baseURL: "https://api.tokenlane.de/v1", apiKey: process.env.TOKENLANE_API_KEY });
const response = await client.chat.completions.create({
  "model": "deepseek/deepseek-v4-flash-0731",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "max_tokens": 400,
  "reasoning": {
    "effort": "low"
  },
  "provider": {
    "require_parameters": true
  }
}, {});
console.log(response);

python

import os
import json
from openai import OpenAI

client = OpenAI(base_url="https://api.tokenlane.de/v1", api_key=os.environ["TOKENLANE_API_KEY"])
body = json.loads(r'''{
  "model": "deepseek/deepseek-v4-flash-0731",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "max_tokens": 400,
  "reasoning": {
    "effort": "low"
  },
  "provider": {
    "require_parameters": true
  }
}''')
response = client.chat.completions.create(
    model=body["model"],
    messages=body["messages"],
    max_tokens=body["max_tokens"],
    extra_body=json.loads(r'''{
  "reasoning": {
    "effort": "low"
  },
  "provider": {
    "require_parameters": true
  }
}''')
)
print(response)

vercel

import { createOpenAICompatible } from '@ai-sdk/openai-compatible';
import { generateText } from 'ai';

const tokenlane = createOpenAICompatible({ name: 'tokenlane', baseURL: "https://api.tokenlane.de/v1", apiKey: process.env.TOKENLANE_API_KEY, includeUsage: true });
const result = await generateText({
  model: tokenlane("deepseek/deepseek-v4-flash-0731"),
  messages: [
  {
    "role": "user",
    "content": "Hello"
  }
],
  maxOutputTokens: 400,
  providerOptions: { tokenlane: {
  "reasoning": {
    "effort": "low"
  },
  "provider": {
    "require_parameters": true
  }
} },
});
console.log(result.text);

Reasoning abschalten

reasoning.effort: "none" oder reasoning.enabled: false fordert das Abschalten der Reasoning-Berechnung an. Soll die Abschaltung verbindlich sein statt nur bestmöglich, zusätzlich provider.require_parameters: true setzen:

{
  "reasoning": { "enabled": false },
  "provider": { "require_parameters": true }
}

Das Gateway schließt dann Routen ohne kuratierte Abschaltzuordnung oder ohne Erhalt dieser Zuordnung in den wirksamen Adapterparametern vor dem Anbieteraufruf aus. Eine andere passende Route bleibt möglich; Organisations-, Workspace-, Key-, Datenschutz- und Preisvorgaben gelten unverändert. Passt keine Route, folgt 404 no_endpoint ohne Upstream-Aufruf. Die Stufen im Modellkatalog fassen mehrere Routen zusammen und belegen keine Abschaltung beim gepinnten Anbieter. Bloße Weitergabe von enabled: false ist keine Abschaltzusage.

Ohne strikte Parameteranforderung bleibt das bisherige bestmögliche Verhalten: Routen mit verpflichtendem Reasoning verwenden ihre niedrigste Stufe und blenden Reasoning aus der Antwort aus. x-ignored-params nennt den nicht erfüllten Abschaltwunsch. Ausgeblendetes Reasoning kann weiterhin berechnet und abgerechnet werden, auch wenn reasoning_tokens fehlt. Das ist nicht mit einer strikten Abschaltanforderung gleichzusetzen.

Soll nur die Antwort ausgeblendet werden, während die Berechnung erlaubt bleibt, reasoning.exclude: true verwenden (oder die ältere Form include_reasoning: false). Das ist auch bei strikten Parameteranforderungen eine reine Antwortoption. Sie verhindert keine Reasoning-Kosten. Bestätigte Nutzung und Abrechnung werden durch das Ausblenden nicht reduziert.

Widersprüche (enabled: false mit einer anderen Stufe als none, enabled: true mit none oder unterschiedliche Stufenkurzformen) werden mit 400 und dem Feldpfad abgewiesen.

Stufen je Modell

ModellAngebotene StufenStandardAbschaltbar
deepseek/deepseek-v4-pro-0813max, xhigh (Lyceum), high, medium, lowlowja, bei Lyceum; TensorX denkt immer
deepseek/deepseek-v4.1-flash-1017max, high, medium (Lyceum), lowlowja, bei Lyceum; TensorX denkt immer
minimax/minimax-m3nur an oder ausanja
mistralai/mistral-large-4-0vorerst nur ausausimmer aus
moonshotai/kimi-k2.7-codeimmer an, ohne Stufenannein
openai/gpt-oss-120bhigh, medium, lowlownein
qwen/qwen3.5-397b-a17b, qwen/qwen3.5-9bnur an oder ausausja
qwen/qwen3.8-27b, qwen/qwen3.8-flash-nextxhigh, medium, lowlowja
z-ai/glm-5.3, z-ai/glm-5.3-flashmax (Grunden), high, lowlownein

Nur vorhandene Felder lesen

Anbieter können Reasoning getrennt vom Endergebnis liefern, es weglassen oder nur seine Tokens melden. reasoning.exclude entfernt Reasoning aus der Antwort; es beendet weder Berechnung noch Abrechnung. Sichtbares Reasoning ist keine vollständige Darstellung interner Modellprozesse.

Antworten ohne Inhalt vermeiden

Reasoning zählt zu max_tokens. Verbraucht es die ganze Grenze, endet die Antwort mit finish_reason: length ohne Inhalt. Eine passende Gesamtausgabegrenze und eine niedrigere Stufe wählen oder striktes Aus auf einer passenden Route verwenden. Eine ungefähre Zuordnung von reasoning.max_tokens garantiert keinen Platz für die Antwort. Eine fehlende Grenze ist kein Ausgabenlimit.