Werkzeugaufrufe

Lass ein Modell eine Funktion anfordern, die deine Anwendung kontrolliert ausführt.

Ein Werkzeug beschreiben

Ergänze ein tools-Array mit Funktionsname, Beschreibung und JSON-Schema für Parameter. Wähle ein Modell mit tools-Unterstützung. provider.require_parameters: true verhindert, dass erforderliche Werkzeugparameter an einer ungeeigneten Route still entfallen.

Eine Funktion anbieten

Das Beispiel beschreibt eine Wetterabfrage. Mit tool_choice: auto entscheidet das Modell, ob es sie anfordert; die Funktionsdefinition allein führt keinen Anwendungscode aus.

curl

curl --request POST \
  --url 'https://api.tokenlane.de/v1/chat/completions' \
  --header 'Authorization: Bearer YOUR_API_KEY' \
  --header 'Content-Type: application/json' \
  --data '{
  "model": "deepseek/deepseek-v4-flash-0731",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "max_tokens": 400,
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Read the weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {
            "city": {
              "type": "string"
            }
          },
          "required": [
            "city"
          ],
          "additionalProperties": false
        }
      }
    }
  ],
  "tool_choice": "auto",
  "provider": {
    "require_parameters": true
  }
}'

node

import OpenAI from 'openai';

const client = new OpenAI({ baseURL: "https://api.tokenlane.de/v1", apiKey: process.env.TOKENLANE_API_KEY });
const response = await client.chat.completions.create({
  "model": "deepseek/deepseek-v4-flash-0731",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "max_tokens": 400,
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Read the weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {
            "city": {
              "type": "string"
            }
          },
          "required": [
            "city"
          ],
          "additionalProperties": false
        }
      }
    }
  ],
  "tool_choice": "auto",
  "provider": {
    "require_parameters": true
  }
}, {});
console.log(response);

python

import os
import json
from openai import OpenAI

client = OpenAI(base_url="https://api.tokenlane.de/v1", api_key=os.environ["TOKENLANE_API_KEY"])
body = json.loads(r'''{
  "model": "deepseek/deepseek-v4-flash-0731",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "max_tokens": 400,
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Read the weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {
            "city": {
              "type": "string"
            }
          },
          "required": [
            "city"
          ],
          "additionalProperties": false
        }
      }
    }
  ],
  "tool_choice": "auto",
  "provider": {
    "require_parameters": true
  }
}''')
response = client.chat.completions.create(
    model=body["model"],
    messages=body["messages"],
    max_tokens=body["max_tokens"],
    tool_choice=body["tool_choice"],
    tools=body["tools"],
    extra_body=json.loads(r'''{
  "provider": {
    "require_parameters": true
  }
}''')
)
print(response)

vercel

// This operation uses HTTP directly.
const response = await fetch("https://api.tokenlane.de/v1/chat/completions", {
  method: "POST",
  headers: {
    "Authorization": "Bearer " + process.env.TOKENLANE_API_KEY,
    "Content-Type": "application/json",
  },
  body: `{
  "model": "deepseek/deepseek-v4-flash-0731",
  "messages": [
    {
      "role": "user",
      "content": "Hello"
    }
  ],
  "max_tokens": 400,
  "tools": [
    {
      "type": "function",
      "function": {
        "name": "get_weather",
        "description": "Read the weather for a city.",
        "parameters": {
          "type": "object",
          "properties": {
            "city": {
              "type": "string"
            }
          },
          "required": [
            "city"
          ],
          "additionalProperties": false
        }
      }
    }
  ],
  "tool_choice": "auto",
  "provider": {
    "require_parameters": true
  }
}`,
});
console.log(await response.text());

Das Gespräch abschließen

Prüfe message.tool_calls, validiere Funktionsname und geparste Argumente, wende deine Berechtigungen an und führe die erlaubte Aktion aus. Ergänze die Assistant-Nachricht mit dem Aufruf und eine tool-Nachricht mit passender tool_call_id, dann fordere die abschließende Antwort an. Begrenze Werkzeugrunden und verarbeite parallele Aufrufe nur, wenn deine Anwendung sie unterstützt.

Kontrolliert ausführen

Behandle Argumente als nicht vertrauenswürdige Modellausgabe. Ein Modell darf keine Berechtigungen, beliebigen Code oder Ziele erfinden. Wähle bei fehlender Werkzeugunterstützung ein geeignetes Modell; entferne keine Validierung. Nutze Zeitlimits und liefere bei einem Werkzeugfehler ein ausdrückliches Fehlerergebnis zurück.