Werkzeugaufrufe
Lass ein Modell eine Funktion anfordern, die deine Anwendung kontrolliert ausführt.
Ein Werkzeug beschreiben
Ergänze ein tools-Array mit Funktionsname, Beschreibung und JSON-Schema für Parameter. Wähle ein Modell mit tools-Unterstützung. provider.require_parameters: true verhindert, dass erforderliche Werkzeugparameter an einer ungeeigneten Route still entfallen.
Eine Funktion anbieten
Das Beispiel beschreibt eine Wetterabfrage. Mit tool_choice: auto entscheidet das Modell, ob es sie anfordert; die Funktionsdefinition allein führt keinen Anwendungscode aus.
curl
curl --request POST \
--url 'https://api.tokenlane.de/v1/chat/completions' \
--header 'Authorization: Bearer YOUR_API_KEY' \
--header 'Content-Type: application/json' \
--data '{
"model": "deepseek/deepseek-v4-flash-0731",
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"max_tokens": 400,
"tools": [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Read the weather for a city.",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string"
}
},
"required": [
"city"
],
"additionalProperties": false
}
}
}
],
"tool_choice": "auto",
"provider": {
"require_parameters": true
}
}'
node
import OpenAI from 'openai';
const client = new OpenAI({ baseURL: "https://api.tokenlane.de/v1", apiKey: process.env.TOKENLANE_API_KEY });
const response = await client.chat.completions.create({
"model": "deepseek/deepseek-v4-flash-0731",
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"max_tokens": 400,
"tools": [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Read the weather for a city.",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string"
}
},
"required": [
"city"
],
"additionalProperties": false
}
}
}
],
"tool_choice": "auto",
"provider": {
"require_parameters": true
}
}, {});
console.log(response);
python
import os
import json
from openai import OpenAI
client = OpenAI(base_url="https://api.tokenlane.de/v1", api_key=os.environ["TOKENLANE_API_KEY"])
body = json.loads(r'''{
"model": "deepseek/deepseek-v4-flash-0731",
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"max_tokens": 400,
"tools": [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Read the weather for a city.",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string"
}
},
"required": [
"city"
],
"additionalProperties": false
}
}
}
],
"tool_choice": "auto",
"provider": {
"require_parameters": true
}
}''')
response = client.chat.completions.create(
model=body["model"],
messages=body["messages"],
max_tokens=body["max_tokens"],
tool_choice=body["tool_choice"],
tools=body["tools"],
extra_body=json.loads(r'''{
"provider": {
"require_parameters": true
}
}''')
)
print(response)
vercel
// This operation uses HTTP directly.
const response = await fetch("https://api.tokenlane.de/v1/chat/completions", {
method: "POST",
headers: {
"Authorization": "Bearer " + process.env.TOKENLANE_API_KEY,
"Content-Type": "application/json",
},
body: `{
"model": "deepseek/deepseek-v4-flash-0731",
"messages": [
{
"role": "user",
"content": "Hello"
}
],
"max_tokens": 400,
"tools": [
{
"type": "function",
"function": {
"name": "get_weather",
"description": "Read the weather for a city.",
"parameters": {
"type": "object",
"properties": {
"city": {
"type": "string"
}
},
"required": [
"city"
],
"additionalProperties": false
}
}
}
],
"tool_choice": "auto",
"provider": {
"require_parameters": true
}
}`,
});
console.log(await response.text());
Das Gespräch abschließen
Prüfe message.tool_calls, validiere Funktionsname und geparste Argumente, wende deine Berechtigungen an und führe die erlaubte Aktion aus. Ergänze die Assistant-Nachricht mit dem Aufruf und eine tool-Nachricht mit passender tool_call_id, dann fordere die abschließende Antwort an. Begrenze Werkzeugrunden und verarbeite parallele Aufrufe nur, wenn deine Anwendung sie unterstützt.
Kontrolliert ausführen
Behandle Argumente als nicht vertrauenswürdige Modellausgabe. Ein Modell darf keine Berechtigungen, beliebigen Code oder Ziele erfinden. Wähle bei fehlender Werkzeugunterstützung ein geeignetes Modell; entferne keine Validierung. Nutze Zeitlimits und liefere bei einem Werkzeugfehler ein ausdrückliches Fehlerergebnis zurück.