Anwendungsfall · LLM-Routing

Jeden Prompt zum passenden Modell leiten

Sende den Prompt und deine Routen-Optionen; die Antwort enthält eine Auswahl und eine Wahrscheinlichkeit je Option. Dein Code entscheidet, was daraus folgt: einfache Prompts an ein günstigeres Modell, schwierige an ein stärkeres.

API-Schlüssel holenQuickstart lesen (EN)

Mit Google oder E-Mail-Link anmelden. Kostenloses Kontingent auf Einladung; Guthaben ab 1 EUR.

Beispielanfrage

Ein Aufruf, fünf Zeilen

Setze DECISIONMODELS_API_KEY auf einen Schlüssel aus deinem Dashboard. Die Anfrage nutzt die EU-Stufe; mit S1-Region: global nutzt du Peer-to-Peer.

Anfrage · POST /v1/systemone
curl https://api.decisionmodels.io/v1/systemone \
  -H "Authorization: Bearer $DECISIONMODELS_API_KEY" \
  -H "Content-Type: application/json" \
  -H "S1-Region: eu" \
  -d '{"model":"s1-fast","state":"Fasse diesen 40-seitigen Vertrag zusammen und markiere ungewöhnliche Haftungsklauseln.","questions":{"route":{"type":"choice","instructions":"Welche Modellstufe soll diesen Prompt beantworten?","criteria":{"kleines_modell":null,"grosses_modell":null,"mensch":null}}}}'

Beispielantwort

Eine typisierte Antwort mit Wahrscheinlichkeiten

Nur zur Illustration, keine gemessene Modellausgabe. Lies immer die Wahrscheinlichkeit, bevor deine Anwendung handelt.

Antwort · Beispiel
{"id":"dec_example","model":"s1-fast","answers":{"route":{"type":"choice","choice":"grosses_modell","confidence":0.82,"probabilities":{"kleines_modell":0.11,"grosses_modell":0.82,"mensch":0.07}}},"usage":{"input_tokens":214,"output_tokens":0,"decisions":1},"tier":"eu"}

Hinweise

Bevor du darauf aufbaust