Anwendungsfall · LLM-Routing
Jeden Prompt zum passenden Modell leiten
Sende den Prompt und deine Routen-Optionen; die Antwort enthält eine Auswahl und eine Wahrscheinlichkeit je Option. Dein Code entscheidet, was daraus folgt: einfache Prompts an ein günstigeres Modell, schwierige an ein stärkeres.
Mit Google oder E-Mail-Link anmelden. Kostenloses Kontingent auf Einladung; Guthaben ab 1 EUR.
Beispielanfrage
Ein Aufruf, fünf Zeilen
Setze DECISIONMODELS_API_KEY auf einen Schlüssel aus deinem Dashboard. Die Anfrage nutzt die EU-Stufe; mit S1-Region: global nutzt du Peer-to-Peer.
Anfrage · POST /v1/systemone
curl https://api.decisionmodels.io/v1/systemone \
-H "Authorization: Bearer $DECISIONMODELS_API_KEY" \
-H "Content-Type: application/json" \
-H "S1-Region: eu" \
-d '{"model":"s1-fast","state":"Fasse diesen 40-seitigen Vertrag zusammen und markiere ungewöhnliche Haftungsklauseln.","questions":{"route":{"type":"choice","instructions":"Welche Modellstufe soll diesen Prompt beantworten?","criteria":{"kleines_modell":null,"grosses_modell":null,"mensch":null}}}}'Beispielantwort
Eine typisierte Antwort mit Wahrscheinlichkeiten
Nur zur Illustration, keine gemessene Modellausgabe. Lies immer die Wahrscheinlichkeit, bevor deine Anwendung handelt.
Antwort · Beispiel
{"id":"dec_example","model":"s1-fast","answers":{"route":{"type":"choice","choice":"grosses_modell","confidence":0.82,"probabilities":{"kleines_modell":0.11,"grosses_modell":0.82,"mensch":0.07}}},"usage":{"input_tokens":214,"output_tokens":0,"decisions":1},"tier":"eu"}Hinweise
Bevor du darauf aufbaust
- Die Routen legst du selbst fest, etwa nach deinen eigenen Zielen oder Warteschlangen.
- Ausgabe-Tokens werden nicht berechnet; eine Entscheidung kostet nur die gesendete Eingabe.
- Einen fertigen Klassifikator für Kategorie, Schwierigkeit, Tragweite und Routing-Flags in einem Aufruf beschreibt s1-llm-auto-router (EN).