---
title: "Modellrouting braucht klare Eskalationsregeln"
description: "Neue Modellfamilien machen Routing attraktiv. So definieren Sie Qualitäts-, Kosten- und Risikoschwellen statt Modellwahl dem Zufall zu überlassen."
date: 2026-10-05
lang: de
tags: [governance, kosten, automatisierung, analyse]
author: "thinkai.at"
canonical: https://thinkai.at/blog/modellrouting-braucht-eskalationsregeln/
---

# Modellrouting braucht klare Eskalationsregeln

**Modellrouting** wird zur Betriebsfrage, sobald eine Modellfamilie mehrere Preis-, Geschwindigkeits- und Leistungsstufen anbietet. OpenAI empfiehlt für GPT-6 ausdrücklich, Modell, Reasoning-Aufwand und Geschwindigkeit an den jeweiligen Workload anzupassen. Microsoft bietet dafür in Foundry einen Router, der pro Prompt ein Modell auswählt.

## Ein günstiger Standard reicht nicht

OpenAI positioniert GPT-6.1 Sol zwischen GPT-6 Luna und GPT-6 Astra. Laut Anbieter kostet die API 2 US-Dollar pro Million Input-Token, 0,10 US-Dollar pro Million gecachter Input-Token und 10 US-Dollar pro Million Output-Token. Für besonders schwierige wissenschaftliche Aufgaben empfiehlt OpenAI weiterhin Astra.

Die Konsequenz ist nicht, jedes Team manuell zwischen Modellen wählen zu lassen. Unternehmen brauchen einen Standardpfad für häufige Aufgaben und definierte Gründe für eine Eskalation. Microsoft beschreibt seinen Model Router als eigenes Modell, das in Echtzeit ein passendes LLM aus einem freigegebenen Satz auswählt. Die Entscheidung wird damit automatisierbar, aber nicht automatisch governance-konform.

## Routing braucht messbare Regeln

Ein belastbarer Routingvertrag sollte mindestens fünf Punkte festlegen:

- **Standard:** Welches Modell und welcher Reasoning-Aufwand gelten für Routinefälle?
- **Eskalation:** Welche Aufgabenklasse, fehlgeschlagene Validierung oder Schutzstufe löst ein stärkeres Modell aus?
- **Budget:** Welche Obergrenzen gelten für Latenz und Kosten pro erfolgreichem Vorgang?
- **Freigabe:** Welche Datenklassen, Anbieter, Regionen und Modellversionen darf der Router überhaupt nutzen?
- **Fallback:** Was geschieht bei Timeout, Qualitätsfehler oder nicht verfügbarem Zielmodell?

OpenAI empfiehlt, vor dem Produktivbetrieb repräsentative Aufgaben zu testen und Aufgabenerfolg, Latenz sowie Kosten pro erfolgreicher Aufgabe zu messen. Genau diese Metriken gehören anschließend in die Routing-Telemetrie. Sonst optimiert der Router möglicherweise den Tokenpreis, während Nacharbeit oder Fehlentscheidungen steigen.

## Was DACH-Unternehmen zusätzlich prüfen sollten

Wenn ein Router Modelle mehrerer Anbieter umfasst, müssen Datenschutz, Vertragsgrundlage und gewünschte Verarbeitungsregion für **jeden erlaubten Pfad** geprüft werden. Ein technisch gutes Routing darf keine nicht freigegebene Region oder Datenklasse öffnen.

Beginnen Sie deshalb mit wenigen Aufgabenklassen und einer festen Eskalationsmatrix. Modellrouting ist kein unsichtbarer Optimierer. Es ist eine betriebliche Entscheidung, die Qualität, Kosten und Risiko pro Vorgang nachvollziehbar zusammenführen muss.

## Quellen

- [OpenAI — A model guide for the GPT-6 family](https://openai.com/index/practical-guide-building-gpt-6/)
- [OpenAI — Introducing GPT-6.1 Sol](https://openai.com/index/introducing-gpt-6-1-sol/)
- [Microsoft Learn — Use model router for Microsoft Foundry](https://learn.microsoft.com/en-us/azure/foundry/openai/how-to/model-router?view=foundry-classic)