Wann helfen feste Antwortformate?

Eine AI-Anwendung kann einen Sachverhalt ausführlich erläutern. Ein nachgelagertes System benötigt dagegen häufig eine klar definierte Ausgabe: Welche Queue soll eine Anfrage übernehmen? Ist eine manuelle Prüfung nötig? Welche vorgegebene Kategorie passt zum Inhalt?

Bei solchen Aufgaben erleichtert ein festes Format die Weiterverarbeitung. Teams können erlaubte Werte vereinbaren, unvollständige Antworten erkennen und Versionen des Entscheidungsschemas nachvollziehbar ändern. Die fachliche Bedeutung der Werte muss trotzdem eindeutig bleiben.

Was sind OpenJev und die TypeSafe System One API?

Die Databricks-Dokumentation beschreibt System One als Format für typisierte Fragen und strukturierte Antworten. Requests laufen über Unity Gateway zu einem Unity-Catalog-Modellservice. OpenJev wird dort als von Databricks gehostetes offenes Modell auf Basis von Qwen3.5 geführt.

Die dokumentierten Fragetypen umfassen binäre Entscheidungen, Auswahlfragen und Bewertungen anhand vorgegebener Kriterien. Voraussetzung ist ein kompatibler Modellservice mit den passenden Ausführungsrechten. Für ein konkretes Vorhaben müssen unterstützte Region, Bereitstellung und Modellbedingungen geprüft werden.

Für die Architektur ist vor allem interessant, dass die fachliche Frage und die erwartete Antwortstruktur explizit werden. Daraus lässt sich ein klarer Vertrag zwischen AI-Baustein und Prozesslogik entwickeln.

Welche Aufgabe übernimmt Unity Gateway?

Unity Gateway stellt einen zentralen Einstieg für Modell- und Toolverkehr bereit. Die Plattform dokumentiert dafür unter anderem Verbrauchserfassung, Limits und Kostenkontrolle. Die angesprochenen Assets und Zugriffe werden in Unity Catalog eingebunden.

Ein registrierter Modellservice hat damit eine andere Rolle als ein beliebiger Modellaufruf aus einem Skript: Zuständigkeit, erlaubte Nutzung und Einbindung können zentral festgelegt werden. Ein Team sollte jeweils prüfen, welche Kontrollen tatsächlich konfiguriert sind und für die gewählte Schnittstelle greifen.

Ein Beispiel: eingehende Anfragen gezielt weiterleiten

Das folgende Beispiel ist fiktiv. Ein Unternehmen möchte eingehende Nachrichten vorstrukturieren. Das Modell bewertet, ob eine Anfrage zu einer Rechnung gehört und ob wesentliche Informationen für die Bearbeitung fehlen.

Der fachliche Auftrag definiert vorher, welche Kategorien zulässig sind und wann ein Mensch übernehmen soll. Die Anwendung überführt das Ergebnis beispielsweise in diesen internen Datensatz:

{
  "routing_label": "invoice_review",
  "needs_human": true,
  "reason_code": "missing_order_reference"
}

Illustratives anwendungsinternes Ergebnisformat; kein Beispiel für die native System-One-API-Antwort.

Ein nachgelagerter Schritt prüft die erlaubten Werte und übergibt den Vorgang an eine definierte Bearbeitungsqueue. Fehlt eine Bestellreferenz, entsteht eine Rückfrage oder ein Prüfauftrag. Eine automatische Zahlung oder Buchung ergibt sich daraus noch nicht: Diese Aktion wäre eine eigenständige fachliche Entscheidung mit eigenen Berechtigungen.

Ein klarer Antwortvertrag macht ein AI-Ergebnis integrierbar. Seine fachliche Zuverlässigkeit muss separat nachgewiesen werden.

Ein gültiges Format kann eine falsche Entscheidung enthalten

Eine Strukturprüfung erkennt etwa ein fehlendes Feld oder einen unzulässigen Kategorienamen. JSON Schema stellt dafür eine Sprache für Struktur und Einschränkungen von JSON-Daten bereit. Ob eine Nachricht inhaltlich richtig eingeordnet wurde, lässt sich daraus allein nicht ableiten.

Für den Test empfehlen wir deshalb repräsentative und schwierige Fälle: kurze Nachrichten, widersprüchliche Angaben, fehlende Informationen und Formulierungen nahe an einer Kategoriengrenze. Ergebnisse werden gegen fachlich bewertete Referenzen geprüft.

Die Kosten unterschiedlicher Fehler sollten dabei sichtbar werden. Eine unnötige manuelle Prüfung hat andere Folgen als eine falsch freigegebene Aktion. Daraus lassen sich passende Regeln für Eskalation und zulässige Automatisierung ableiten. Falls ein Dienst Scores liefert, müssen Bedeutung und Eignung für die konkrete Entscheidung ebenfalls geprüft werden.

Womit lässt sich sinnvoll starten?

Ein guter erster Use Case hat wenige klar unterscheidbare Kategorien, nachvollziehbare Referenzfälle und einen definierten manuellen Rückweg. Die Daten dürfen für diesen Zweck genutzt werden und die Wirkung des Ergebnisses bleibt überschaubar.

Bei Hanlea betrachten wir dafür Datenbasis, Modellanbindung, Governance und Prozessintegration gemeinsam. Bewertet werden Ergebnisqualität, Bearbeitungszeit, Nacharbeit und Aufwand pro nutzbarem Vorgang. So wird erkennbar, ob der Baustein dem tatsächlichen Arbeitsablauf hilft.

Häufige Fragen zu strukturierten AI-Entscheidungen

Garantiert ein JSON-Ergebnis eine korrekte Entscheidung?

Nein. Ein Ergebnis kann formal zum Schema passen und inhaltlich falsch sein. Formatprüfung und fachliche Bewertung erfüllen unterschiedliche Aufgaben.

Sollte eine solche Entscheidung sofort eine Aktion auslösen?

Das hängt vom Prozess und den möglichen Fehlerfolgen ab. Eine Vorstrukturierung mit menschlicher Freigabe kann ein sinnvoller Einstieg sein. Die erlaubten Folgeaktionen müssen ausdrücklich festgelegt werden.

Quellen & weiterführende Informationen

  1. Databricks: Query models with the TypeSafe System One API
  2. Databricks Developer: Unity Gateway
  3. Databricks: Unity Gateway concepts
  4. JSON Schema: What is JSON Schema?

Beispiel, Ergebnisformat und Umsetzungsempfehlungen sind eine eigene illustrative Ausarbeitung von Hanlea.

Zurück zu allen Insights