FlowModels

Brain nutzen: Unterhaltungen je Endnutzer speichern und fortsetzen

Veröffentlicht am 11. November 2026

Normalerweise schickt deine Anwendung bei jeder Anfrage den ganzen bisherigen Chatverlauf mit. Mit dem Brain FlowModels musst du das nicht. Du gibst nur an, für welchen Endnutzer die Anfrage ist und welche Unterhaltung du fortsetzt. Den Verlauf, die Erinnerungen und die Dokumente dieser Person ergänzen wir selbst.

Ohne und mit Brain

  • Ohne external_identifier gehört der Verlauf dir. Du schickst alle nötigen Nachrichten selbst mit, wir speichern keinen Gesprächsverlauf.
  • Mit external_identifier schaltest du das Brain ein. Wir speichern die Unterhaltung, ziehen passende Erinnerungen und Dateiabschnitte dieser Person heran und passen den Kontext an das Eingabefenster des Modells an.

Beides funktioniert bei /chat/completions und /responses, jeweils auch mit Streaming.

Die erste Nachricht

{
  "model": "groq/openai/gpt-oss-120b",
  "external_identifier": "kunde-1042",
  "messages": [{"role": "user", "content": "Ich plane einen Relaunch unserer Website. Womit fange ich an?"}]
}

external_identifier ist deine eigene, stabile Kennung für die Person, 1 bis 255 Zeichen. Auch eine Kundennummer schickst du als Text, also "1042" statt 1042. Kennen wir die Kennung noch nicht, legen wir den Endnutzer beim ersten Aufruf automatisch an.

Die Antwort enthält zusätzlich das Feld conversation mit einer UUID. Speichere sie zusammen mit dem Chat in deiner Anwendung.

Die Unterhaltung fortsetzen

Bei der nächsten Nachricht schickst du dieselbe Kennung, die conversation und nur die neue Nachricht:

{
  "model": "groq/openai/gpt-oss-120b",
  "external_identifier": "kunde-1042",
  "conversation": "018f1234-5678-7abc-9def-0123456789ab",
  "messages": [{"role": "user", "content": "Gib mir dazu drei konkrete nächste Schritte."}]
}

Schickst du den alten Verlauf trotzdem mit, steht er doppelt im Kontext. Das kostet mehr Tokens und verwirrt das Modell. Lässt du conversation weg, beginnt eine neue Unterhaltung mit demselben Endnutzer. Seine Erinnerungen und Dateien stehen auch dort zur Verfügung.

Drei Kennungen auseinanderhalten

Kennung Woher Wofür
external_identifier aus deinem System ordnet Anfragen einer Person zu
id des Endnutzers aus POST /end-users Verwaltung, Dateien, Löschung
conversation aus der Antwort setzt eine bestimmte Unterhaltung fort

Willst du einen Endnutzer vorab anlegen, etwa um ihm gleich Dokumente zuzuordnen, nutzt du POST /v1/end-users mit external_identifier und optional metadata. Gibt es den Endnutzer schon, bekommst du einfach den vorhandenen zurück.

Was bei langen Unterhaltungen passiert

Wird eine Unterhaltung länger als das Eingabefenster des Modells, fassen wir ältere Abschnitte zusammen und speichern die Zusammenfassung. Die jüngsten Nachrichten bleiben im Wortlaut erhalten. Jeder Abschnitt wird nur einmal zusammengefasst und bezahlt. Auch diese Zusammenfassungen gehören zu deinem Verbrauch. Mehr dazu in Zu langer Verlauf: context_length_exceeded und Verlaufsverdichtung.

Endnutzer in der Oberfläche

Unter Endnutzer siehst du alle Endnutzer mit ihrer Kennung, den Aufrufen und Kosten im laufenden Monat sowie der Zahl ihrer Dateien und Erinnerungen. Wie du die Liste nutzt, steht in Endnutzer deiner Anwendung verwalten.

Die Endnutzerliste mit Aufrufen und Kosten im laufenden Monat und der Zahl der Dateien

Automatische Erinnerungen

Das Brain merkt sich wichtige Angaben aus den Unterhaltungen automatisch als Erinnerungen, etwa „bevorzugt kurze Antworten“. Bei neuen Endnutzern ist das eingeschaltet. Abschalten kannst du es je Endnutzer mit PATCH /end-users/{id} und "memory_extraction_enabled": false. Erinnerungen selbst anlegen und bearbeiten erklärt Erinnerungen eines Endnutzers per API anlegen, suchen und ändern.

Wenn etwas nicht klappt

  • 404 conversation_not_found: Die conversation gibt es nicht, oder sie gehört zu einem anderen Endnutzer. Prüfe, ob du die richtige Kombination aus external_identifier und conversation schickst.
  • 409 conversation_in_progress: Für dieselbe Unterhaltung läuft schon eine Anfrage. Warte deren Antwort ab, bevor du die nächste schickst.
  • Das Brain erinnert sich nicht: Prüfe, ob du external_identifier wirklich im JSON-Inhalt schickst. In der Python-Bibliothek gehört es in extra_body. Das Feld user reicht nicht. Es dient nur der Missbrauchsnachverfolgung und schaltet kein Brain ein.

Gut zu wissen

Verwende als Kennung eine neutrale ID aus deinem System, keine E-Mail-Adresse und keinen Namen. So bleiben personenbezogene Daten bei dir.

War dieser Artikel hilfreich?

Zurück zu Webhooks, Endnutzer & MCP