Configure lower reasoning effort for narrow early investigation reviews
This commit is contained in:
1 parent
d44563650d
commit
0307ebfac0
7 files changed
+188
-3
No files matched your search
@@ -27,3 +27,18 @@ Cache-Anfragen berücksichtigen v16. Der engere Review-Systemprompt und sein Aus
|
||||
Offline-Projektion derselben gespeicherten Bug20-Kontexte, ohne API: die beiden Review-Anfragen sinken von 24547 auf 16220 Zeichen (-33,92 %) und von 24182 auf 16725 (-30,84 %). Reguläre Anfragen verändern sich zwischen +2,50 % (zusätzliche klare Referenzregeln) und -0,92 % (mehr konsolidierbare Herkunftsobjekte). Diese Maßnahme ist dort primär Fehlervermeidung, keine große neue Inputreduktion.
|
||||
|
||||
Einzelwerte: [investigation-v16-offline-20261017.json](measurements/investigation-v16-offline-20261017.json). Die Messung beweist weder weniger Denktokens noch tatsächliche Kostenersparnis. Denkintensität und Ausgabelimit wurden bewusst nicht pauschal abgesenkt. Der weiche Zeichenrichtwert bleibt bestehen; frische Gegenbelege werden dafür nicht abgeschnitten. Ein späterer Live-Regressionstest muss Aufrufzahl, Fehler, Denken, Cache und Ergebnisqualität gemeinsam vergleichen.
|
||||
|
||||
## Separate Denkintensität für die Frühabschluss-Bewertung
|
||||
|
||||
Pro Provider kann `investigation_review_reasoning_effort` gesetzt werden:
|
||||
|
||||
```toml
|
||||
reasoning_effort = "medium"
|
||||
investigation_review_reasoning_effort = "low"
|
||||
```
|
||||
|
||||
Nur der enge v16-Aufruf mit Aufgabe `assess_pending_result_for_early_review`, Status `preparing` und dem auf defer/reject begrenzten Antwortvertrag verwendet diesen Override. Normale Untersuchungsturns, Interpretation, Hypothesengenerierung und finale Diagnose behalten ihre Einstellungen. Für jeden Failover-Provider gilt dessen eigener Wert. Omission übernimmt die bisherige allgemeine Denkintensität; ohne Override bleibt auch der Konfigurationssnapshot mit früheren Operationen kompatibel.
|
||||
|
||||
Gemini erhält den angeforderten Wert als thinkingLevel, der kompatible Adapter als reasoning_effort. Die tatsächlich unterstützten Werte hängen weiterhin vom Modell ab. Keine automatische Abschaltung des Denkens, kein kleineres Ausgabelimit und kein verändertes Hypothesenbudget. Die Call-Metadaten speichern bei Anwendung reasoning_profile=investigation_review und den angeforderten reasoning_effort, auch bei kontrolliert fehlgeschlagenen Antworten. Das beweist die übermittelte Einstellung, nicht deren interne Umsetzung durch den Anbieter; dafür sind gemessene Denktokens maßgeblich.
|
||||
|
||||
Für den nächsten frischen lokalen Vergleich ist `config/llm.early-review.local.toml` vorbereitet: Kopie des bisherigen kompakten Profils, ergänzt um den Override low. Das vorige Profil wurde nicht geändert. Ein Konfigurationswechsel mitten in einer bereits gespeicherten LLM-Operation kann kontrolliert als LLM_OPERATION_CONFLICT abgelehnt werden; neue Vergleiche deshalb mit frischem Testworkspace starten. Es wurden keine kostenpflichtigen Aufrufe zur Einrichtung ausgeführt.
|
||||
Reference in new issue
Block a user