Repository navigation
Conversation
…ournisseur REASONING=off n'était jamais transmis à l'API distante, et REASONING_EFFORT partait dans chat_template_kwargs, un champ propre à llama.cpp que les fournisseurs tolérants ignorent (DeepSeek) et que les stricts rejettent. Les champs llama.cpp (chat_template_kwargs, top_k, min_p, repeat_penalty) ne partent plus que vers un endpoint llama.cpp (local, Modal, EXTERNAL_SERVICE). Une vraie API distante reçoit à la place ses champs natifs : thinking.type + reasoning_effort pour DeepSeek, reasoning_effort pour OpenAI. DeepSeek est reconnu à son hôte ou à son modèle ; la clé EXTERNAL_REASONING permet de forcer le dialecte ou de le couper. Côté interface, l'interrupteur Raisonnement sort de #m-settings-row (il disparaissait pour un preset externe), un effort défini rallume le raisonnement, et --jinja n'est plus écrit dans EXTRA_ARGS d'un preset externe. Fixes nathaninline#178 Co-Authored-By: Claude Code <noreply@anthropic.com>
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
Fixes #178.
Problème
Sur un preset
EXTERNAL=1,REASONING=offn'était jamais transmis à l'API distante etREASONING_EFFORTpartait danschat_template_kwargs, un champ propre aux gabarits jinja de llama.cpp.Mesuré chez DeepSeek avec un proxy d'interception local : le corps envoyé contenait
chat_template_kwargs: {"reasoning_effort":"high"}et aucun champ natif ; l'API a répondu 200 en diffusantreasoning_contentmalgréREASONING=off. Les fournisseurs tolérants ignorent donc le réglage, et les API qui valident strictement le schéma le rejettent.Correctif
chatEndpoint.Templatedistingue un endpoint llama.cpp (local, GPU Modal,EXTERNAL_SERVICE) d'une vraie API distante.chat_template_kwargs,top_k,min_petrepeat_penaltyne partent plus que vers un endpoint llama.cpp.thinking.type+reasoning_effortpour DeepSeek,reasoning_effortde premier niveau pour OpenAI. DeepSeek est reconnu à son hôte ou au préfixe de son modèle ;EXTERNAL_REASONING=deepseek|openai|nonepermet de forcer le dialecte ou de le couper.REASONING=offsans effort envoiethinking: {"type":"disabled"}.#m-settings-row(il disparaissait pour un preset externe), le bloc API externe gagne un sélecteur de dialecte, le raccourci du composeur apparaît pour un preset externe, et--jinjan'est plus écrit dansEXTRA_ARGS.backend_reasoning_test.gocouvre l'endpoint externe sans champ llama.cpp, Modal qui les conserve, les mappages DeepSeek/OpenAI, l'auto-détection et le fournisseur inconnu qui ne reçoit rien.Vérification
go testciblé : vert.gofmt,go vet,staticcheck,verify-i18n: propres.{"thinking":{"type":"enabled"},"reasoning_effort":"high"}, plus aucunchat_template_kwargs; DeepSeek répond 200 avec raisonnement.mainavant et après ce correctif (TestShrinkToFit,TestSystemPromptStaysLean), sans rapport.🤖 Generated with Claude Code