fix(llm): глобальный HTTP_PROXY больше не ломает запросы к localhost - #825
Merged
Conversation
GeminiProvider выставляет HTTP_PROXY/HTTPS_PROXY на весь процесс (VLESS). Из-за этого запросы к локальному vLLM уходили в прокси, а если xray не поднялся — прокси-порт был закрыт, и падало всё подряд: health-check vLLM показывал «недоступен» при живом сервере, ломались tiktoken и HF. - GeminiProvider экспортирует прокси-переменные только если proxy_manager.start() реально удался; иначе снимает свои значения и работает напрямую - VLLMLLMService.client и health-check в modules/llm/router.py создаются с trust_env=False — обращения к localhost больше не зависят от прокси ## NEWS 🔌 **Локальная модель больше не «пропадает» из-за прокси** Раньше при включённом VPN-прокси для облачных моделей система могла ошибочно решить, что локальная модель недоступна, и переключиться на облако. Теперь запросы к локальным сервисам идут напрямую, минуя прокси, а если прокси не запустился — всё продолжает работать без него. Co-Authored-By: Claude Opus 5 (1M context) <noreply@anthropic.com>
This file contains hidden or bidirectional Unicode text that may be interpreted or compiled differently than what appears below. To review, open the file in an editor that reveals hidden Unicode characters.
Learn more about bidirectional Unicode characters
Sign up for free
to join this conversation on GitHub.
Already have an account?
Sign in to comment
1 participant
Add this suggestion to a batch that can be applied as a single commit.This suggestion is invalid because no changes were made to the code.Suggestions cannot be applied while the pull request is closed.Suggestions cannot be applied while viewing a subset of changes.Only one suggestion per line can be applied in a batch.Add this suggestion to a batch that can be applied as a single commit.Applying suggestions on deleted lines is not supported.You must change the existing code in this line in order to create a valid suggestion.Outdated suggestions cannot be applied.This suggestion has been applied or marked resolved.Suggestions cannot be applied from pending reviews.Suggestions cannot be applied on multi-line comments.Suggestions cannot be applied while the pull request is queued to merge.Suggestion cannot be applied right now. Please check back later.
Summary
GeminiProviderэкспортируетHTTP_PROXY/HTTPS_PROXYтолько еслиproxy_manager.start()реально удался. Раньше при незапустившемся xray переменные оставались указывать на закрытый порт — и ломали все http-запросы процесса, а не только запросы к GeminiVLLMLLMService.clientсоздаётся сtrust_env=False— обращения к локальному vLLM больше не уходят в проксиmodules/llm/router.pyтоже сtrust_env=False: именно он показывал «vLLM недоступен» при живом сервереtrust_env=False»Relates to #558
NEWS
🔌 Локальная модель больше не «пропадает» из-за прокси
Раньше при включённом VPN-прокси для облачных моделей система могла ошибочно решить, что локальная модель недоступна, и переключиться на облако. Теперь запросы к локальным сервисам идут напрямую, минуя прокси, а если прокси не запустился — всё продолжает работать без него.
Test plan
ruff check ./ruff format --checkчистоpytest tests/unit— без новых паденийGET /admin/llm/status— vLLM должен определяться как доступный🤖 Generated with Claude Code