Skip to content

About

本地大模型对话 · 本地分段长对话引擎:让低配电脑也能跑复杂的 AI 长对话、离线运行不联网 —— 把长请求自动拆成 3-8 段,每段独立生成,最后在本地组合成完整回复。100% 本地运行、零云端调用、可预设分段任务、自动保存输出 · Ollama + Python · MIT

Topics

Resources

Contributing

Stars

0 stars

Watchers

0 watching

Forks

Latest commit

 

History

5 Commits

Folders and files

Repository files navigation

PrivateChat

中文速览:低配电脑上跑长对话不再超时 —— 把长请求自动拆成 3-8 段,逐段生成后在本地组合,全程不碰云端。

适合:本地跑大模型对话 · 长问题一上去就超时 · 需要完全离线不出网 · 写长文分段生成 · 没有云端 API 额度

关键词:本地大模型对话 · 长对话分段 · Ollama · 离线 AI · 低配机器跑大模型 · 隐私本地生成 · 本地聊天引擎 · 分段生成 · 无云端 · CPU 超时

本地分段长对话引擎 — 让低配电脑也能跑复杂的 AI 私密对话

Python License Ollama

解决的问题

用 Ollama 本地模型跑复杂长对话时,CPU 经常超时崩溃。PrivateChat 把长请求自动拆成多段,每段独立生成,最后本地组合成完整回复。

✅ 长问题不再超时
✅ 100% 本地运行,零云端调用
✅ 支持预设分段任务
✅ 自动保存输出

快速开始

# 1. 确保 Ollama 已安装并运行 dolphin3
ollama pull dolphin3
ollama serve

# 2. 安装依赖
pip install -r requirements.txt

# 3. 直接问长问题(自动拆分)
python private_chat.py "详细描述一个复杂的场景..."

# 4. 使用预设分段任务
python private_chat.py --task body_desc_task.json

# 5. 从文件读取
python private_chat.py --file question.txt

工作原理

长问题 → 自动拆分(3-8段) → dolphin3 逐段生成 → 本地组合 → 完整输出
         ↑                                       ↑
    分段计划(轻量LLM调用)              无云端依赖,隐私安全

配置

在 .env 文件中设置(首次使用从 .env.example 复制):

SYSTEM_PROMPT_FILE=yinyue_system_prompt.txt
OLLAMA_API=http://127.0.0.1:11434/api/chat
OLLAMA_MODEL=dolphin3

使用场景

  • NSFW 内容生成(完全本地,无审查)
  • 长篇小说/剧本分段创作
  • 复杂技术问题分步解答
  • 任何需要长时间推理的对话

许可

MIT License — 随意使用、修改、分发。


Built with Ollama + Python. No cloud, no censorship, no limits.

About

本地大模型对话 · 本地分段长对话引擎:让低配电脑也能跑复杂的 AI 长对话、离线运行不联网 —— 把长请求自动拆成 3-8 段,每段独立生成,最后在本地组合成完整回复。100% 本地运行、零云端调用、可预设分段任务、自动保存输出 · Ollama + Python · MIT

Topics

Resources

Contributing

Stars

0 stars

Watchers

0 watching

Forks

Releases

Packages

Contributors

Languages