2026/9/2 13:01:50
FEATURED · 精选文章 
DeepTutor 离线部署实战3 步接入本地 LLM断网也能深度解题附配置清单【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutorDeepTutor 是一个 Agent-Native 个性化学习助手聊天辅导、深度解题、知识库检索、协同写作全部跑在同一个智能体循环上。它原生支持 Ollama、LM Studio、vLLM、llama.cpp 这类本地推理服务也就是说把本地模型接进去整条学习链路可以完全脱离公网运行。这篇文章讲清楚怎么接、知识库怎么本地化、以及哪些坑值得先绕开。1. 离线模式到底能跑什么先说场景教室机房没有外网、机房数据不出楼、或者你只是在一架断网的飞机上想继续复习。这些场景的共同点是——没有云 API只有机器上的模型。DeepTutor 的架构分三层入口层Web 应用 / CLI / SDK、核心功能层聊天、协同写作、引导式学习、深度解题、深度研究、数据智能层知识库、三层记忆、会话笔记本。离线部署的本质就是两件事推理层指到本地模型服务数据层全部落在本地磁盘。把边界说诚实一点离线可用的是本地聊天、deep_solve解题、基于本地知识库的 RAG 问答、协同写作这些不依赖外网的能力联网搜索、论文检索这类功能自然不可用但它们都是可选工具不接就行不会影响其他功能。2. 三步跑通本地环境第一步安装git clone https://gitcode.com/GitHub_Trending/dee/DeepTutor cd DeepTutor python3 -m venv .venv source .venv/bin/activate python -m pip install -e .嫌麻烦也可以直接pip install -U deeptutor装 PyPI 包不用 clone。纯离线机器就在一台有网的机器上把源码和依赖准备好整体拷贝过去——运行数据都在data/目录下仓库本身保持原样即可。第二步起本地模型服务以 Ollama 为例拉两个模型ollama pull qwen2.5:7b ollama pull nomic-embed-text一个负责对话和解题一个负责知识库向量化。Ollama 默认监听 11434 端口两个关键端点记住LLM 走 OpenAI 兼容接口/v1嵌入走/api/embed。第三步初始化并启动deeptutor init deeptutor startdeeptutor init会交互式让你选端口、LLM 提供商和模型。选 OllamaBase URL 填http://localhost:11434/v1API Key 留空本地服务不需要然后deeptutor start把前后端一起拉起来浏览器打开http://127.0.0.1:3782聊天、解题、协同写作在离线状态下都是完整可用的。只想要终端不想要 Web 的话用 CLI 路径deeptutor init --cli之后直接deeptutor run deep_solve 求 d/dx[sin(x^2)]断网时照样一步步出解题过程。3. 离线知识库本地文档 本地向量化知识库是离线学习场景的灵魂。把课件、教材 PDF 导进去没有网络搜索也能基于自己的资料提问。deeptutor kb create my-kb --doc textbook.pdf嵌入端在Settings → Embedding里选 Ollama 适配器Base URL 填http://localhost:11434/api/embed模型选nomic-embed-text。内置适配器已经预置了五个模型的维度映射——all-minilm (384)、all-mpnet-base-v2 (768)、nomic-embed-text (768)、mxbai-embed-large (1024)、snowflake-arctic-embed (1024)——不用自己查维度、填数字。检索全程走本地向量索引Web 界面里的 RAG 问答和 CLI 的deeptutor kb search是同一条管线。文档解析引擎在 Settings 里选 Text-only 或 PyMuPDF4LLM 这类纯本地解析方案把默认关闭的模型下载保持关闭索引构建就不会偷偷联网。4. 避坑清单这几个地方最容易卡换嵌入模型要重建索引。不同模型的向量维度不同混用会检索不到东西。DeepTutor 的索引是版本化的version-N目录重建时旧索引保留所以放心重建不会把能用的索引搞坏。Docker 部署的 localhost 陷阱。容器里的 localhost 是容器自己不是宿主机。要接宿主机上的 Ollama启动时加--add-hosthost.docker.internal:host-gateway然后把 Base URL 写成http://host.docker.internal:11434/v1。这是最常见的模型明明在跑却连不上。慢不是 bug。本地 provider 的超时就默认设了 5 分钟推理模型输出的 thinking 标签也有专门清理逻辑。本地模型生成慢是算力问题先怀疑模型大小别去调超时。别用环境变量强制离线。不需要HF_HUB_OFFLINE之类的东西——只要 LLM、嵌入、文档解析三处都指到本地服务DeepTutor 本来就不会外呼。5. 落地场景一间断网的教室机房假设学校机房 30 台终端、没有外网。做法机房里一台带 GPU 的服务器跑 Ollama起个 13B 的模型同一台服务器部署 DeepTutor3782 端口对局域网开放。学生浏览器打开网页就能用课程 PDF 建一个共享知识库每个学生的会话、记忆、笔记本存在各自隔离的本地空间里数据从头到尾不出这栋楼。部署做一次以后每次上课就是开机、打开浏览器。个人场景同理有独显的笔记本跑 7B 模型deeptutor start之后出门断网也不影响复习节奏。下一步先执行ollama pull nomic-embed-text再按上面三步把deeptutor start跑起来打开 3782 问出第一句话。配置环节卡住时跑一句deeptutor config show看看实际写入的值比翻日志快得多更完整的本地模型端点对照表在 README.md 的 Docker 章节里。【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutor创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考
DeepTutor 离线部署实战：3 步接入本地 LLM，断网也能深度解题（附配置清单）
DeepTutor 离线部署实战3 步接入本地 LLM断网也能深度解题附配置清单【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutorDeepTutor 是一个 Agent-Native 个性化学习助手聊天辅导、深度解题、知识库检索、协同写作全部跑在同一个智能体循环上。它原生支持 Ollama、LM Studio、vLLM、llama.cpp 这类本地推理服务也就是说把本地模型接进去整条学习链路可以完全脱离公网运行。这篇文章讲清楚怎么接、知识库怎么本地化、以及哪些坑值得先绕开。1. 离线模式到底能跑什么先说场景教室机房没有外网、机房数据不出楼、或者你只是在一架断网的飞机上想继续复习。这些场景的共同点是——没有云 API只有机器上的模型。DeepTutor 的架构分三层入口层Web 应用 / CLI / SDK、核心功能层聊天、协同写作、引导式学习、深度解题、深度研究、数据智能层知识库、三层记忆、会话笔记本。离线部署的本质就是两件事推理层指到本地模型服务数据层全部落在本地磁盘。把边界说诚实一点离线可用的是本地聊天、deep_solve解题、基于本地知识库的 RAG 问答、协同写作这些不依赖外网的能力联网搜索、论文检索这类功能自然不可用但它们都是可选工具不接就行不会影响其他功能。2. 三步跑通本地环境第一步安装git clone https://gitcode.com/GitHub_Trending/dee/DeepTutor cd DeepTutor python3 -m venv .venv source .venv/bin/activate python -m pip install -e .嫌麻烦也可以直接pip install -U deeptutor装 PyPI 包不用 clone。纯离线机器就在一台有网的机器上把源码和依赖准备好整体拷贝过去——运行数据都在data/目录下仓库本身保持原样即可。第二步起本地模型服务以 Ollama 为例拉两个模型ollama pull qwen2.5:7b ollama pull nomic-embed-text一个负责对话和解题一个负责知识库向量化。Ollama 默认监听 11434 端口两个关键端点记住LLM 走 OpenAI 兼容接口/v1嵌入走/api/embed。第三步初始化并启动deeptutor init deeptutor startdeeptutor init会交互式让你选端口、LLM 提供商和模型。选 OllamaBase URL 填http://localhost:11434/v1API Key 留空本地服务不需要然后deeptutor start把前后端一起拉起来浏览器打开http://127.0.0.1:3782聊天、解题、协同写作在离线状态下都是完整可用的。只想要终端不想要 Web 的话用 CLI 路径deeptutor init --cli之后直接deeptutor run deep_solve 求 d/dx[sin(x^2)]断网时照样一步步出解题过程。3. 离线知识库本地文档 本地向量化知识库是离线学习场景的灵魂。把课件、教材 PDF 导进去没有网络搜索也能基于自己的资料提问。deeptutor kb create my-kb --doc textbook.pdf嵌入端在Settings → Embedding里选 Ollama 适配器Base URL 填http://localhost:11434/api/embed模型选nomic-embed-text。内置适配器已经预置了五个模型的维度映射——all-minilm (384)、all-mpnet-base-v2 (768)、nomic-embed-text (768)、mxbai-embed-large (1024)、snowflake-arctic-embed (1024)——不用自己查维度、填数字。检索全程走本地向量索引Web 界面里的 RAG 问答和 CLI 的deeptutor kb search是同一条管线。文档解析引擎在 Settings 里选 Text-only 或 PyMuPDF4LLM 这类纯本地解析方案把默认关闭的模型下载保持关闭索引构建就不会偷偷联网。4. 避坑清单这几个地方最容易卡换嵌入模型要重建索引。不同模型的向量维度不同混用会检索不到东西。DeepTutor 的索引是版本化的version-N目录重建时旧索引保留所以放心重建不会把能用的索引搞坏。Docker 部署的 localhost 陷阱。容器里的 localhost 是容器自己不是宿主机。要接宿主机上的 Ollama启动时加--add-hosthost.docker.internal:host-gateway然后把 Base URL 写成http://host.docker.internal:11434/v1。这是最常见的模型明明在跑却连不上。慢不是 bug。本地 provider 的超时就默认设了 5 分钟推理模型输出的 thinking 标签也有专门清理逻辑。本地模型生成慢是算力问题先怀疑模型大小别去调超时。别用环境变量强制离线。不需要HF_HUB_OFFLINE之类的东西——只要 LLM、嵌入、文档解析三处都指到本地服务DeepTutor 本来就不会外呼。5. 落地场景一间断网的教室机房假设学校机房 30 台终端、没有外网。做法机房里一台带 GPU 的服务器跑 Ollama起个 13B 的模型同一台服务器部署 DeepTutor3782 端口对局域网开放。学生浏览器打开网页就能用课程 PDF 建一个共享知识库每个学生的会话、记忆、笔记本存在各自隔离的本地空间里数据从头到尾不出这栋楼。部署做一次以后每次上课就是开机、打开浏览器。个人场景同理有独显的笔记本跑 7B 模型deeptutor start之后出门断网也不影响复习节奏。下一步先执行ollama pull nomic-embed-text再按上面三步把deeptutor start跑起来打开 3782 问出第一句话。配置环节卡住时跑一句deeptutor config show看看实际写入的值比翻日志快得多更完整的本地模型端点对照表在 README.md 的 Docker 章节里。【免费下载链接】DeepTutorDeepTutor: Lifelong Personalized Tutoring. https://deeptutor.info/.项目地址: https://gitcode.com/GitHub_Trending/dee/DeepTutor创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
