免费资源

ODS:把电脑变成本地 AI 工作台

检测电脑硬件并组合本地聊天、模型管理、文档检索、自动化、语音和图像服务,附带首轮问答所需的小型 GGUF 模

ODS:把电脑变成本地 AI 工作台资源讲解卡
检测电脑硬件并组合本地聊天、模型管理、文档检索、自动化、语音和图像服务,附带首轮问答所需的小型 GGUF 模

资源介绍

ODS:把电脑变成本地 AI 工作台

资源介绍

想在自己的电脑上使用 AI,却不想分别安装聊天、模型、检索、自动化和图像工具时,ODS 可以检测硬件并把这些服务组合起来。下载包还附带一个适合首轮体验的小型本地模型,完成安装后即可用浏览器开始问答。

它能帮你做什么

  • 根据 CPU、GPU、内存和系统选择能运行的模型配置,打开统一聊天界面。
  • 导入本地文档,用向量检索找回相关内容,再交给模型回答。
  • 用可视化工作流连接本地模型、网页、邮件或其他服务,让步骤按顺序自动执行。
  • 启用语音服务,把讲话转成文字,并把回答朗读出来。
  • 启用图像服务生成图片,同时在控制面板查看 GPU、模型和各项服务状态。

完成第一次本地问答

  1. 启动 Docker 或 Docker Desktop。
  2. 按电脑系统运行安装器,等待基础服务与启动模型就绪。
  3. 打开 http://localhost:3000,输入一个简单问题。

正常情况下,页面会显示一条完整回复。再运行 ods status,看到模型与聊天服务可用,就说明首轮体验完成。

检查硬件与服务状态

打开 http://localhost:3001 查看控制面板,再运行:

bash
ods status
ods doctor

你会看到当前模型、端口、GPU 与服务健康情况。遇到服务没有启动时,先从这里确认是模型仍在加载、端口冲突,还是 Docker 没有准备好。

启用一个本地自动化流程

安装时启用 Workflows,在 n8n 中创建一个触发器和一个模型节点,然后运行一次流程。执行记录中每个节点都完成、最后一个节点留下可读结果,就说明本地模型与自动化服务已经连通。

5 分钟上手

Linux 或 macOS 用户先准备 Docker,再从源码包中进入 ods/ 目录运行:

bash
./install.sh

Windows 10/11 用户先启动启用 WSL2 后端的 Docker Desktop,再在普通 PowerShell 中从源码包根目录运行:

powershell
Set-ExecutionPolicy -Scope Process -ExecutionPolicy Bypass
.\install.ps1

包内 companion-assets/Qwen3.5-2B-Q4_K_M.gguf 是第三方配套启动模型。安装器已经下载同名且哈希一致的文件时无需重复复制;否则可把它放入安装目录的 data/models/,再从模型页面加载。

安装完成后打开 http://localhost:3000。聊天页面能发送问题并得到回复,就是最直接的成功标志。

依赖与费用

  • Linux 需要 Docker Compose v2;Windows 需要 Docker Desktop 与 WSL2;macOS 需要 Apple Silicon 和 Docker Desktop。
  • 为模型与容器预留足够空间。不同硬件会选择不同模型,较大模型需要更多内存和显存。
  • 本包的 2B 启动模型适合验证安装和基础问答,不等于所有硬件的最终推荐模型。
  • 项目本身免费;可选使用 OpenAI、Anthropic、Together、Brave Search 或 Langfuse 等第三方云模型、搜索或托管服务时,按各服务商规则收费。这些服务都可以不用,本包已包含首轮本地问答所需模型。

限制与不适合

适合:

  • 想把聊天、模型管理、文档检索、自动化、语音和图像服务放在同一台电脑上的个人用户或小团队。
  • 愿意维护 Docker 环境,并希望提示词和数据尽量留在本地的人。

下载前要注意:

  • 安装会拉取多个容器镜像并占用较多磁盘;不同 GPU 和系统走不同运行路径;首次启动仍需要等待容器和模型加载。
  • 更大的模型要另外下载。稳定版仍保留未覆盖的视觉、多网络拓扑和下游定制场景,特殊环境应先用最小任务验证。

资源包里有什么

  • source-packages/ODS__v2.6.0__source.zip:固定稳定版源码包。
  • SOURCE_PACKAGE_MANIFEST.json:源码 ZIP 的版本、大小、哈希与静态检查结果。
  • companion-assets/Qwen3.5-2B-Q4_K_M.gguf:第三方配套启动模型。
  • COMPANION_ASSETS.md 与 companion-assets-manifest.json:模型用途、放置位置、限制和哈希。
  • README.md、RELEASE_NOTES.md、LICENSE:项目说明、版本说明和许可文件。
  • 资源使用介绍.pdf:通用资源包使用与安全检查说明。
  • website-card/、manifest.json 与 SHA256SUMS.txt:单张讲解卡和完整文件清单。

资源版本说明

本资源整理自项目方公开内容,对应稳定版 v2.6.0。公开范围包含安装器、硬件检测、模型目录、服务编排、控制面板、CLI、运行文档与测试;包内版本信息和哈希可用清单文件核对。第三方 GGUF 模型与项目源码分开标注,方便识别来源与用途。

这些功能分别能做什么

名称和用途一眼可见;点开后可查看怎么用、会得到什么,以及开始前需要什么。

聊天与推理1

本地聊天与模型管理根据电脑配置选择可运行的模型,并用浏览器打开统一聊天界面。
你可以这样用
完成安装后打开本地聊天页面,输入一个简单问题。
你会得到
页面显示所选本地模型,并返回一条回答。
开始前需要
  • Docker 或 Docker Desktop 已运行
  • 为模型和容器预留足够磁盘空间

知识与搜索1

私有文档检索把本地文档转成可检索内容,在问答时找回相关片段。
你可以这样用
启用 RAG 后导入一份文档,再针对文档内容提问。
你会得到
回答引用与问题相关的本地文档内容。
开始前需要
  • 安装时启用 RAG
  • 准备一份可导入的文本或文档

Agent 与自动化1

工作流自动化用可视化流程把本地模型、网页、邮件或其他服务连接起来。
你可以这样用
启用 n8n,创建一个带触发器和模型步骤的简单流程。
你会得到
触发流程后可以看到每个节点依次执行并产生结果。
开始前需要
  • 安装时启用 Workflows
  • 需要外部服务时准备对应账号

语音1

语音输入与播报把语音转成文字,也可以把生成的文字朗读出来。
你可以这样用
安装时启用 Voice,在支持的界面录入一段语音。
你会得到
语音被转写为文字,并可继续交给本地模型处理。
开始前需要
  • 安装时启用 Voice
  • 电脑有可用麦克风

创作与运维1

图像生成与运行看板在本机使用节点式图像工具,并从控制面板查看服务和 GPU 状态。
你可以这样用
启用图像服务,打开控制面板检查服务健康,再提交一个基础工作流。
你会得到
控制面板显示服务状态,图像工具生成一张本地结果图。
开始前需要
  • 图像模型需另行准备
  • 显存越大越适合生成较大图片

资源信息

资源类型
开源项目
版本
v2.6.0
最近核验
2026.08.30

获取资源

相关推荐