业州愚公在家里安装了本机模型，但发现家里人不敢碰命令列，这使他意识到模型能跑是一回事，但如果没有友好的使用介面，普通用户很难使用。于是他使用开源免费的 Open WebUI 给本机模型一个像 ChatGPT 一样的网页介面，实现了聊天纪录留存、知识库井号引用、两个模型并排对答案等功能，甚至填补了 Docker 连不上 Ollama 的坑。这使得业州愚公的家里人可以轻松使用本机模型，无需再面对复杂的命令列操作。
菜鸟之友系列：《AI 工具实操与提示词》・工具篇作者：业州愚公
晚上十点，我爸举着手机过来问我：「你上次说那个能离线用的 AI，帮我问问退休金那事。」我把笔记本推过去，让他在终端机里输入 ollama run qwen2.5，他盯着那个黑白视窗看了三秒，把手机放下了：「这玩意比你妈的股票软件还难。」那一刻我明白了：模型能跑是一回事，家里人敢用、愿意用，是另一回事。
前面几篇已把本机模型这条路走通了大半：Ollama 负责下载和执行模型，Hugging Face 是模型仓库，LM Studio 提供图形介面，AnythingLLM 专攻文件问答。这套组合对愿意敲命令的人够用了，但有个明显断层——日常使用。
命令列对话有三个硬伤。第一，聊天纪录不留：关掉视窗，问过什么全没了。第二，切模型麻烦：得退出再重新执行。第三，最要命的——它长得一点也不像「AI 助手」。大家已被 ChatGPT 式网页聊天养熟了习惯，一个黑底白字的终端机，看一眼就劝退大多数人。
我想要的是：在自己电脑上跑一个网站，打开浏览器、输入一个类似 localhost 的地址，就是一个和 ChatGPT 长得差不多的聊天页面，背后接的是我自己的本机模型。这个东西存在，它叫 Open WebUI。
Open WebUI 是一个开源专案，最早是社群里专门给 Ollama 做的网页介面（前身就叫 Ollama WebUI），后来功能越长越多，支持的后端也不限于 Ollama——凡是 OpenAI 相容格式的 API（比如 LM Studio 开的本地服务、各种云端模型的介面）都能接，于是改名成了今天的 Open WebUI。
说白了，它不负责「跑模型」，只负责「提供一个漂亮的聊天门户」：模型还是 Ollama 在背后跑，它只是把对话视窗、历史纪录、设置页面做成了网页。服务跑在你自己电脑上，聊天纪录也在你这里，不上传任何云端。它是免费开源软件，安装方式、介面选单等细节以官方最新版本为准。
以下命令都来自官方 README，照抄即可。两种装法效果一样，选你机器上有的那条路就行。
| 安装方式 | 适合谁 | 大致步骤 |
|---|---|---|
| Docker（推荐） | 电脑上装过 Docker 的人 | 一条 docker run 启动容器，浏览器开 http://localhost:3000 |
| pip 安装 | 装有 Python、不想碰 Docker 的人 | pip install open-webui，然后 open-webui serve，浏览器开 http://localhost:8080 |
Docker 那条命令比较长，带了连接埠映射和数据存放的参数，直接去官方 README 复制原样的 docker run 即可，不要自己手打——这类长命令手打十有八九会漏参数。另外官方还提供把 Ollama 一起打包的映像版本，但你机器上已经装好了 Ollama 的话，用普通版、把它连上去就行，不必重复安装。
我选的是 Docker：升级方便（拉个新映像重建容器就行），聊天数据都收在容器挂载的数据目录里，挪机器时整个目录拷走就能搬。
装好启动后，浏览器打开那个本地地址，会先看到一个注册页。第一个注册的账号自动成为管理员，后面家里人再注册就是普通使用者（这个行为以官方最新版本为准）。也就是说，你先注册，把管理权握在自己手里，再让家里人开自己的账号，互不干扰。
接下来是关键一步：把 Ollama 接上。在管理设置里找到 Ollama 的连接位址，本机默认连接埠是 11434。pip 安装的版本填 http://localhost:11434 通常就能通；Docker 版有一个着名的坑，下面第八节单独说。连上之后，回到对话页，点开模型下拉选单——你之前用 Ollama 下载的那些模型，会一个不落全列出来，点一个，开聊。
第一次看到本机模型出现在网页聊天介面里，感觉挺奇妙：介面和云端产品一样流畅，网线拔了照样能答。
| 功能 | 命令列时代 | Open WebUI 里 |
|---|---|---|
| 聊天纪录 | 关视窗即失踪 | 左侧对话列表，每一段都在 |
| 切换模型 | 退出再重新执行 | 下拉选单一点即换，本机云端混着切 |
| 系统提示词 | 每次命令列加参数 | 在模型设置里存成默认，之后每次开聊自动生效 |
| 文件问答 | 基本没辙 | 上传文件建知识库，聊天时 # 引用 |
| 多模型对比 | 开好几个视窗来回切 | 同一个对话勾选多个模型，答案并排显示 |
这五件事里，对我日常影响最大的是系统提示词的持久化。以前我给模型定角色（比如「你是个耐心的税务问答助手」），得每次在命令参数里带上；现在在建好的模型设置页里存一次，之后家里人打开这个「模型」就直接是那个角色，他们不需要知道提示词三个字怎么写。
Open WebUI 内建了文件知识库功能（RAG）。做法是：在工作区（Workspace）里新建一个知识集合，把 PDF、纯文字等文件上传进去；之后在对话输入框里打一个 # 号，选中那个集合，模型的回答就会基于这些文件的内容。
我把我妈的退休金政策问答文件传了一个集合进去，建了一个「家庭社保助手」模型默认。现在她打开介面、选那个模型、用大白话问「我明年几岁能领」，回答里引用的就是我们自己文件里的条目，而不是模型硬编出来的笼统说法。当然，文件问答的品质取决于文件本身的清晰度，问完关键事项仍要人工核对，这个习惯什么时候都不能省。
和上一篇 AnythingLLM 比一下定位：AnythingLLM 更像「文件问答工作区」，一切围绕文件；Open WebUI 更像「通用聊天门户」，文件问答只是它众多功能之一。如果你本机模型的主要用途就是查自家文件，两者选一个就好；如果文件问答只是顺带的，Open WebUI 一站全包更省事。
还有一个我现在很依赖的功能：同一个对话里同时选两个模型，发一个问题，两边答案并排显示。我用它干两件事：一是让小模型和大模型对同一个问题分别作答，看看差距值不值得多等那几秒；二是让本机模型和接进来的云端 API 互相校对，本机答得靠不靠谱，一比就现形。
比如问「帮我把这段话改得口语一点」，七百亿参数级的本机模型和云端旗舰的差距在并排视窗里一目了然——有的问题本机完全够用，有的问题你会立刻明白为什么有人愿意付云端订阅。这种直观的并排对比，命令列时代要开两三个视窗来回滚动，累得很。
坑一：Docker 版连不上 Ollama。 容器内部的 localhost 指的是容器自己，不是你的电脑主机，直接填 localhost:11434 会连不上。解法是官方命令里带的 --add-host=host.docker.internal:host-gateway 参数（所以叫你照抄 README 别手打），位址填 http://host.docker.internal:11434。
坑二：第一次启动要等。 首次下载映像和初始化数据库都得时间，机器慢的话等个几分钟属正常，别以为卡死了反覆重启。
坑三：升级前备份。 升级 Open WebUI 偶尔会伴随介面和设置的变动，菜单位置以官方最新版本为准；稳妥起见，大版本更新前把它的数据目录复制一份备份，聊天纪录和知识库就万无一失。
至此，本机模型系列串成了完整的一套：Hugging Face 找模型 → Ollama 跑模型 → Open WebUI 天天用，LM Studio 管图形化的下载与试玩，AnythingLLM 管深度文件问答。我爸现在开电脑第一件事是点浏览器里那个收藏夹——「AI」，输入几个字就有人搭理他，他不知道也不需要知道背后跑了个什么命令。
工具到位了，接下来就是把问题问好。下一篇预告换个方向：Cherry Studio——一个桌面客户端，同时接住云端模型与你的本机模型，不跑 Docker、不开网页服务，装个软件就有一个多模型工作台，适合觉得自架网站还是麻烦了点的朋友。
工具推荐随身机器人（新用户免费试用 7 天）
不想折腾本机环境，只想手边立刻有个能问事的 AI？「随身机器人」开箱即用，新用户免费试用 7 天：日常问答、写作润色、数据整理都在线上完成，手机电脑随开随用。先免费用一周，再决定要不要走自架这条路也不迟。
下一篇预告： Cherry Studio 桌面客户端——不跑 Docker、不开本地网站服务，装个软件就把云端模型和本机 Ollama 全接进一个多模型工作台，介面配好、开箱即问，本机派和云端派在同一个视窗里和平共处。
业州愚公 ｜ SY 视野（sylogs.com）原创内容，转载请注明出处。
编辑评论 / Editor's Note
这项技术开发使得本机模型更容易被一般用户使用和操作，提供了一个更友好的使用界面。通过Open WebUI，使用者可以轻松地与模型进行交互，无需担心复杂的命令列操作。这项开发有助于普及人工智慧技术，让更多人能够享受其便利。