業州愚公在家裡安裝了本機模型，但發現家裡人不敢碰命令列，這使他意識到模型能跑是一回事，但如果沒有友好的使用介面，普通用戶很難使用。於是他使用開源免費的 Open WebUI 給本機模型一個像 ChatGPT 一樣的網頁介面，實現了聊天紀錄留存、知識庫井號引用、兩個模型並排對答案等功能，甚至填補了 Docker 連不上 Ollama 的坑。這使得業州愚公的家裡人可以輕鬆使用本機模型，無需再面對複雜的命令列操作。
菜鳥之友系列：《AI 工具實操與提示詞》・工具篇作者：業州愚公
晚上十點，我爸舉著手機過來問我：「你上次說那個能離線用的 AI，幫我問問退休金那事。」我把筆記本推過去，讓他在終端機裡輸入 ollama run qwen2.5，他盯著那個黑白視窗看了三秒，把手機放下了：「這玩意比你媽的股票軟體還難。」那一刻我明白了：模型能跑是一回事，家裡人敢用、願意用，是另一回事。
前面幾篇已把本機模型這條路走通了大半：Ollama 負責下載和執行模型，Hugging Face 是模型倉庫，LM Studio 提供圖形介面，AnythingLLM 專攻文件問答。這套組合對願意敲命令的人夠用了，但有個明顯斷層——日常使用。
命令列對話有三個硬傷。第一，聊天紀錄不留：關掉視窗，問過什麼全沒了。第二，切模型麻煩：得退出再重新執行。第三，最要命的——它長得一點也不像「AI 助手」。大家已被 ChatGPT 式網頁聊天養熟了習慣，一個黑底白字的終端機，看一眼就勸退大多數人。
我想要的是：在自己電腦上跑一個網站，打開瀏覽器、輸入一個類似 localhost 的地址，就是一個和 ChatGPT 長得差不多的聊天頁面，背後接的是我自己的本機模型。這個東西存在，它叫 Open WebUI。
Open WebUI 是一個開源專案，最早是社群裡專門給 Ollama 做的網頁介面（前身就叫 Ollama WebUI），後來功能越長越多，支援的後端也不限於 Ollama——凡是 OpenAI 相容格式的 API（比如 LM Studio 開的本地服務、各種雲端模型的介面）都能接，於是改名成了今天的 Open WebUI。
說白了，它不負責「跑模型」，只負責「提供一個漂亮的聊天門戶」：模型還是 Ollama 在背後跑，它只是把對話視窗、歷史紀錄、設定頁面做成了網頁。服務跑在你自己電腦上，聊天紀錄也在你這裡，不上傳任何雲端。它是免費開源軟體，安裝方式、介面選單等細節以官方最新版本為準。
以下命令都來自官方 README，照抄即可。兩種裝法效果一樣，選你機器上有的那條路就行。
| 安裝方式 | 適合誰 | 大致步驟 |
|---|---|---|
| Docker（推薦） | 電腦上裝過 Docker 的人 | 一條 docker run 啟動容器，瀏覽器開 http://localhost:3000 |
| pip 安裝 | 裝有 Python、不想碰 Docker 的人 | pip install open-webui，然後 open-webui serve，瀏覽器開 http://localhost:8080 |
Docker 那條命令比較長，帶了連接埠映射和資料存放的參數，直接去官方 README 複製原樣的 docker run 即可，不要自己手打——這類長命令手打十有八九會漏參數。另外官方還提供把 Ollama 一起打包的映像版本，但你機器上已經裝好了 Ollama 的話，用普通版、把它連上去就行，不必重複安裝。
我選的是 Docker：升級方便（拉個新映像重建容器就行），聊天資料都收在容器掛載的資料目錄裡，挪機器時整個目錄拷走就能搬。
裝好啟動後，瀏覽器打開那個本地地址，會先看到一個註冊頁。第一個註冊的帳號自動成為管理員，後面家裡人再註冊就是普通使用者（這個行為以官方最新版本為準）。也就是說，你先註冊，把管理權握在自己手裡，再讓家裡人開自己的帳號，互不干擾。
接下來是關鍵一步：把 Ollama 接上。在管理設定裡找到 Ollama 的連接位址，本機預設連接埠是 11434。pip 安裝的版本填 http://localhost:11434 通常就能通；Docker 版有一個著名的坑，下面第八節單獨說。連上之後，回到對話頁，點開模型下拉選單——你之前用 Ollama 下載的那些模型，會一個不落全列出來，點一個，開聊。
第一次看到本機模型出現在網頁聊天介面裡，感覺挺奇妙：介面和雲端產品一樣流暢，網線拔了照樣能答。
| 功能 | 命令列時代 | Open WebUI 裡 |
|---|---|---|
| 聊天紀錄 | 關視窗即失蹤 | 左側對話列表，每一段都在 |
| 切換模型 | 退出再重新執行 | 下拉選單一點即換，本機雲端混著切 |
| 系統提示詞 | 每次命令列加參數 | 在模型設定裡存成預設，之後每次開聊自動生效 |
| 文件問答 | 基本沒轍 | 上傳文件建知識庫，聊天時 # 引用 |
| 多模型對比 | 開好幾個視窗來回切 | 同一個對話勾選多個模型，答案並排顯示 |
這五件事裡，對我日常影響最大的是系統提示詞的持久化。以前我給模型定角色（比如「你是個耐心的稅務問答助手」），得每次在命令參數裡帶上；現在在建好的模型設定頁裡存一次，之後家裡人打開這個「模型」就直接是那個角色，他們不需要知道提示詞三個字怎麼寫。
Open WebUI 內建了文件知識庫功能（RAG）。做法是：在工作區（Workspace）裡新建一個知識集合，把 PDF、純文字等文件上傳進去；之後在對話輸入框裡打一個 # 號，選中那個集合，模型的回答就會基於這些文件的內容。
我把我媽的退休金政策問答文件傳了一個集合進去，建了一個「家庭社保助手」模型預設。現在她打開介面、選那個模型、用大白話問「我明年幾歲能領」，回答裡引用的就是我們自己文件裡的條目，而不是模型硬編出來的籠統說法。當然，文件問答的品質取決於文件本身的清晰度，問完關鍵事項仍要人工核對，這個習慣什麼時候都不能省。
和上一篇 AnythingLLM 比一下定位：AnythingLLM 更像「文件問答工作區」，一切圍繞文件；Open WebUI 更像「通用聊天門戶」，文件問答只是它眾多功能之一。如果你本機模型的主要用途就是查自家文件，兩者選一個就好；如果文件問答只是順帶的，Open WebUI 一站全包更省事。
還有一個我現在很依賴的功能：同一個對話裡同時選兩個模型，發一個問題，兩邊答案並排顯示。我用它幹兩件事：一是讓小模型和大模型對同一個問題分別作答，看看差距值不值得多等那幾秒；二是讓本機模型和接進來的雲端 API 互相校對，本機答得靠不靠譜，一比就現形。
比如問「幫我把這段話改得口語一點」，七百億參數級的本機模型和雲端旗艦的差距在並排視窗裡一目了然——有的問題本機完全夠用，有的問題你會立刻明白為什麼有人願意付雲端訂閱。這種直觀的並排對比，命令列時代要開兩三個視窗來回滾動，累得很。
坑一：Docker 版連不上 Ollama。 容器內部的 localhost 指的是容器自己，不是你的電腦主機，直接填 localhost:11434 會連不上。解法是官方命令裡帶的 --add-host=host.docker.internal:host-gateway 參數（所以叫你照抄 README 別手打），位址填 http://host.docker.internal:11434。
坑二：第一次啟動要等。 首次下載映像和初始化資料庫都得時間，機器慢的話等個幾分鐘屬正常，別以為卡死了反覆重啟。
坑三：升級前備份。 升級 Open WebUI 偶爾會伴隨介面和設定的變動，菜單位置以官方最新版本為準；穩妥起見，大版本更新前把它的資料目錄複製一份備份，聊天紀錄和知識庫就萬無一失。
至此，本機模型系列串成了完整的一套：Hugging Face 找模型 → Ollama 跑模型 → Open WebUI 天天用，LM Studio 管圖形化的下載與試玩，AnythingLLM 管深度文件問答。我爸現在開電腦第一件事是點瀏覽器裡那個收藏夾——「AI」，輸入幾個字就有人搭理他，他不知道也不需要知道背後跑了個什麼命令。
工具到位了，接下來就是把問題問好。下一篇預告換個方向：Cherry Studio——一個桌面客戶端，同時接住雲端模型與你的本機模型，不跑 Docker、不開網頁服務，裝個軟體就有一個多模型工作台，適合覺得自架網站還是麻煩了點的朋友。
工具推薦隨身機器人（新用戶免費試用 7 天）
不想折騰本機環境，只想手邊立刻有個能問事的 AI？「隨身機器人」開箱即用，新用戶免費試用 7 天：日常問答、寫作潤色、資料整理都在線上完成，手機電腦隨開隨用。先免費用一週，再決定要不要走自架這條路也不遲。
下一篇預告： Cherry Studio 桌面客戶端——不跑 Docker、不開本地網站服務，裝個軟體就把雲端模型和本機 Ollama 全接進一個多模型工作台，介面配好、開箱即問，本機派和雲端派在同一個視窗裡和平共處。
業州愚公 ｜ SY 視野（sylogs.com）原創內容，轉載請註明出處。
編輯評論 / Editor's Note
這項技術開發使得本機模型更容易被一般用戶使用和操作，提供了一個更友好的使用界面。通過Open WebUI，使用者可以輕鬆地與模型進行交互，無需擔心複雜的命令列操作。這項開發有助於普及人工智慧技術，讓更多人能夠享受其便利。