电脑里存了几年的图纸、文档、笔记,想用 AI 帮忙整理,又不想把资料传到网上——这是很多工程师、技术人员的真实处境。
云端 AI 确实方便,但上传的每一份文件都离开你的电脑。对涉及个人隐私或工作内容的资料来说,这个 门槛很高。
本地 AI 的思路不一样:模型在你自己的电脑上运行,资料处理也在本机完成,不需要上传任何文件,断 网环境下也能用。
但本地 AI 的门槛不低——需要装环境、拉模型、调参数。
这正是桌面软件可以做的事。
我做的乾漩 AI 本地通,就是把「本地运行大模型」封装成桌面软件:对话、资料检索、知识库问答都在本机完成。
用 Tauri 2.0 + Rust 实现,安装包小,解压即用。
需要说明的是:软件不内置模型,使用前需要自备 Ollama 环境并下载模型(单个模型约 2–9GB,首次 需联网下载,下载完成后可离线运行)。
这既是门槛,也是透明——模型归你,数据在你电脑上。
适合什么人:有一定技术基础、在意资料隐私、希望断网也能用 AI 的人。
如果你想试试本地 AI,动手搭一次比看十篇文章有用——方法不复杂,门槛主要在第一次下载模型时的耐心。