AnythingLLM 是集文档问答、知识库、模型连接和 AI 智能体于一体的开源应用。它既有 Windows、macOS、Linux 桌面版,也能通过 Docker 部署成 Web 服务。选择版本前最重要的是确认个人单机使用还是多人协作。

桌面版和 Docker 版怎么选
- 桌面版:安装简单,数据默认保存在本机,适合单个用户快速建立个人知识库。
- Docker 版:适合服务器和团队,官方 README 明确多用户实例、权限管理和嵌入式聊天组件属于 Docker 版能力。
- 云端部署:仍以自托管 Web 服务为基础,需要自行负责域名、HTTPS、登录、备份、更新和网络安全。
文档问答是怎样工作的
导入文件后,系统会解析文本、切分内容、生成嵌入向量并写入向量数据库;提问时先检索相关片段,再交给语言模型回答。结果不准确时应检查原文质量、切分、嵌入模型和检索范围,不能只反复更换聊天模型。
本地模型和云端模型
AnythingLLM 支持 Ollama、LM Studio 等本地模型,也能连接多种云端 LLM、嵌入服务和向量数据库。使用默认本地组件可减少外部依赖;接入第三方服务后,文档片段或提问可能发往对应平台,费用和数据处理按该平台规则执行。
Docker 部署必须配置什么
- 为应用数据、上传文档、向量索引和模型配置使用明确的持久化目录或卷。
- 首次启动立即设置管理员与用户权限,不把管理界面裸露到公网。
- 通过反向代理启用 HTTPS,并限制防火墙、注册入口和 API 访问。
- 备份必须覆盖持久化目录和必要配置,并实际测试能否恢复。
- 升级前阅读官方说明并创建备份,不直接替换正在使用的实例。
遥测和联网边界
官方仓库说明可在隐私设置中关闭遥测,Docker 或服务器也可用 DISABLE_TELEMETRY 配置。关闭遥测不等于完全离线:外部模型、嵌入服务、向量数据库、模型下载和更新检查仍会产生网络请求,应按实际组件逐一审计。
资料安全注意事项
导入文件前清理密钥、身份证件、客户隐私和不必要附件。智能体还能使用浏览器或其他工具,权限应从只读、小范围开始。AnythingLLM 采用 MIT 许可证,不代表所连接模型、下载模型和外部工具都采用相同许可。
部署结论
个人用户先用桌面版和少量非敏感资料验证检索效果;需要账号隔离、多人共享或网站组件时再选 Docker。正式上线前补齐管理员、HTTPS、持久化、备份和模型数据流向检查。

