跳到主内容

AnythingLLM 下载与部署:桌面版、Docker 知识库教程

版本 以官网当前版本为准(以官网为准)

Windows、macOS 与 Linux 桌面版

自托管与持久化配置

源码、支持组件与隐私说明

AnythingLLM 是集文档问答、知识库、模型连接和 AI 智能体于一体的开源应用。它既有 Windows、macOS、Linux 桌面版,也能通过 Docker 部署成 Web 服务。选择版本前最重要的是确认个人单机使用还是多人协作。

AnythingLLM 桌面与 Docker 部署步骤示意图
AnythingLLM 可按个人或团队场景选择桌面版和 Docker,导入资料前先确认数据边界。

桌面版和 Docker 版怎么选

  • 桌面版:安装简单,数据默认保存在本机,适合单个用户快速建立个人知识库。
  • Docker 版:适合服务器和团队,官方 README 明确多用户实例、权限管理和嵌入式聊天组件属于 Docker 版能力。
  • 云端部署:仍以自托管 Web 服务为基础,需要自行负责域名、HTTPS、登录、备份、更新和网络安全。

文档问答是怎样工作的

导入文件后,系统会解析文本、切分内容、生成嵌入向量并写入向量数据库;提问时先检索相关片段,再交给语言模型回答。结果不准确时应检查原文质量、切分、嵌入模型和检索范围,不能只反复更换聊天模型。

本地模型和云端模型

AnythingLLM 支持 Ollama、LM Studio 等本地模型,也能连接多种云端 LLM、嵌入服务和向量数据库。使用默认本地组件可减少外部依赖;接入第三方服务后,文档片段或提问可能发往对应平台,费用和数据处理按该平台规则执行。

Docker 部署必须配置什么

  • 为应用数据、上传文档、向量索引和模型配置使用明确的持久化目录或卷。
  • 首次启动立即设置管理员与用户权限,不把管理界面裸露到公网。
  • 通过反向代理启用 HTTPS,并限制防火墙、注册入口和 API 访问。
  • 备份必须覆盖持久化目录和必要配置,并实际测试能否恢复。
  • 升级前阅读官方说明并创建备份,不直接替换正在使用的实例。

遥测和联网边界

官方仓库说明可在隐私设置中关闭遥测,Docker 或服务器也可用 DISABLE_TELEMETRY 配置。关闭遥测不等于完全离线:外部模型、嵌入服务、向量数据库、模型下载和更新检查仍会产生网络请求,应按实际组件逐一审计。

资料安全注意事项

导入文件前清理密钥、身份证件、客户隐私和不必要附件。智能体还能使用浏览器或其他工具,权限应从只读、小范围开始。AnythingLLM 采用 MIT 许可证,不代表所连接模型、下载模型和外部工具都采用相同许可。

部署结论

个人用户先用桌面版和少量非敏感资料验证检索效果;需要账号隔离、多人共享或网站组件时再选 Docker。正式上线前补齐管理员、HTTPS、持久化、备份和模型数据流向检查。

反馈页面信息

请描述需要更正的地方,页面标题和网址会自动附上。

也可以发邮件至 [email protected]