GPT4All 是 Nomic AI 维护的本地 AI 项目,提供桌面客户端和 Python 包,可在普通电脑上下载并运行兼容模型。它可以离线聊天,也能用 LocalDocs 把本地资料加入回答;模型文件需要另外下载,并会占用较多磁盘与内存。

系统版本怎么选
- Windows:官方提供 64 位安装程序,也有面向 Qualcomm Snapdragon、Microsoft SQ1/SQ2 等设备的 Windows ARM 构建。
- macOS:官方当前要求 Monterey 12.6 或更新版本,Apple Silicon M 系列体验通常更好。
- Linux:官方安装包当前仅支持 x86-64,不要在 ARM Linux 设备上直接套用。
Windows 和 Linux 的官方说明要求处理器至少达到 Intel Core i3 第二代、AMD Bulldozer 或更高水平。GPU 不是启动的硬性前提,但模型大小和生成速度仍受 CPU、内存与可用加速影响。
桌面版和 Python 包怎么选
只想下载模型、聊天和管理 LocalDocs,选桌面客户端;需要在自己的 Python 程序中加载模型时,再安装官方 gpt4all 包。Python 示例中的模型文件可能有数 GB,运行示例前先检查下载目录和剩余空间。
LocalDocs 能做什么
LocalDocs 会为选定文件建立文本片段与向量索引,让本地模型在回答时参考资料。建立集合前应只选择确实需要的文件夹,并检查支持的文件类型。官方设置还提供使用 Nomic API 在设备外建立集合的选项,启用前需另行评估 API Key、上传内容和隐私要求。
本地 API 服务
桌面设置中可以启用本地 HTTP API,默认端口信息以当前界面为准。它方便其他程序调用已加载模型,但不应未经访问控制直接暴露到公网或不可信局域网;第三方客户端能够发送的内容也可能包括文件与历史对话。
模型和隐私注意事项
- 只从 gpt4all.io、官方文档和 nomic-ai/gpt4all 仓库下载程序。
- 每个模型都有独立许可证、来源和适用范围,客户端代码许可不能代替模型授权。
- 本地推理不需要云端模型 API,但下载、更新、可选 Nomic API 和可选匿名交互分享仍可能联网。
- 模型效果取决于训练数据和量化,不要把名称中的 GPT 理解为 OpenAI 官方模型。
安装结论
普通用户按系统下载桌面版,从小模型开始测试;需要本地资料问答时再建立范围明确的 LocalDocs 集合;开发者使用 Python 包或本地 API 前,应先确认模型路径、内存、许可证和网络暴露范围。

