正在打开工具详情…
正在打开工具详情…
一体化、本地优先的 AI 应用:接本地或云端 LLM、吃文档、带多用户权限与无代码 Agent 构建器。适合在内网给团队搭私有问答;代价是多用户只在 Docker 版,且默认带遥测。
要在内网给团队搭一套私有 ChatGPT 的人:文档不能出网、需要多人分权限、还想接定时任务与 Agent。
只想单机自己跟文档聊天的人——Ollama + 一个轻量界面就够;也不适合对出站连接有硬性审计要求的环境,遥测与 CDN 拉取要逐项确认。
AnythingLLM 是一个 all-in-one 的 AI 应用:接你喜欢的本地或云端 LLM,把文档喂进去,几分钟开聊,自带 agent、向量库与文档处理管线。模型侧支持得极宽——llama.cpp 兼容模型、OpenAI、Azure、Bedrock、Anthropic、Gemini、Ollama、LM Studio、LocalAI、DeepSeek、Groq、Mistral、LiteLLM 等三十多家;向量库默认 LanceDB,也能换 PGVector、Pinecone、Chroma、Weaviate、Qdrant、Milvus、Zilliz;嵌入、TTS、STT 各有默认与可选项。
它比「一个聊天界面」多的部分在企业与自动化:动态模型路由(按规则把对话分给最合适的模型)、自动与用户管理的记忆、cron 定时任务、智能技能选择(官方称每次查询最多省 80% token)、无代码 Agent 构建器(Agent Flows)、MCP 兼容,以及可嵌入网站的聊天挂件。
三点要提前知道。一是多用户只属于 Docker 版——桌面版(Mac / Windows / Linux)是单机的,要权限、多人实例和嵌入挂件必须走 Docker 部署。二是默认带遥测:收集安装类型、文档增删事件、向量库类型、模型 tag、发消息事件,不收集内容与 IP,provider 是 PostHog;关掉的方式是设 DISABLE_TELEMETRY=true 或在侧栏 Privacy 里关——但即便关掉,用外部 LLM / 向量库、从 cdn.anythingllm.com 拉模型、从 githubusercontent 取缓存文件仍会有出站连接。三是它是 monorepo(frontend / server / collector / docker / embed / browser-extension),改代码就从根目录 yarn setup 填 .env(务必填 server/.env.development),再分别 yarn dev:server、yarn dev:frontend、yarn dev:collector。
上手步骤之外的具体做法:常见场景怎么配、命令怎么写、报错怎么处理。
按第一次部署会卡在哪讲:桌面版与 Docker 版的能力差、模型与向量库怎么选、遥测怎么关,以及改代码时六个目录分别是什么。
这是第一个岔路,而且不是能力多少的问题,是有没有的问题:
| 桌面版 | Docker 版 | |
|---|---|---|
| 安装 | 下载安装包 | Docker / 云模板 |
| 多用户与权限 | 没有 | 有 |
| 可嵌入网站挂件 | 没有 | 有 |
| 适合 | 单机自用 | 团队、内网部署 |
要给别人用,就直接上 Docker 版,别在桌面版上试。
默认就能跑:内置 Native Embedder + LanceDB 向量库,不需要额外服务。
要换的话,README 列的支持面很宽:
先跑通默认组合,再按需要替换,比一上来就配一堆外部服务省时间。
默认开启,收集的是:安装类型、文档增删事件(不含文档内容)、向量库类型、LLM provider 与模型 tag、发消息事件。不收集 IP 与内容,provider 是 PostHog。
bashDISABLE_TELEMETRY=true # 写在 server 或 docker 的 .env 里也可以在应用内 侧栏 > Privacy 里关。要自己核对,README 给了搜 Telemetry.sendTelemetry 调用点的链接。
关掉之后仍有出站连接:外部 LLM / 嵌入 / 向量库各自的服务、cdn.anythingllm.com(拉模型的镜像 CDN,对网络受限地区反而有用)、github / githubusercontent(缓存用的 flat 文件)。有严格出站审计的环境要逐项确认。
值得单独摸一遍的功能:
这几项决定了它和「一个本地聊天框」的差距。
monorepo 六个部分:frontend(Vite + React)、server(Express,管向量库与 LLM)、collector(文档解析)、docker、embed(网页挂件)、browser-extension。
bashyarn setup # 生成各部分的 .env,务必填 server/.env.development
yarn dev:server
yarn dev:frontend
yarn dev:collector