25 个开源 AI 项目:从读 PDF 到写代码,都能装在自己机器上
@hey_SpencerAI 这条推的标题带点标题党的味道:「25 个你不该知道的开源 AI 项目」。正文倒是老实,25 条,每条一句话加一个 GitHub 短链,加起来 3,007 个字符。
短链在推文里被截断了,点开还要跳一次。我按名字把 25 个仓库逐个查了一遍 GitHub,记下星数、许可证和最后一次提交,顺手发现三处对不上:有两个仓库已经搬了家、有一个半年没动过。下面按用途分成九组重排,星数都是 2026 年 11 月 21 日的数据。
一、总表:25 个项目,140 万星
| 项目 | 干什么 | 星数 | 许可 |
|---|---|---|---|
| Open Notebook | 开源自建的 NotebookLM | 42.1k | MIT |
| Podcastfy | 把文章、PDF、视频变成播客对话 | 6.8k | Apache-2.0 |
| Screenshot to Code | 截图 / 线框图直接出 HTML、React | 81.3k | MIT |
| Ultimate Vocal Remover | 把人声和伴奏分开 | 27.3k | MIT |
| Krita AI Diffusion | 在 Krita 里生成和改图 | 10.9k | GPL-3.0 |
| Kokoro | 82M 参数的语音合成模型 | 10.3k | Apache-2.0 |
| WhisperX | 带词级时间戳和说话人区分的转写 | 25.6k | BSD-2-Clause |
| Docling | IBM 的文档结构化工具 | 70.8k | MIT |
| PaddleOCR | 多语种图片、扫描件文字识别 | 93.0k | Apache-2.0 |
| ScrapeGraphAI | 用一句话描述要什么,它生成爬虫 | 32.9k | MIT |
| Skyvern | 用视觉 + LLM 跑浏览器流程 | 23.5k | AGPL-3.0 |
| OpenHands | 会写代码、跑命令、上网页的软件工程师 | 94.0k | MIT |
| Goose | 跑在本机、能连你工具的 agent | 56.9k | Apache-2.0 |
| OpenCode | 待在终端里的编码 agent | 228.4k | MIT |
| CrewAI | 多 agent 角色分工做任务 | 61.1k | MIT |
| Letta | 带长期记忆的 agent 框架(原 MemGPT) | 25.5k | Apache-2.0 |
| Repomix | 整个仓库打成 AI 友好的一包 | 29.4k | MIT |
| LightRAG | 图结构 RAG,论文出身的实现 | 40.8k | MIT |
| RAGFlow | 带深度文档理解的 RAG 引擎 | 94.5k | Apache-2.0 |
| LiteLLM | 一套 OpenAI 风格代码调 100+ 模型 | 63.7k | 自定义 |
| llama.cpp | 在普通笔记本上跑 LLM 的引擎 | 135.9k | MIT |
| Unsloth | 省显存地微调开源模型 | 79.9k | Apache-2.0 |
| DSPy | 把提示词当程序来优化 | 39.2k | MIT |
| Langfuse | LLM 应用的链路追踪与分析 | 37.7k | 自定义(含企业目录) |
| Promptfoo | 像测软件一样测提示词、红队 | 27.5k | MIT |
加起来约 144 万星。星数不等于好用,但它至少说明「有人在用」。
二、文档与知识库
Open Notebook(lfnovo/open-notebook)是 NotebookLM 的自建版:把 PDF、网页、音频丢进去,做检索、摘要、结构化笔记。42k 星,TypeScript + Python,MIT。适合对「要上传到别人服务器」这件事心里别扭的人。
Docling(docling-project/docling)解决的是最脏的活:PDF、Word、PPT 转成结构化的东西,保住标题层级、表格和阅读顺序。IBM 出品,MIT,70.8k 星。做 RAG 的都知道这句话:切块质量八成取决于这一层。
PaddleOCR(PaddlePaddle/PaddleOCR)是老牌 OCR,现在也带版面分析,中文、日文、繁体都能认,93k 星。扫描件和截图里的表格,它比多数通用多模态模型稳。
Repomix(yamadashy/repomix)把整个仓库打成一个带目录结构的文件,喂给模型时不至于漏文件。29.4k 星,一条 npx 就能跑。和上面三个不同,它是给「让 AI 读你的代码」准备的。
三、音频与视频
Kokoro(hexgrad/kokoro)是个 82M 参数的小模型,只有几百兆,CPU 上能实时出声,音色自然度在这一档里很突出。仓库里主要是用法和示例,权重在 Hugging Face 的 hexgrad/Kokoro-82M。
WhisperX(m-bain/whisperX)在 Whisper 之上补了两件最常被问的事:词级时间戳和说话人区分(用 pyannote)。25.6k 星,BSD-2。做字幕、做访谈整理,比裸 Whisper 省一大截后处理。
Ultimate Vocal Remover(Anjok07/ultimatevocalremovergui)是给普通用户的分离工具:把人声、鼓、贝斯、伴奏分开,带图形界面,27.3k 星。做二创、做卡拉 OK 伴奏,几乎绕不开它。
Podcastfy(souzatharsis/podcastfy)把文章、PDF、YouTube 链接变成两个人的播客对话,6.8k 星,Apache-2.0。这条要提醒:仓库最后一次提交是 2026 年 5 月,半年多没动,依赖版本容易和新模型对不上,跑之前先看 issue 区。
四、图像
Screenshot to Code(abi/screenshot-to-code)是这一串里知名度最高的之一:丢一张截图或 Figma 风格的线框图进去,出来能跑的 HTML + Tailwind、React 或 Vue 代码。81.3k 星,MIT,还能接不同的多模态模型。
Krita AI Diffusion(Acly/krita-ai-diffusion)是 Krita 的插件,在画布上直接生成、局部重绘、扩图,模型可以全放本地。10.9k 星,GPL-3.0——自己用没问题,想塞进闭源产品要先读许可证。
五、抓数据
ScrapeGraphAI(ScrapeGraphAI/Scrapegraph-ai)的路子是不写选择器:你说「把每个产品的名字、价格、评分取出来」,它生成抓取图并执行。32.9k 星,MIT。适合结构容易变、维护成本高的站点。
Skyvern(Skyvern-AI/skyvern)用视觉加 LLM 操作浏览器:登录、填表、点按钮、下载对账单这类没 API 的流程。23.5k 星。许可证是 AGPL-3.0,走的是浏览器自动化里最严的那一档,商用前务必确认。
六、三个替你写代码的 agent
OpenCode(anomalyco/opencode)待在终端里,22.8 万星,是这 25 个里星数最高的——比 llama.cpp 还高。推文里给的地址是 sst/opencode,GitHub 会 301 跳到新家 anomalyco/opencode,照旧地址克隆也能用。
OpenHands(原 All-Hands-AI/OpenHands,现在 OpenHands/OpenHands)是完整的软件工程师形态:写代码、跑命令、浏览网页、提交 PR,94k 星,MIT。要跑起来建议给足容器资源。
Goose(原 block/goose,现在 aaif-goose/goose)出自 Block,Rust 写的,本地跑、能接你的工具链,56.9k 星。和上两个的区别是它更像个「可扩展的执行器」,不那么像「一个 IDE」。
三个都开源、都能本地跑,差别在形态:终端里顺手用 OpenCode,要端到端干活用 OpenHands,要接自有系统用 Goose。
七、agent 框架与记忆
CrewAI(crewAIInc/CrewAI)用「角色 + 任务」的方式组队,写起来像在排班。61.1k 星,MIT,社区模板多,也意味着容易照抄出一个看起来很忙、实际没产出的团队。
Letta(letta-ai/letta)的前身是 MemGPT,主打长期记忆:把状态、记忆分层存在服务端,agent 重启后还认得你。25.5k 星,Apache-2.0。
八、RAG 的两个方向
LightRAG(HKUDS/LightRAG)用图结构组织实体和关系,查「跨文档的间接关系」比向量检索稳,EMNLP 2025 的论文实现,40.8k 星,MIT。
RAGFlow(infiniflow/ragflow)走的是另一头:把文档解析、切块、检索、引用打通,重心在「解析得准」,94.5k 星,Go + Python。两者不冲突,一个偏检索结构,一个偏工程全套。
九、模型运行时、微调与网关
llama.cpp(ggml-org/llama.cpp)是本地推理的地基,135.9k 星,C++,量化、CPU/GPU 后端、GGUF 格式都从这里来。很多「本地 AI 应用」的内核就是它。
Unsloth(unslothai/unsloth)把微调的显存占用压下来,同一张卡能训更大的模型,79.9k 星,Apache-2.0。现在也带本地 UI,能直接跑和训。
LiteLLM(BerriAI/litellm)是网关:一套 OpenAI 风格的调用打通 100 多个模型提供方,带重试、限额、缓存。63.7k 星,核心用 Rust 写,许可证在 GitHub 上被标成「自定义」(没被识别成标准 OSI 许可),上线前自己读一遍。
十、提示词与评测
DSPy(stanfordnlp/dspy)把「调提示词」换成「写程序 + 优化器」:声明输入输出和指标,让优化器去搜提示和示例。39.2k 星,MIT。适合有标注数据、有明确指标的场合。
Langfuse(langfuse/langfuse)做追踪和评测:每次调用的输入输出、成本、延迟,按版本对比。37.7k 星,自托管友好,但许可证同样被 GitHub 标成「自定义」,商用前确认企业条款。
Promptfoo(promptfoo/promptfoo)把提示词评测做成断言和 CI:跑一批用例、对比两个模型、顺带做红队扫描。27.5k 星,MIT。上线前拦「换了模型效果掉了」这类事故,比人工抽查靠得住。
十一、怎么挑
不用 25 个都装。按手上的活挑一组:
- 只想让 AI 读自己的文档:Docling + RAGFlow(或 LightRAG)+ LiteLLM;
- 要做视频、播客、字幕:WhisperX + UVR + Kokoro,需要成片播客再加 Podcastfy;
- 要让 AI 动浏览器、抓数据:ScrapeGraphAI 起步,流程里必须点按钮、登录的换 Skyvern(注意 AGPL);
- 想让它写代码:终端里用 OpenCode,端到端用 OpenHands;
- 自己训、自己跑:llama.cpp 跑推理,Unsloth 做微调,Langfuse + Promptfoo 管质量。
两个提醒。许可证先看:Skyvern 是 AGPL-3.0,Krita 插件是 GPL-3.0,LiteLLM 和 Langfuse 带自定义条款,这四个别默认「开源就能随便塞进产品」。更新频率也要看:清单里绝大多数仓库 11 月还在提交,Podcastfy 停在 5 月,选它之前先确认你装得起来。
站内另有一篇《不租云也能跑模型:10 个开源仓库搭一套自己的 AI 实验室》,和这份清单只重叠 llama.cpp 和 Unsloth 两个,讲的是同一套硬件怎么排四层栈,可以对着看。
项目地址
原帖:https://x.com/hey_SpencerAI/status/2123746365696323695
- 文档与知识库:open-notebook · docling · PaddleOCR · repomix
- 音频与视频:Kokoro · WhisperX · Ultimate Vocal Remover · Podcastfy
- 图像:screenshot-to-code · krita-ai-diffusion
- 抓数据:Scrapegraph-ai · skyvern
- 编码 agent:opencode · OpenHands · goose
- agent 框架:crewAI · letta
- RAG:LightRAG · ragflow
- 运行时与微调:llama.cpp · unsloth · litellm
- 提示词与评测:dspy · langfuse · promptfoo