GitHub Featured Open Source

vLLM：高吞吐、低内存占用的 LLM 推理与部署引擎。｜GitHub 镜像 ⭐ 96.3k · 🍴 24.4k

深度学习优化库，让分布式训练和推理更简单高效。｜GitHub 镜像 ⭐ 43.3k · 🍴 5.1k

The fastest and the most accurate file search SDK for AI agents, Neovim, Rust, C, Python, Bun and NodeJS｜GitHub 镜像 ⭐ 11.2k · 🍴 478

开源 AI 引擎，支持 LLM、视觉、语音、图片、视频等任意模型，无需 GPU 即可运行｜GitHub 镜像 ⭐ 50.2k · 🍴 4.6k

开源的 MCP 数据库服务器工具箱。｜GitHub 镜像 ⭐ 16.8k · 🍴 1.8k

Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 20% fewer tokens for coding agents, 60-95% fewer tokens for JSON, same answers. Library, proxy, MCP server.｜GitHub 镜像 ⭐ 78.8k · 🍴 6.2k

免费、开源、自托管的 WhatsApp API 网关｜GitHub 镜像 ⭐ 16.5k · 🍴 3.9k

PArallel Distributed Deep LEarning: Machine Learning Framework from Industrial Practice （『飞桨』核心框架，深度学习&机器学习高性能单机、分布式训练和跨平台部署）｜GitHub 镜像 ⭐ 24.1k · 🍴 6k

领先的智能体元框架：部署多智能体集群、编排自主工作流、构建对话 AI。｜GitHub 镜像 ⭐ 80.8k · 🍴 9.5k

🎭 266 个即插即用的 AI 专家角色 — 支持 Hermes Agent/Claude Code/Cursor/Copilot 等 18 种工具，覆盖工程/设计/营销/金融等 20 个部门。含 50 个中国市场原创智能体（小红书/抖音/微信/飞书/钉钉等）。搭配编排器 agency-orchestrator，一句话即可让多位专家按 DAG 自动协作。｜GitHub 镜像 ⭐ 21.8k · 🍴 3.5k

工业级 C++ RPC 框架，常用于搜索、存储、广告、推荐等高性能系统。｜GitHub 镜像 ⭐ 17.6k · 🍴 4.2k

号称最省 Token 的开源 AI 智能体。｜GitHub 镜像 ⭐ 1.2k · 🍴 112

快速、友好、开源的文档解析器｜GitHub 镜像 ⭐ 13k · 🍴 897

一键获取沉浸式多智能体交互课堂体验的开源项目，由清华大学 MAIC 团队开发。｜GitHub 镜像 ⭐ 42.6k · 🍴 6.6k

Hugging Face 参数高效微调工具包，降低大模型微调的计算成本。｜GitHub 镜像 ⭐ 21.9k · 🍴 2.6k