Awesome LLM Tools

Awesome-LLM-Tools 是一个专注于收集和整理大语言模型（Large Language Model）生态系统中优秀开源项目和工具的精选资源仓库。

内容目录

项目名称	网址	简介	Star
LiteLLM	LiteLLM	LiteLLM 是一个开源的 LLM（Large Language Model）调用框架，旨在简化大语言模型 API 的调用流程，支持多种 LLM 服务，包括但不限于 OpenAI、Cohere、Anthropic、Ollama、Sagemaker、Hugging Face、Replicate 等，总计超过 100 种。
LitGPT	LitGPT	LitGPT 是一个用于处理大型语言模型 (LLM) 的库，包括开发、微调和部署，支持各种模型。

项目名称	网址	简介
Crawl4AI	crawl4ai	Crawl4AI 是一个开源 Python 库，旨在简化网页抓取并从网页中提取有用信息。
Jin-ai Reader	Jin-ai Reader	Read：使用 https://r.jina.ai/https://your.url 将任何 URL 转换为 LLM 友好型输入。免费为您的代理和 RAG 系统获得改进的输出。 Search：使用 https://s.jina.ai/your+query 在网络上搜索给定查询。这允许您的 LLM 访问网络上最新的世界知识。
LLM Scraper	LLM Scraper	LLM Scraper 是一个 TypeScript 库，允许您使用 LLM 从任何网页提取结构化数据。
firecrawl	firecrawl	Firecrawl 是一种 API 服务，获取 URL、对其进行抓取并将其转换为干净的 markdown 或结构化数据。
Scrapegraph-ai	Scrapegraph-ai	ScrapeGraphAI是一个Python库，专门用于网络爬虫任务。它结合了大型语言模型（LLM）和直接的图逻辑来创建针对网站和本地文档（如XML、HTML、JSON、Markdown等）的抓取管道。
Crawlee	Crawlee	Crawlee 端到端的抓取和爬取工具。
CyberScraper	CyberScraper	CyberScraper 2077 是一款基于人工智能的网络爬虫工具，它利用 OpenAI、Gemini 和 LocalLLM 模型，从网页中提取所需数据。

项目名称	网址	简介
Open WebUI	Open WebUI	Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 Web 用户界面（WebUI），设计用于完全离线操作。它支持多种大型语言模型（LLM）运行器，包括 Ollama 和与 OpenAI 兼容的 API。
Text generation web UI	Text generation web UI	A Gradio web UI for Large Language Models.
AnythingLLM	AnythingLLM	一款全栈应用程序，可以将任何文档、资源或内容转换为上下文，任何 LLM 都可以在聊天期间将其用作参考。此应用程序允许选择要使用的 LLM 或矢量数据库，并支持多用户管理和权限。
LibreChat	LibreChat	LibreChat 将助手 AI 的未来与 OpenAI 的 ChatGPT 革命性技术结合在一起。LibreChat 秉承原创风格，让您能够集成多种 AI 模型。它还集成并增强了原始客户端功能，例如对话和消息搜索、提示模板和插件。
WebLLM	WebLLM	WebLLM 是一款高性能的浏览器内 LLM 推理引擎，它通过硬件加速将语言模型推理直接引入 Web 浏览器。所有内容都在浏览器内运行，无需服务器支持，并通过 WebGPU 加速。
LoLLMs	LoLLMs	LoLLMS WebUI（大型语言多模态系统之王：一个工具统领所有系统），LLM（大型语言模型）和多模态智能系统的枢纽。该项目旨在提供一个用户友好的界面，以访问和利用各种 LLM 和其他 AI 模型来完成各种任务。

项目名称	网址	简介	Star
ProposalLLM	ProposalLLM	标书大模型

本项目遵循 MIT License.