Awesome Building Blocks

Perplexity AI

阿里百炼大模型
Moonshot AI

ZHIPU AI OPEN PLATFORM

阿里云百炼
阿里云登录页

MiniMax 开放平台

Mistral AI | Frontier AI in your hands

Steamship

Fireworks - Generative AI For Product Innovation!

Diffbot | Knowledge Graph, AI Web Data Extraction and Crawling

Semantic Kernel

• 和微软生态衔接, 支持 C#

Langchain

• 快速更新的大语言SDK

llama-index

• 有一个 Llama Pack 的社区有很多DocumentConnector
• 相比Langchain更加偏重于向量检索

LangGraph | 🦜️🔗 Langchain

• 主要用于Agent的搭建

LangSmith

• 主要用于调试、测试、评估和监控生产级LLM应用的平台
• 和Langchain无缝搭配

Ollama

• 一个类似于llama.cpp的推理服务, 简单易用
• 提供OpenAI兼容的API

GitHub - microsoft/DeepSpeed: DeepSpeed is a deep learning optimization library that makes distributed training and inference easy, efficient, and effective.

• 由微软开发的分布式训练推理的优化库
• Apache 2.0 License, 可商用

GitHub - huggingface/accelerate: 🚀 A simple way to train and use PyTorch models with multi-GPU, TPU, mixed-precision

• 由huggingface开发，多GPU训练的代码模板
• Apache 2.0 License, 可商用

Open WebUI

• 一个仿造ChatGPT的Ollama前端
• 支持知识库搭建
• 支持Stable Diffuionsn 的接入
• 又各种Prompt和Systemd Prompt的支持

GitHub - sugarforever/chat-ollama

• 一个界面简单的Ollama前端
• 支持知识库的搭建

FastGPT

• 开源且Apache 2.0
• 特色是支持QA拆分的数据导
• 又一个类似ConfyAI的可视化工作流编辑
• 对外集成了API服务
• 基于HTTP扩展

欢迎使用 Dify | 中文 | Dify

GitHub - chatchat-space/Langchain-Chatchat: Langchain-Chatchat（原Langchain-ChatGLM）基于 Langchain 与 ChatGLM 等语言模型的本地知识库问答 | Langchain-Chatchat (formerly langchain-ChatGLM), local knowledge based LLM (like ChatGLM) QA app with langchain

• 一个完全本地的推理的RAG方案，Apache License
• 支持市面上主流的本地大语言模型和Embedding模型，支持开源的本地向量数据库
• 支持多卡加载, 在线的Embedding服务, 自定义的分词器，Agent工具，微调模型，嵌入模型
• 支持搜索引擎
• 提供了一个非常完善的Wiki Home · chatchat-space/Langchain-Chatchat Wiki · GitHub
  Langchain-Chatchat + 阿里通义千问Qwen 保姆级教程 | 次世代知识管理解决方案 - 知乎

QAnything

Langflow - Create your chatbot!

Flowise - Low code LLM Apps Builder

GitHub - dataelement/bisheng: Bisheng is an open LLM devops platform for next generation AI applications.

MetaGPT/docs/README_CN.md at main · geekan/MetaGPT · GitHub

AutoGen | AutoGen

GPT-Sovits

GitHub - argmaxinc/WhisperKit: Swift native on-device speech recognition with Whisper for Apple Silicon

• 一个方便将OpenAI Whisper模型本地部署集成到Swift项目的包
• WhisperKit：apple手机运行openai语音模型whisper，零门槛构建实时语音识别及翻译，实现终端apple设备0延迟、0费用、高准确识别翻译_哔哩哔哩_bilibili

VALL-E (X)

【AIGC-扩散模型系列15】透明图图层生成，ControlNet作者新作，大利好应用设计领域：Transparent Image Layer Diffusion - 知乎

Sign in to MultiOn

AgentGPT

Luma AI

PopAi: Your Personal AI Workspace