Open WebUI
本地部署的多模型 Web 界面，支持一个入口即可调用多家厂商的主流大模型，支持按任务切换最合适的模型。
排序
PEFT
参数高效微调库，支持在自有数据上对开源模型做微调，适合算法工程师与研究者使用，上手门槛低，注册即可体验核心功能。
FastChat
开源模型部署与评测，支持在个人电脑上离线运行大模型，适合隐私敏感用户与技术爱好者使用，上手门槛低，注册即可体验核心功能。
LiteLLM
统一调用百余模型的 SDK，支持用一个接口对接多家厂商的模型，统一鉴权与计费，可作为同类产品的备选。
魔搭社区
阿里达摩院，属于模型社区，支持汇聚创作者分享的模型、LoRA 与工作流，国内开源模型第一社区，可作为同类产品的备选。
OpenRLHF
RLHF 训练框架，属于模型微调平台，支持在自有数据上对开源模型做微调，提供数据标注、训练监控与效果评估流程。
硅基流动
国内的模型 API 聚合平台，汇集多家开源模型并统一接口调用，接入方便，适合国内开发者使用，适合日常使用。
ExecuTorch
PyTorch 端侧推理，属于本地模型工具，支持在个人电脑上离线运行大模型，数据不出本地，在同类里口碑较稳。
AnythingLLM
开箱即用的私有知识库工具，支持本地与云端多种模型，导入文档后即可对话问答，也可一键部署到自有服务器，数据不出内网。
Cherry Studio
国产开源多模型桌面客户端，支持一个入口即可调用多家厂商的主流大模型，支持按任务切换最合适的模型，适合日常使用。
ElevenLabs
全球公认最自然的 AI 语音合成服务，情感表现与语调自然度高，支持声音克隆与多语言配音，被大量内容创作者使用。
Stability API
Stability 图像生成 API，属于模型厂商平台，提供自家模型的能力调用与开发接口，涵盖对话、生成、向量等能力。
Groq
以自研芯片提供超高速模型推理的云服务，输出速度远快于常规方案，接口兼容主流格式，适合对延迟敏感的应用。
RunPod
按秒计费的 GPU 云服务，支持一键部署常用训练与推理环境，适合做短时实验与小规模部署，适合日常使用。
DeepInfra
面向开发者的模型推理服务，提供开源模型与部分商用模型的低成本调用，按用量计价，适合做长尾模型的批量推理。
百度千帆
百度的大模型开发平台，提供文心系列及第三方模型的调用、训练与部署能力，中文生态较为完善，适合日常使用。
Annoy
Spotify 开源近邻检索，属于向量数据库，支持为 AI 应用提供向量存储与相似度检索能力，适合日常使用。
Snowflake Cortex
数据云 AI 模型服务，提供自家模型的能力调用与开发接口，涵盖对话、生成、向量等能力，可作为同类产品的备选。
Cloudflare Workers AI
Cloudflare 推出的边缘推理服务，把模型跑在全球节点上，开发者通过 Workers 直接调用，低延迟且按调用量计费。
SambaNova
企业 AI 推理平台，提供自家模型的能力调用与开发接口，涵盖对话、生成、向量等能力，适合快速上手。