vLLM
高吞吐的大模型推理引擎，通过显存管理与批处理优化显著提升并发能力，是生产环境部署的常见选择，适合日常使用。
排序
Redis Vector
Redis 向量检索能力，属于向量数据库，支持为 AI 应用提供向量存储与相似度检索能力，在同类里口碑较稳。
阿里云 PAI
阿里云机器学习平台与算力，提供模型训练与推理所需的 GPU 算力，支持按需租用与弹性扩容，适合快速上手。
Oracle Cloud GPU
甲骨文 GPU 云服务，提供模型训练与推理所需的 GPU 算力，支持按需租用与弹性扩容，可作为同类产品的备选。
DMXAPI
国内大模型 API 聚合与转发服务，支持用一个接口对接多家厂商的模型，统一鉴权与计费，适合日常使用。
AutoDL
高校友好的 GPU 租用平台，提供模型训练与推理所需的 GPU 算力，按小时计费，适合日常使用。
百度千帆
百度的大模型开发平台，提供文心系列及第三方模型的调用、训练与部署能力，中文生态较为完善，适合日常使用。
云雾 API
多模型 API 聚合平台，支持用一个接口对接多家厂商的模型，适合开发者与 AI 应用团队使用，值得一试。
Comet API
多模型 API 聚合服务，支持用一个接口对接多家厂商的模型，适合开发者与 AI 应用团队使用，值得一试。
腾讯云 LKE
腾讯大模型知识引擎，支持用一个接口对接多家厂商的模型，适合开发者与 AI 应用团队使用，值得一试。
DeepSeek 本地部署
DeepSeek 模型本地运行，支持在个人电脑上离线运行大模型，数据不出本地，在同类里口碑较稳。
Stability API
Stability 图像生成 API，属于模型厂商平台，提供自家模型的能力调用与开发接口，涵盖对话、生成、向量等能力。
阿里模型服务灵积
阿里云 DashScope 接口，属于API 聚合服务，支持用一个接口对接多家厂商的模型，统一鉴权与计费。
New API
开源多模型 API 网关，支持用一个接口对接多家厂商的模型，统一鉴权与计费，适合有相关需求的用户。
Mistral API
Mistral 模型官方 API，提供自家模型的能力调用与开发接口，涵盖对话、生成、向量等能力，在同类里口碑较稳。
LobeChat
开源的多模型对话框架，支持一个入口即可调用多家厂商的主流大模型，支持按任务切换最合适的模型，适合有相关需求的用户。
Unsloth
微调提速降显存，属于模型微调平台，支持在自有数据上对开源模型做微调，适合算法工程师与研究者使用。
Groq Cloud
LPU 高速推理云，属于模型厂商平台，提供自家模型的能力调用与开发接口，涵盖对话、生成、向量等能力。
TGI
HF 推理部署工具，支持在个人电脑上离线运行大模型，适合隐私敏感用户与技术爱好者使用，上手门槛低，注册即可体验核心功能。
昆仑万维 API
天工系列模型接口，提供自家模型的能力调用与开发接口，涵盖对话、生成、向量等能力，适合有相关需求的用户。