统一调用百余模型的 SDK,支持用一个接口对接多家厂商的模型,统一鉴权与计费,可作为同类产品的备选。
LiteLLM 是一款API 聚合服务。它用一个接口对接多家厂商的模型,统一鉴权与计费,支持按任务灵活切换,简化多模型接入的开发与运维成本。处理速度较快,适合批量任务场景。产品主打功能与使用体验的均衡度。目前可免费使用,国内访问需自行准备网络环境,上手门槛较低,注册即可体验核心功能。